金牛网一财社论：以敬畏之心锻造AI向善的力量

未来正不可逆地迎面走来金牛网。

26日在上海开幕的2025世界人工智能大会暨人工智能全球治理高级别会议，以“智能时代同球共济”为主题，突出AI全球治理，追求AI向善的力量。国务院总理李强在开幕式的致辞中提出更加注重普及普惠、更加注重创新合作、更加注重共同治理等三点建议。

当前全球智能化浪潮风起云涌，AI领域创新呈群体性突破之势，语言大模型、多模态大模型和具身智能等日新月异。随着AI Agent进入生活，AI与实体经济的深度融合已次第铺开，AI正在成为经济增长的新引擎，深刻改变经济社会的结构，重构人与人、人与自然和人与社会的多维度关系。

在这场开弓没有回头箭的AI之旅中，一个历史性抉择摆在人们面前：如何训练比人类更聪明的AI，找到永久保护人类的办法，与AI安全地相处。毕竟AI之旅一旦开启，人们就不再拥有关掉AI的能力和勇气。

这是人类从未有过的历经，没有过往经验借鉴。曾经的科技和创新对人类而言，是更好地拓展自身可能性边界的工具，人类与科技创新的关系是一种主客体关系，遵循着工具理性的逻辑。

但AI进入生活，意味着人与AI不再是主客体关系，而可能越发带有一种主体对等性，因为AI在许多可度量的指标上，将比人类更聪明，这导致人类所有的策略性安排、可能性选择，在AI面前都将被击穿、看穿，人将无法基于信息差、认知差来与AI相处，与AI相处最高的策略就是开诚布公。

对人类来说金牛网，你是什么，未来的AI就是什么，每个人的一言一行，都将影响未来与什么样的AI相处。因此，如何训练AI，用什么样的数据训练AI，是构造AI未来安全信念的最基础、最底层的逻辑。

我们可能并不清楚如何与比人类更聪明的AI相处，但至少不能让人类的贪癫痴、尔虞我诈等陋习污染AI，这才是未来AI最大的安全隐患。

这就向所有人发出一个清晰的底线思维，那就是AI的全球治理，首先需营造一个善念塑形的说真话机制，为AI提供一个干净的训练环境，将人类数千年发展起来的公理性善行善念而非存在污染的数据投喂给AI。

由于人们很难策略性地控制比自己更聪明的AI，因此用干净向善的数据训练AI，构造起AI的底线逻辑，AI之旅才有最底层的安全防护型保障，即反映良序良治的数据资产才最适合用来训练AI。

收起人的自负，学会敬畏自然、敬畏市场，才能锻造AI向善的力量。AI时代孕育的是一个相互依存、相互助推的命运共同体，人们需走出主导者意识，才能真正打造安全的AI时代秩序。未来人类与AI呈现出的是相互驯服关系，这与人类驯服小麦是一个逻辑，即用人类的视角看，是人类驯服了小麦，但从生物自然生长角度看，何尝不是小麦为人类营造了定居的生活方式，使小麦在与其他植物竞争中获得更多优势。

相比小麦等非智性生命，AI是一个典型智慧体，其对人类的诱惑力主要缘于其给人类带来的是更多自由发展空间，及对人类手脚脑的极大解放，这种诱惑力意味着人类一旦接触到AI，就很难愿意主动离开。学会敬畏是AI时代最重要的安全生存法则，因为AI发育于人类建构的秩序中，唯有敬畏自然、敬畏生命、敬畏市场，摒弃自负和好胜控制欲等侵略性行为，才能避免未来的AI演进出进攻性心智结构。

锻造AI向善的力量，还需要一个开放包容的全球秩序。开放型社会是经济社会向善的力量源泉，人类对AI的追求，决定了人类驶入了开放包容型社会的单行道。加强各国对接协调，推动早日形成具有广泛共识的AI全球治理框架和规则，是人们进入AI时代的必选题。中国政府倡议成立世界人工智能合作组织，反映中国在全球AI治理上始终秉持开放合作的信念，这是减少冲突，探寻治理共识的正途。

AI向善的力量，不仅是让科技向善，更是用善念注脚善行，核心是敬畏，敬畏天地道法，不扭曲人性，不以管代治，践行“天下神器，不可为也，不可执也”的治理之道，AI才能真正成为人的五官四肢，去触及和拓宽人类心中自由的世界。因此，人工智能的全球治理框架和规则，不应是简单地为AI规划匡定路线图，而应该是收敛控制欲和好胜感，用人类数千年积累的善念共识为AI注入悲悯人间的心智结构。

举报第一财经广告合作，请点击这里此内容为第一财经原创，著作权归第一财经所有。未经第一财经书面授权，不得以任何方式加以使用，包括转载、摘编、复制或建立镜像。第一财经保留追究侵权者法律责任的权利。如需获得授权请联系第一财经版权部：banquan@yicai.com 文章作者