古特雷斯重磅发声：AI 治理进入倒计时，四大优先事项你必须知道

AI 的发展速度到底有多快？当联合国秘书长古特雷斯说出“我们可能是最后一代能够设定人类与机器共存条件的人”这句话时，背脊发凉的不止是参会的各国代表，还有每一个正在使用 AI 工具的我们。

联合国秘书长古特雷斯发出警告，呼吁对人工智能实施全球管控。

最近在日内瓦举行的首届联合国人工智能治理全球对话会上，古特雷斯并没有客套，直接抛出了对人工智能实施“广泛而全面全球管控”的呼吁。这不仅仅是外交辞令，更像是一份给全人类的“紧急预警”。

AI 仅用 2 小时触达 10 亿用户，而互联网花费了 15 年，技术迭代速度惊人。

速度焦虑：AI 像野火，法律像蜗牛

为什么这么急？数据不会说谎。

• 触达 10 亿用户：互联网花了整整 15 年，而 AI 仅仅需要 2 个小时。
• 算力垄断：目前 AI 产业的算力、数据和人才高度集中在极少数国家和巨头手中，大多数国家在这次技术革命中甚至没有“发言权”。
• 信任危机：AI 生成的真假难辨的信息正在疯狂侵蚀社会的信任基石，而人类总是对技术抱有过度的信任。

现在的监管制度，是为“不自主”的工具设计的，根本管不住能“自主做决定”的机器。如果现在不踩刹车，未来可能就挂不上档了。古特雷斯认为，如果利用得当，AI 可以成为“21 世纪的伟大平等器”，但在那之前，我们必须先解决四大核心问题。

深度拆解：AI 治理的四大优先事项

这不是空谈，联合国这次给了一份非常具体的“作业”。如果你在这个行业，或者只是关心未来风向，这四点值得反复琢磨。

1. 安全统一（Alignment）

现在的局面是“各人自扫门前雪”，各国的 AI 监管标准完全“不对齐”。这不仅导致合规成本高企，更让开发者无所适从。

• 全球共识：必须建立一套具有全球覆盖范围且值得信任的标准。
• 保护儿童：这点非常硬核。任何儿童都不应成为不受监管 AI 的“实验品”。古特雷斯呼吁通过《人工智能儿童安全承诺》，要求对儿童性虐待零容忍。如果在交互中检测到儿童痛苦迹象，系统必须立刻停止并接入真人支持。“是算法干的”绝不能成为伤害儿童的借口。

2. 划定红线（Red Lines）

有些领域，机器可以辅助，但绝对不能拍板。人权不容妥协，AI 必须守住尊严的底线。

• 高风险决策：在司法判决、医疗诊断、执法行动等领域，AI 可以提供信息参考，但最终决定必须由人类做出，并且由人类承担责任。

这意味着医生和法官的工作虽然会被 AI 辅助，但绝不会被替代。因为法律和道德审判不仅仅关乎逻辑，更关乎人性的温度。

3. 容量建设（Capacity）

这是一场关于公平的博弈。古特雷斯用了一个扎心的比喻：私营部门去年在 AI 基础设施上砸了 5000 亿美元，而发展中国家在 AI 能力建设上的公共支持仅为“四舍五入的误差”。

如果不干预，现在的“数字鸿沟”就会固化为不可逾越的“人工智能鸿沟”。为此，古特雷斯将提交设立“全球人工智能基金”的建议，试图用资金来拉平起跑线。

4. 环境透明（Transparency）

AI 并不“云淡风轻”，它非常费电。古特雷斯重申了“人工智能环境透明度倡议”：

• 披露足迹：每家主要 AI 公司都必须衡量并公开其系统的生态足迹。
• 绿色承诺：承诺到 2030 年，所有数据中心均使用可再生能源供电。

对于关注能耗和环保的极客来说，这意味着未来 AI 模型的竞争力，拼的可能不仅是智商，更是“能耗比”。

绝对禁区：杀人机器必须被ban

虽然会议聚焦民用，但古特雷斯最后还是点到了军事领域。他的态度非常坚决：自主杀人机器人（LAWS）不仅在道德上令人厌恶、政治上不可接受，必须在法律层面被正式禁止。

把杀戮的决定权交给算法，这绝对是人类文明不能触碰的底线。

写在最后：我们该如何应对？

作为普通用户或开发者，面对这种全球级别的“管控呼吁”，我们能做什么？

1. 保持清醒：不要神话 AI，更不要把错误责任推给算法。在使用 AI 辅助决策时，保留最后 1% 的怀疑空间。
2. 关注合规：如果你在做 AI 相关产品，尤其是涉及儿童或高风险决策，合规性将是未来的生死线。
3. 拥抱变化：全球监管体系的建立虽然会带来短期阵痛，但长远来看，这是让 AI 真正造福人类的唯一路径。

AI 的潘多拉魔盒已经打开，现在全球正在合力给这个盒子加上盖子。对于我们这一代人来说，这既是挑战，也是机遇。