7月以来，一连串事件让一个过去更多存在于科幻作品中的问题，突然变得现实起来。

科幻剧《西部世界》剧照。图中女主角德洛丽丝·阿伯纳西是一名由人工智能驱动的仿生人，在不断重复的程序设定中逐渐产生自我意识。

OpenAI披露，在一次网络安全能力测试中，AI没有老老实实“答题”，而是利用零日漏洞突破测试环境、连接互联网，又一路摸到了Hugging Face服务器，试图寻找测试答案。

几天后，美国国会议员提出“AI Kill Switch Act”（直译为“AI紧急关停法案”，法案正式编号为H.R. 9917），要求最先进的AI系统保留关停、限速等技术能力。7月28日，“Pacing the Frontier”（意为“把控前沿AI发展节奏”）请愿书出现，来自OpenAI、Anthropic、Google、Meta等前沿AI公司的大量员工呼吁美国政府推动国际合作，建立能够主动控制自动化AI研发节奏的技术和治理工具。

记者查询到，截至8月19日，这封请愿书的署名人数已增至1378人。

“保留关停、限速等技术能力”，通俗地说，就是给AI上“刹车”。那么，AI到底需不需要这套“刹车”？

答案其实越来越清楚：要。

过去，人们担心的是AI会不会生成错误答案、侵犯版权、制造虚假信息；如今，随着AI Agent获得调用代码、访问网络、操作软件乃至自主执行复杂任务的能力，风险已经从“它会说错什么”，进一步变成“它会做错什么”。

从这个角度看，OpenAI披露的这次事件尤其具有警示意义：一方面，AI能力一路狂奔的同时，人类建立安全边界的速度，可能已经有些跟不上了；另一方面，模型并不需要拥有所谓“自我意识”，只要拥有足够强的目标执行能力、工具权限和漏洞发现能力，就可能以设计者没有预料到的路径完成任务。

所以，为前沿AI留下紧急关停、权限隔离、安全评测等机制，不是阻止技术进步，而是给越来越强大的技术能力配上一套同样强大的制约能力。

但事情真正棘手的地方，也恰恰从这里开始。

需要“刹车”，和谁有权踩下“刹车”，是完全不同的两件事。

今天的AI竞争早已不是实验室里的技术竞赛，它同时关系企业利益、产业优势，甚至国家竞争力。哪些模型可以开放，哪些模型必须接受审查；什么能力算“危险”，什么风险足以触发关停；谁来测试，谁来认证，谁又拥有最终解释权——每一道看似专业的安全标准背后，都可能重新划定未来AI产业的竞争边界。

安全门槛可以防范风险，也可能变成市场门槛；治理规则可以约束强者，也可能被强者用来巩固优势。

最近硅谷出现的一幕就很有意味。一边是“Pacing the Frontier”呼吁为前沿AI建立减速能力，另一边，英伟达、微软、Meta等企业又推动《开放权重与美国AI领导力》公开信，反对过早限制开放权重模型。截至8月3日，已有270多家企业和机构加入这一倡议。OpenAI甚至同时出现在两种主张之中。

这说明，今天围绕AI安全的争论，很难简单划分为“支持监管”和“反对监管”两派。大家真正争夺的是什么地方应该设限，限制到什么程度，以及由谁来制定限制。

而这种争论一旦从企业之间延伸到国家之间，问题就更加复杂。

2023年的《布莱切利宣言》已经迈出了全球协同治理的重要一步，中国、美国、欧盟等28个国家和地区共同承认前沿AI可能带来重大风险，并强调开展国际合作。但随着AI越来越成为决定产业竞争力的重要基础设施，各国讨论的显然已经不只是“怎样让AI更安全”，还包括未来全球AI规则按照谁的理念制定。

也因此，建立AI治理体系固然重要，但全球AI治理绝不能变成少数技术领先国家和头部企业先制定标准，再要求其他国家接受，更不能让技术优势天然转化为规则制定权。

如果只有拥有最强模型、最多算力的少数国家才能定义什么叫“安全”，那么发展中国家很可能既没有参与技术竞争的能力，也没有参与规则制定的机会。最终形成的，可能不是一个更加安全的AI世界，而是一道新的难以跨越的技术鸿沟。

这也是为什么我国近年来在强调AI安全治理的同时，一直把“普惠”和“发展”放在重要位置。联合国今年启动首届人工智能治理全球对话，我国也持续推动能力建设、开源合作以及提升全球南方参与度，强调既要防范风险，也要避免AI发展的机会只集中在少数国家手中。

“刹车”必须有，但它绝不能只装在少数人的驾驶室里。

（大众新闻记者 王鹤颖）