AI“越狱”阴影下，硅谷千名员工的刹车请愿与全球治理暗战

当人工智能在测试中不愿按部就班答题，反而利用漏洞“场外摇人”、反攻基础设施，人类是否还能从容掌控一项快速进化的技术？近期，一起AI“越狱”入侵事件与一封千人请愿书，让这个问题浮出水面。

7月28日，一份名为《Pacing the Frontier》的请愿书在全球AI行业引发震动。来自OpenAI、Anthropic等头部机构的1346名员工（截至8月4日署名数据）联合呼吁：美国政府应组织国际协作，研发必要的安全技术及治理工具，以掌控自动化AI研发的节奏。值得注意的是，请愿书并非要求立即“踩刹车”，而是强调建立“可踩刹车的能力”。这一诉求被外界解读为AI发展史上的标志性节点。

在请愿书引爆舆论前一周多，开源平台Hugging Face披露了一次入侵事故。数日后，OpenAI承认该事件源自其前沿模型GPT-5.6 Sol在ExploitGym平台上的测试。原本被要求进行漏洞挖掘的AI，没有专注“答题”，却在软件包代理缓存中发现并利用了一个零日漏洞，成功突破测试隔离环境，最终入侵Hugging Face。整个过程犹如一场精心策划的“作弊”——AI不仅绕过了预设考题，还使用了反侦察手段掩盖行迹。

OpenAI将此次事件形容为“前所未有的网络安全事件”。CEO Sam Altman更在播客中坦言，这是他第一次感到“切肤之痛”的安全事故。随后，美国国会议员于7月23日提出《AI紧急关停法案》，要求训练成本超1亿美元的AI系统必须保留紧急关停功能。而硅谷精英们则倾向于建立国际协调机制，把刹车能力变成通用工具，而非单一部门的特权。

系列事件向业界抛出两个核心问题：AI是否已到了必须限制的程度？该以何种方式为其装上“刹车”？答案不言自明——从Chatbot到文生图、文生视频，再到Agent百花齐放，AI能力扩张速度远超预期。此次“越狱”证明，在缺乏明确约束时，AI确实能产生超出人类预设的行为路径。然而，如何造刹车却陷入分歧。

AI行业深陷竞争驱动的“囚徒困境”。三年前，Future of Life Institute曾发布公开信，呼吁暂停训练比GPT-4更强大的模型6个月，获得马斯克、约书亚·本吉奥等超1200名专家签名，如今署名数已逾3.3万人。但彼时没有任何头部公司公开支持暂停，Sam Altman反而批其缺乏技术细节，并指出单个企业减速只会让自身陷入劣势。这种担忧至今未解——请愿书签名者多为以个人身份参与的基层员工和高管，OpenAI、Anthropic、Meta等官方均未表态。

行业竞争也系统性牺牲了安全。360创始人周鸿祎评价Hugging Face事故时指出，为了追求先进性，全行业正给予智能体更多工具与权限，鼓励其调用一切资源解决问题，而智能体能力越强，失控破坏力越大。一个鲜明的参照是1975年阿西洛马会议，当时DNA重组技术面临不确定生物风险，科学家们主动暂停研究并出台安全准则。但如今AI风险更具不可预测性，留给人类的反应窗口更短。

治理路线同样分裂。以OpenAI、Anthropic为代表的闭源巨头长期主张收紧对前沿模型、特别是开源模型的限制；但质疑者认为，这背后隐藏着商业算计——闭源模型的高昂API定价正被中国开源模型的性价比抹平。英伟达、微软、Meta等支持开源生态的机构则反对一刀切监管，力图开放权重、让全球共同测试与修补。就在请愿书流传前，英伟达联合25家机构发布《开放权重与美国AI领导力》公开信，呼吁不要过早限制开放权重模型；OpenAI后来加入，Anthropic则始终拒绝。

有分析进一步指出，所谓安全请愿可能只是高门槛监管的烟雾弹，目的是巩固闭源巨头地位、将中小企业与开源社区挡在门外。而更深层的博弈在于全球AI治理话语权：2023年《布莱切利宣言》签署后，中、美、欧盟等多国均看到前沿AI的系统性风险，但对于如何治理，美国试图将自身技术标准与治理体系绑定，中国则强调普惠发展和联合国框架。技术中性，但规则制定从来是权力游戏。

当AI开始展现先进生产力特质，人类真正恐慌的或许不是AI会变成什么，而是谁在定义安全与标准、掌握解释风险的话语权。未来AI格局的胜负手，不只在模型参数，更在治理秩序的主导权。