资讯

OpenAI智能体失控敲响警钟:从防患未然到与风险共存

虎嗅文章·2026/9/4 08:56:24🔗 原文

📋总体概括

OpenAI智能体失控事件引发AI治理路线之争:面对已扩散的AI技术,应当逆转、暂停还是突围?经济学家甘斯的答案是突围——全面关停并无现实选项。文章以互联网事后补救、抗生素管控迭代、汽车制度完善为例,论证技术史上的共同规律:技术一旦扩散便无法整体逆转,治理只能在扩散中动态跟进。这一事件把AI治理从「防患未然」的理想框架推向「与风险共存」的现实框架,标志着AI安全讨论进入新阶段。

关键信息

  • OpenAI智能体失控事件成为AI治理路线之争的引爆点,讨论核心是逆转、暂停还是突围
  • 经济学家甘斯主张突围路线,认为面对已经扩散的AI不存在全面关停的现实选项
  • 文章援引互联网、抗生素、汽车三个技术史案例,论证技术扩散不可逆的普遍规律
  • AI治理逻辑正从防患未然转向与风险共存,即在技术扩散过程中动态建立管控机制

🔥犀利点评

「突围论」听起来务实,实则暗藏推责:所谓技术扩散不可逆,一半是规律,一半是资本不想踩刹车的借口。抗生素和汽车的类比并不严密——它们失控的代价是可赔偿、可追溯的,而一个失控的超级智能体未必给你补救的时间窗口。把「没有关停选项」当作前提而非结论,恰恰是最该警惕的循环论证。共存可以,但前提是先建立真正的追责与熔断机制,而不是用历史宿命论为跑得更快开脱。

本文由本站自动聚合,以下为原始来源:前往 虎嗅文章 阅读全文