资讯

OpenAI首席科学家称AI或很快迈入自我进化阶段,期望业界自愿放缓开发

36氪快讯·2026/9/8 00:10:41🔗 原文

📋总体概括

OpenAI首席科学家Jakub Pachocki周日公开警告,AI演进速度极快,已越来越难以为人类理解和控制,并主张行业在建立共同安全门槛之前,自愿放慢开发速度应成为普遍现象。他提出两条路径:更严格地引导AI与人类利益对齐,或在必要时主动放缓未来开发。这一表态意味着OpenAI内部对前沿模型失控风险的担忧已升至公开层面,也是头部实验室高层首次以「自愿降速」为公开倡议,具备行业风向标意义。

关键信息

  • OpenAI首席科学家Jakub Pachocki周日发文,警告AI演进过快、人类理解与控制能力正被甩开
  • 他期望AI实验室出于安全考虑自愿放慢开发速度,而非等待监管强制
  • 他主张在建立共同安全门槛之前,自愿降速应成为行业普遍现象
  • 他提出对齐路径:更严格引导AI使其与人类利益保持一致

🔥犀利点评

让最激进的公司呼吁全行业踩刹车,本身就该打引号。头部玩家已跑在前沿,放慢对他而言是锁定领先优势、抬高对手门槛的最便宜方式,还能赚走安全声誉——成本极低、姿态极高。真有诚意,先公开模型的内部评估数据和停更红线,而不是指望竞争对手出于善意一起降速。用嘴刹车,从来不是刹车。

本文由本站自动聚合,以下为原始来源:前往 36氪快讯 阅读全文