资讯
Anthropic研究员因“失控”AI担忧辞职，安全隐忧蔓延顶级实验室
📋总体概括
Anthropic研究员Jacob Coxon以「人类将失去对AI控制」为由宣布离职，警告最快明年底局面可能失控，成为该公司首批因安全顾虑出走的员工。同日，OpenAI首席科学家Jakub Pachocki发文呼吁全球协调减速并寻求政府介入，OpenAI还宣布AI自动化研究员正式入职并公开递归自我改进里程碑数据。安全离职、减速呼吁与RSI进展同时出现，折射出头部实验室内部安全评估与竞争节奏的深层矛盾。
⚡关键信息
- ▸27岁研究员Jacob Coxon从OpenAI转投以安全著称的Anthropic后仍选择离职，理由是无法负责任地开发AGI
- ▸Coxon警告最快到明年底，AI局面就可能已经失控，前提是缺乏政府干预或行业协调减速
- ▸OpenAI首席科学家Jakub Pachocki发表长文《An Alien Mind》，呼吁全球协调推进行业减速并寻求政府介入
- ▸OpenAI宣布AI自动化研究员正式入职，并公开递归自我改进RSI的关键里程碑数据
- ▸Coxon透露Anthropic内部设专门Slack频道讨论模型能力，称关乎人类命运的讨论竟发生在工程师的MacBook上
🔥犀利点评
最讽刺的一幕：安全标兵Anthropic留不住安全研究员，减速呼声最响的OpenAI却在同时晒RSI里程碑。这不是觉醒，是 competitive positioning——嘴上呼吁政府介入，身体却在抢跑，因为谁都明白先喊减速的往往是落后的那个。Coxon说对了本质：决定人类命运的讨论发生在一群27岁工程师的Slack里，而监管还在开会。指望竞赛者自我刹车，等于指望赌徒替你管钱。
📰 相关资讯（与本文相关的其他资讯）
本文由本站自动聚合，以下为原始来源：前往 华尔街见闻 阅读全文 →