浏览破亿！Anthropic对齐负责人亲认：十年内AI灭绝人类概率超10%

📋总体概括

Anthropic核心预训练研究员Jacob Coxon发布离职长文，在X平台浏览量破亿，引爆硅谷。更罕见的是，Anthropic对齐负责人Evan Hubinger未做公关灭火，反而公开承认团队内部真诚相信AI可能毁灭人类，并给出个人预测：未来十年内这一概率超过10%。Hubinger同时指出，当前业界没有解决超级智能失控的方案，且主流研发路线已经跑偏。内部人士公开唱衰自家安全前景并量化灭绝风险，这在头部AI公司中极为少见，将AI安全争论从学界推向公众视野。