资讯
AI有可能“毁灭人类”？业内专家接连发出警告
📋总体概括
AI研究员Jacob Coxon从Anthropic辞职，公开指责其与OpenAI在研发递归自我改进的超级智能上不负责任，帖文浏览量超7000万次。Anthropic对齐科学负责人Evan Hubinger罕见公开响应，称其相信未来十年AI毁灭人类的概率超过10%，且目前没有解决超级智能对齐问题的方案。安全派专家接连发声，折射出头部AI公司内部对技术失控风险的深度焦虑。
⚡关键信息
- ▸曾任职Anthropic与OpenAI的研究员Jacob Coxon辞职，指责两家公司拿人类生命做赌注
- ▸其帖文浏览量超7000万次，核心担忧是AI递归式自我改进（RSI）导致失控
- ▸Anthropic对齐负责人Hubinger称未来十年AI毁灭人类概率超10%
- ▸多位内部人士表示公司尚未有解决超级智能对齐问题的方案
- ▸行业共识：开发人员自己相信2030年前AI可能构成灭绝性风险
🔥犀利点评
最讽刺的戏码莫过于此：制造风险的人自己喊「会毁灭人类」，却没一家停下来。这不是良心发现，而是囚徒困境——谁先刹车谁出局，于是警告成了免责声明。Hubinger那句「超过10%」与其说是科学估算，不如说是用恐吓数字换监管和话语权。真正的解药只有一条：强制性安全门槛，而不是指望逐利公司自我克制。
📰 相关资讯（与本文相关的其他资讯）
本文由本站自动聚合，以下为原始来源：前往 财联社深度 阅读全文 →