资讯
AI可能毁灭人类？专家接连警告
📋总体概括
Anthropic研究员Jacob Coxon周二辞职并在X上公开指责Anthropic与OpenAI「拿我们的生命做赌注」，称两家公司竞相研发递归自我改进的超级智能，帖子浏览量超7000万。Anthropic对齐科学负责人Evan Hubinger随后回应，认同AI可能毁灭人类的判断，并估计未来十年内发生概率超过10%，但承认目前尚无解决超级智能对齐问题的方案，AI安全担忧首次由内部人员以如此高的级别公开引爆。
⚡关键信息
- ▸顶尖研究员Jacob Coxon从Anthropic辞职，指责该公司与OpenAI在超级智能竞赛中不负责任
- ▸Coxon称开发者真心相信2030年前AI可能毁灭人类，其帖子浏览量超7000万次
- ▸争议核心是递归自我改进（RSI）：AI无人干预地设计后续版本，目前尚未实现
- ▸Anthropic对齐科学负责人Hubinger响应警告，认为十年内毁灭概率超10%
- ▸Hubinger承认目前没有解决超级智能对齐问题的方案，风险主要在RSI阶段
🔥犀利点评
最讽刺的一幕出现了：亲手造AI的人一边说「这玩意可能毁灭我们」，一边继续加班赶工，还美其名曰「已尽最大努力」。10%的灭绝概率放在任何行业都是立刻停工的红线，在AI这里却成了融资PPT的注脚。所谓警告更像免责声明——先把风险喊出来，出了事好说「我提醒过你」。监管缺位下，内部人的良心发声改变不了竞赛逻辑，只会成为历史记录里最刺眼的注脚。
📰 相关资讯（与本文相关的其他资讯）
本文由本站自动聚合，以下为原始来源：前往 凤凰网 阅读全文 →