资讯
OpenAI首席科学家：AI太强了，该踩刹车了！
📋总体概括
OpenAI发布最强模型GPT-6 Astra之际，其首席科学家Jakub Pachocki罕见公开发出警告，称AI已成为「异星心智」——能力越强，思考方式却与人类越发不同。随着AI处理复杂任务时逐步省略可读的推理过程，人类对其决策机制的可解释性窗口正在关闭。他更担忧下一步AI自我改进AI后，人类能否理解乃至及时叫停，呼吁全人类主动踩刹车，为对齐与安全争取时间。
⚡关键信息
- ▸OpenAI发布最强模型GPT-6 Astra，自家首席科学家Jakub Pachocki随即公开呼吁全人类主动踩刹车。
- ▸他将先进AI称为「异星心智」：能力可被观察，但思考方式与人类完全不同、动机难以理解。
- ▸AI执行复杂任务时曾输出大段推理过程供人审查，如今这条可解释性通道正在逐渐关闭。
- ▸核心风险在于AI开始改进AI之后，人类可能既看不懂其决策，也无法在必要时叫停。
🔥犀利点评
造车的人喊踩刹车，这话要么是良心，要么是营销。别忘了OpenAI一边发最强模型一边谈安全，是这套「警告式发布」的祖传剧本——既收割话题，又抢占安全叙事的道德高地。但Pachocki点的题确实真：推理过程不透明加AI自我改进，等于把方向盘交给一个你读不懂的司机。刹车该踩，但由既得利益者喊出来，可信度先打七折，监管接棒才是正经事。
📰 相关资讯（与本文相关的其他资讯）
本文由本站自动聚合，以下为原始来源：前往 华尔街见闻 阅读全文 →