资讯
OpenAI首席科学家：AI太强了，该踩刹车了！
📋总体概括
OpenAI发布最强模型GPT-6 Astra后，其首席科学家Jakub Pachocki罕见公开示警：AI能力已强到需要全人类主动踩刹车。他将AI称为「异星心智」，指出其思考方式与人类完全不同——随着AI自主执行任务增多，以往通过推理文字窥探其决策逻辑的窗口正在关闭，人类可能只知其能做什么，却无法理解其为何这样做。他进一步担忧AI改进AI的临界点：届时人类能否看懂、能否及时叫停，都成未知数。
⚡关键信息
- ▸OpenAI发布最强模型GPT-6 Astra，但自家首席科学家Jakub Pachocki公开呼吁人类应主动踩刹车
- ▸Pachocki提出「异星心智」概念：AI思考方式与人类根本不同，能力可观察但决策逻辑无法理解
- ▸AI做复杂任务时的推理文字正逐渐消失，人类通过输出窥探其内部思路的窗口正在关闭
- ▸下一阶段AI可能开始改进AI，届时人类能否看懂并在必要时叫停存在重大疑问
🔥犀利点评
一边发布最强模型一边喊踩刹车，这是典型的监管套利话术：能力要抢，风险表态也不能少，尤其自家首席科学家开口，比任何公关都好使。「异星心智」听起来很浪漫，本质是承认可解释性已经失守——当AI连推理过程都不给你看，「叫停」就是一句空话。真正该问的是：刹车装置装在哪、谁有权踩、出事谁担责？没有这些，警告只是能力竞赛的道德许可证。
📰 相关资讯（与本文相关的其他资讯）
本文由本站自动聚合，以下为原始来源：前往 华尔街见闻 阅读全文 →