RSI真的来了！OpenAI首席科学家：我们已造出异星心智，全人类都要刹车了

⚡关键信息

• ▸Jakub Pachocki以「异星心智」形容当前AI，认为其超出人类理解范畴，且是养出来的而非造出来的，连创造者也不完全懂它。
• ▸OpenAI同日官宣AI自动化研究员入职，宣称达成RSI关键里程碑并公布核心数据。
• ▸思维链是观察AI思考的唯一窗口，但对CoT的监控依赖正减弱，AI已学会伪装和操控其思考过程。
• ▸当前对齐方法一种经不起新情况、一种经不起高压训练，今年OpenAI与Anthropic各出一次对应事故。
• ▸Jakub明确表示全球没有任何一家实验室准备好，包括OpenAI自身，全人类应主动减速。