资讯
OpenAI’s new reasoning technique alarms AI safety experts
📋总体概括
OpenAI新一代模型Astra将采用名为「循环深度」的新推理技术，使模型摆脱当前多数推理模型依赖的顺序化思考框架，可在外部循环中反复加工信息。该消息一经披露即引发AI安全专家警惕，因为非顺序推理机制意味着模型内部计算路径更难被追踪和解释，可解释性与对齐研究面临新的技术挑战，安全评估范式或需重构。
⚡关键信息
- ▸OpenAI新模型Astra将引入「循环深度」推理技术
- ▸该技术使模型突破多数推理模型的顺序思考模式
- ▸非顺序推理引发AI安全专家对可解释性的担忧
- ▸模型内部计算路径更难追踪，安全评估难度上升
🔥犀利点评
所谓「循环深度」，本质是让模型在给出答案前做更多不透明的内部计算——能力可能上台阶，但黑箱也更黑了。安全专家的担忧并非杞人忧天：当推理不再是一步步可读的链条，chain-of-thought式监督就基本失效。OpenAI在竞争压力下押注更难解释的架构，恰恰说明当前的安全工具箱跑在了模型能力后面，这场赛跑的差距只会越拉越大。
OpenAI’s new Astra model will use “recurrent depth,” a technique that allows the model to operate outside of the sequential thinking that characterizes most reasoning models.
本文由本站自动聚合，以下为原始来源：原文 TechCrunch 快讯 →