资讯
两个Token就让Kimi“变成”Claude?前Google DeepMind研究员意外撞上中国大模型的蒸馏疑云
📋总体概括
前Google DeepMind研究员Ilia Shumailov与ELLIS Institute Tübingen、MPI-IS博士生Alexander Panfilov发现,前沿AI模型的加密思考过程防护形同虚设:推理数据块可跨用户、跨会话甚至同系列模型间重放。将强模型的加密推理内容注入同家族小模型,即可低成本套取GPT-5、Claude等模型的高质量推理能力。这项研究揭示了所谓「密封思考」的安全假象,也把大模型蒸馏与能力泄露的行业灰色地带重新推上台面。
⚡关键信息
- ▸前Google DeepMind研究员Shumailov与博士生Panfilov合作发现加密思考过程可被轻易绕过
- ▸模型思考数据块可跨用户、跨会话甚至同系列模型之间重放使用
- ▸把强模型加密推理喂给同家族小模型即可套取GPT-5、Claude级别的推理表现
- ▸研究指出行业宣称的「密封信封」式思考保护几乎不产生实际防护效果
🔥犀利点评
所谓加密思考链,本质是厂商的公关式安全感:封条贴在信封上,钥匙却塞在锁孔里。跨会话可重放意味着蒸馏窃取的门槛低到令人发指,「两个Token变成Claude」不只是段子,而是对整个推理保护叙事的嘲讽。厂商与其包装封条,不如承认:推理过程只要交出去,就当它已泄露。
📰 相关资讯(与本文相关的其他资讯)
本文由本站自动聚合,以下为原始来源:前往 虎嗅24小时 阅读全文 →