资讯
‘Gambling with our lives’: Anthropic researcher quits, warns against self-improving AI
📋总体概括
Anthropic研究员Jacob Coxon因担忧AI灭绝风险而辞职，公开警告防范自我改进型AI，并呼吁各AI实验室之间达成「限速协议」，放慢前沿模型开发节奏，以避免AI能力失控带来的生存性风险。
⚡关键信息
- ▸Anthropic研究员Jacob Coxon因AI灭绝风险担忧辞职
- ▸他警告自我改进型AI可能带来生存性威胁
- ▸他呼吁AI实验室间达成限速协议以放慢开发节奏
- ▸辞职者来自以AI安全为立身之本的前沿实验室Anthropic，具有标志性意义
🔥犀利点评
安全派研究员从Anthropic出走，等于在行业安全叙事上撕开一道口子。Anthropic靠「安全优先」融资立足，自家研究员却以灭绝风险为由离职，这比任何外部批评都更具杀伤力。但辞职与呼吁限速协议解决不了囚徒困境——只要有人抢跑，谁减速谁出局。真正的问题不是没人担心，而是担心的人也在加速。
📰 相关资讯（与本文相关的其他资讯）
本文由本站自动聚合，以下为原始来源：前往 TechCrunch 阅读全文 →