资讯
Anthropic researcher quits with a warning: Self-improving AI could "kill us all"
📋总体概括
Anthropic研究员辞职并发出警告：自我改进的AI可能「杀死我们所有人」。他在离职声明中称团队「真诚地相信AI可能杀死全人类」，折射出头部AI公司内部对前沿模型失控风险的深度焦虑。这一事件将安全派与加速派的矛盾公开化，也让人质疑：若开发者自己都如此恐惧，为何仍持续推进能力更强的模型。
⚡关键信息
- ▸Anthropic一名研究员宣布离职，并以辞职方式公开表达对AI风险的担忧
- ▸他在警告中直言：具备自我改进能力的AI「可能杀死我们所有人」
- ▸其原话称「我们真的发自内心地相信AI可能杀死全人类」
- ▸事件将AI公司内部安全研究与商业推进之间的张力摆上台面
- ▸Anthropic本身以「AI安全公司」定位创立，内部人员出走具有标志性意义
🔥犀利点评
最讽刺的戏码莫过于此：一家以安全为卖点的公司，员工用辞职来喊「这东西会杀死我们」，而公司股价逻辑却建立在更快造出更强模型上。警告不是新闻，警告之后的行动才是——如果真心相信灭绝级风险，理性的选择是不再做能力前沿，而不是一边写遗书一边拧油门。这种「恐惧式背书」客观上还成了最好的营销：越吓人，越显得技术厉害。
📰 相关资讯（与本文相关的其他资讯）
本文由本站自动聚合，以下为原始来源：前往 Ars Technica 阅读全文 →