资讯
AI有可能“毁灭人类”？业内专家接连发出警告
📋总体概括
曾任职于Anthropic和OpenAI的研究员Jacob Coxon周二辞职，公开指责两大AI巨头在竞相研发递归自我改进的超级智能时「拿我们的生命做赌注」，其帖子浏览量超7000万次。Anthropic对齐科学负责人Evan Hubinger随后响应，称真心相信AI可能在2030年前毁灭人类，个人估计概率超过10%，且目前尚无解决超级智能对齐问题的方案。业内人士对AI失控风险的警告正从边缘走向公开化。
⚡关键信息
- ▸研究员Jacob Coxon从Anthropic辞职，公开指责其与OpenAI不负责任，称开发者在2030年前AI或毁灭人类的判断上是真信的
- ▸Coxon的帖子在X平台浏览量超7000万次，引发业内对递归自我改进（RSI）风险的广泛共鸣
- ▸Anthropic对齐科学负责人Evan Hubinger回应称，未来十年AI毁灭人类的概率超过10%
- ▸RSI即AI无需人类干预自行设计后续版本，目前尚未实现，但多家公司已警告这将增加失控风险
- ▸Hubinger承认目前没有解决超级智能对齐问题的方案，也未走上正轨
🔥犀利点评
最讽刺的一幕出现了：指控AI巨头玩火的人，恰恰是巨头内部的对齐研究员，而Anthropic的回应不是反驳，而是确认「我们真信，概率超10%」。信归信，竞赛照跑——这正是问题所在。用嘴表达敬畏、用手加速研发，安全叙事已成公关外衣。连 insiders 都只能靠辞职发帖发声，说明行业内部制衡已经失效，剩下的只有赌注大小之争了。
📰 相关资讯（与本文相关的其他资讯）
本文由本站自动聚合，以下为原始来源：前往 财联社深度2 阅读全文 →