Anthropic AI安全负责人：十年内AI灭绝人类概率超10%

📋总体概括

Anthropic AI安全负责人公开表示，未来十年AI导致人类灭绝的概率超过10%，并承认行业目前对超级智能的控制尚无解决方案。此前Anthropic一名核心AI研究员辞职，批评OpenAI和Anthropic以公众安全为赌注推进研发。尽管头部实验室自身高层不断发出高风险警告，竞争格局下没有一家愿意放缓研发步伐，安全承诺与实际竞赛节奏形成明显张力。