美研究员发出“末日警告”：AI若失控，可能会在将来毁灭人类

📋总体概括

美国AI公司Anthropic三位研究人员公开警告，失控的AI可能在本十年内毁灭人类。研究员雅各布·考克森宣布从Anthropic辞职，称其此前在OpenAI和Anthropic从事预训练研究三年，两家公司都未承担应有责任，正冒险研发自我改进型超级AI。Anthropic对齐科学负责人埃文·胡宾格回应称考克森所言属实，其个人认为未来十年内AI毁灭人类的可能性超过10%。此番言论凸显头部AI公司内部对技术风险的真实焦虑，也暴露安全研发与商业竞赛之间的深层矛盾。