Anthropic研究员因担忧AI“失控” 离职

📋总体概括

Anthropic研究员雅各布·考克森于周二宣布离职，并表示将离开整个人工智能行业，原因是拒绝参与研发可自我迭代AI系统的竞赛。他担忧头部实验室及其竞争对手正竞相打造人类无法掌控的AI，这类系统可能彻底失控甚至毁灭人类。作为专门通过海量数据训练新型AI模型的核心岗位人员，其出走折射出头部AI企业内部安全顾虑正在加剧，也将『AI失控风险』的争议从舆论层面推入行业人才层面。