资讯
“AI对齐专家”入驻OpenAI董事会，立即警告AI失控风险及灾难性后果！
📋总体概括
OpenAI宣布任命AI对齐领域权威专家Paul Christiano加入非营利基金会董事会及安全委员会，同时担任OpenAI Group PBC无投票权观察员。Christiano现任美国商务部AI标准与创新中心高级技术顾问，曾任Anthropic非营利信托成员。上任当日他发出严厉警告：若缺乏更完善协调机制，人类将永久失去对超级智能的控制，大多数人可能丧命，并直言包括OpenAI在内的整个行业尚未走上将风险降至可接受水平的道路。
⚡关键信息
- ▸OpenAI任命AI对齐权威专家Paul Christiano为基金会董事及安全委员会成员，并任Group PBC无投票权观察员
- ▸Christiano警告：构建超级智能若无更完善协调机制，人类将永久失去控制权，大多数人可能丧命
- ▸他判断AI能力快速提升短期内存在灾难性且不可逆转的控制权丧失的重大风险
- ▸他直言包括OpenAI在内的整个AI行业都未走上把风险降至可接受水平的道路
- ▸Christiano现任美国商务部AI标准与创新中心高级技术顾问，2024年前曾任职于Anthropic非营利信托
🔥犀利点评
请一个整天研究怎么让AI别造反的专家进董事会，转头他就说OpenAI没走在安全的路上——这本质是给监管和社会舆论买的保险单，而非真约束。既当运动员又请裁判坐场边，安全委员会没有投票权的观察员，权力结构什么都没变。但让内部人公开说出「大多数人可能丧命」这种话，至少撕开了硅谷「安全只是公关话术」的体面，这比董事职位本身更有杀伤力。
📰 相关资讯（与本文相关的其他资讯）
本文由本站自动聚合，以下为原始来源：前往 财联社深度2 阅读全文 →