OpenAI 新董事严厉警告：AI 失控将是灾难性的，大多数人可能丧命

⚡关键信息

• ▸OpenAI于9月10日宣布保罗·克里斯蒂亚诺加入基金会董事会，并进入安全与保障委员会。
• ▸克里斯蒂亚诺曾任OpenAI对齐研究负责人，后担任美国NIST下属AI标准与创新中心安全负责人。
• ▸他警告称若未在强对齐机制下构建超级智能，人类将永久性失去对AI的控制。
• ▸他直言若失控发生，大多数人可能会丧命，并呼吁国内外协调将风险降至可接受水平。
• ▸其表态时机为加入董事会当天，警示AI失控风险如今已十分严峻。