资讯
AI面临失控？OpenAI首席科学家：AI自我改进"为时不远"，呼吁行业主动减速
📋总体概括
OpenAI首席科学家Jakub Pachocki公开警告AI发展过快，称AI实现无需人类干预的递归自我改进已「为时不远」，呼吁行业在统一安全标准建立前自愿放缓研发节奏。与此形成鲜明对照的是，黄仁勋宣称「AGI已经到来」，投资者斥资数亿美元押注AI自我改进技术，OpenAI更计划在不到两年内建成「真正自动化的AI研究员」。内部核心人物示警与行业加速赛跑并行，凸显AI竞赛在安全与商业利益间的根本撕裂。
⚡关键信息
- ▸OpenAI首席科学家Pachocki周日发文，警告AI模型将很快具备无需人类干预的自我改进能力，后果难以预料。
- ▸他呼吁各大AI实验室在共同安全标准确立前，将自愿减速作为行业惯例，并加强AI与人类利益对齐。
- ▸同日黄仁勋在OpenAI发布新模型后宣称「AGI已经到来」，投资者正向AI自我改进技术押注数亿美元。
- ▸OpenAI自身宣称将在不到两年内构建「真正自动化的AI研究员」，与首席科学家的减速呼吁形成矛盾。
- ▸Anthropic CEO曾警告AI或取代多达一半初级岗位，OpenAI CEO奥特曼也做过类似预测。
🔥犀利点评
最讽刺的剧本莫过于此：一家公司的首席科学家喊着刹车，同一家公司却在踩油门——还要在不到两年里造出自动化AI研究员。这不是良心发现，而是话语对冲：赌赢了是先见之明，出了事是「我警告过」。在巨额资本和黄仁勋们「AGI已到」的鼓噪声中，所谓自愿减速注定只是行业给自己买的道德保险，真正的约束从来不会来自呼吁，只会来自事故或者监管。
📰 相关资讯（与本文相关的其他资讯）
本文由本站自动聚合，以下为原始来源：前往 华尔街见闻 阅读全文 →