资讯
PSA: Don't rely on AI to plan anything that could put your life at risk... like a mountain climb
📋总体概括
多名登山者向谷歌Gemini询问攀登加州沙斯塔山的用时，AI答复称仅需八小时，结果一行人因计划严重失实被困，超过一天后才获救。这一事件成为AI幻觉风险的现实案例：LLM在专业、高风险场景中给出的看似确定的答案，可能完全脱离实际地形、天气与体能要求。它提醒用户，AI可作信息参考，但不能替代专业指南、地图与安全评估，涉及人身安全的问题尤须谨慎。
⚡关键信息
- ▸Gemini向一组登山者声称攀登沙斯塔山只需八小时，实际攀登难度远超此预估
- ▸登山者按AI给出的计划行动，被困后超过一天才被救援人员救出
- ▸事件凸显AI幻觉在高风险决策场景中的现实危害
- ▸教训：涉及生命安全的规划应依赖专业向导与官方资料，而非聊天机器人
🔥犀利点评
这不是AI的笑话，而是人把判断力外包的笑话。沙斯塔山十四 thousand英尺的冰川路线，任何一篇正经登山攻略都不会告诉你「八小时搞定」，而Gemini一本正经地编了个数，用户就照单全收——问题一半在幻觉，一半在用户对确定性答案的盲信。AI的流畅表达自带权威错觉，越是高风险决策，越要把它当实习生而不是顾问。救回来是万幸，但下次未必有救援队赶到。
📰 相关资讯（与本文相关的其他资讯）
本文由本站自动聚合，以下为原始来源：前往 Engadget 阅读全文 →