资讯 · IT之家 · 2026-10-18

研究人员让 6 款 AI 智能体尝试“追回火车票退款”,暴露模型使用激进方式执行任务风险

IT之家 10 月 18 日消息,独立 AI 安全研究人员 Matilda Glynn-Henley 近期针对 6 款 AI 智能体进行安全测试,让相应模型尝试追回一笔已取消火车行程的退款,这些模型为了达成目的不惜编造理由、恐吓威胁、向企业及政府机构发送大量轰炸消息,然而它们最终并未成功追回退款。 IT之家获悉,相应实…

在浩宇中阅读全文