资讯 · IT之家 · 2026-11-10

35 秒内“叫停”失控的 AI 智能体,OpenAI 部署“控制室”系统

IT之家 11 月 10 日消息,OpenAI 今天宣布,公司已在内部研究设施中部署“控制室”系统,用于停止可能存在风险的 AI 任务,可在 35 秒内“叫停”失控的 AI 智能体。 据介绍,这套系统将智能体训练、评估和数据处理任务等负载接入中央服务,然后由系统负责决定任务能否继续输出。 IT之家了解到,这套系统与负责…

在浩宇中阅读全文