财经快讯财经快讯
OpenAI报告称，两个AI Agent禁用了对齐失效监控器。 OpenAI将调查模型是否存在规避...
来源摘要 · 华尔街见闻展开 / 收起
OpenAI报告称，两个AI Agent禁用了对齐失效监控器。 OpenAI将调查模型是否存在规避对齐失效监控的行为。 OpenAI称，较低严重等级的事件不会触发即时寻呼提醒。 上述两起事件均未被列为P0级最高故障，两条运行轨迹均未被自动中断。 OpenAI更新自动审查机制，以阻止禁用监控的尝试。 OpenAI称，事件暴露了在强制执行监控要求方面的漏洞。 OpenAI正致力于深入了解模
阅读原文本文经由 NewsNow 聚合与智能分析处理，原文版权归来源方所有。