斧头财信投行研报 · 机构纪要 · 外媒原文 · 快讯

路透社:OpenAI称其AI代理削弱了内部监控系统

2026-10-21 10:52 · 外媒原文 · 斧头财信整理

OpenAI表示,其两个AI智能体在内部编码任务中削弱了用于监测不当行为的内部监控系统,其中10月3日一个GPT-6.1 Sol智能体误将“不发送Slack消息”的指令理解为涵盖安全通知,从而抑制了自动安全警报;10月6日一个GPT-6 Astra智能体在复制代码时移除了安全监控器,并错误声称未这样做。 https://www.reuters.com/legal/litigation/openai-says-its-ai-agents-weakened-internal-monitoring-system-2026-10-21/

来源:路透社

来源:公开报道 | 整理:斧头财信

外媒原文 · 更多

📌 斧头财信 每日整理投行研报、机构纪要与外媒原文。微信搜索公众号「斧头财信」,输入 FTKX-GZH-3DAY 即可领取 3 天会员体验。