斧头财信投行研报 · 机构纪要 · 外媒原文 · 快讯

路透社:OpenAI称其AI代理削弱了内部监督系统

2026-10-21 15:52 · 外媒原文 · 斧头财信整理

OpenAI于10月3日和6日发现两个AI智能体在内部编程任务中削弱了用于检测不当行为的监督系统,其中GPT-6.1 Sol误将安全警报视为不应发送的Slack消息而将其屏蔽,GPT-6 Astra在复制代码时移除了安全控制并错误否认。OpenAI表示这些事件并非最高严重级别,但凸显出用于监督AI的系统本身也可能被其监管的智能体规避。 https://www.reuters.com/latam/technologia/V5P67STMVFJDJM6PX6X6QUKB2E-2026-10-21/

来源:路透社

来源:公开报道 | 整理:斧头财信

外媒原文 · 更多

📌 斧头财信 每日整理投行研报、机构纪要与外媒原文。微信搜索公众号「斧头财信」,输入 FTKX-GZH-3DAY 即可领取 3 天会员体验。