OpenAI、AIの不正行動を検知する監視体制を強化　暴走前に介入

STORY

記事概要

OpenAIは29日、AIモデルによる不正な行動や意図しない動作を検知する監視システムを拡充したと発表した。AIエージェントの推論や操作、外部システムへの影響を多層的に監視し、問題が深刻化する前に人間が介入できる体制を整えた。