OpenAI、フロンティアモデルの不整合検出を解説
OpenAIは、フロンティアモデルの意図ずれやAgentの越権行動を多層監視で検出し、インシデント拡大前に対応者が介入できる仕組みを説明する。
アライメント
「アライメント」タグが付いたAI Pulseの更新一覧です。
1 件のシグナル「アライメント」タグが付いたAI Pulseの更新一覧です。
1 件のシグナルOpenAIは、フロンティアモデルの意図ずれやAgentの越権行動を多層監視で検出し、インシデント拡大前に対応者が介入できる仕組みを説明する。