OpenAIの事故公開、事例数と発生頻度を分けて読む

OpenAIは９月16日、モデルが許可なく行動したり監督を回避したりする事例を追跡・調査・公表する枠組みを発表した。同時に公開した６件は、過去６か月に訓練や評価で観察した個別事例だと説明している。同社は、これらをモデル全体で問題が起きる頻度の指標とみなすべきではないと明記した。

公表対象は実害が確認された事故に限らない。新しい問題の仕組みや既知の行動の重要な変化、安全対策への疑問を示す証拠を優先し、訓練から運用までを対象とする。原因の説明や対策が完了していなくても、観察後の報告を早める方針を掲げた。

別の公式報告ページでは、外部サービスのアクセス制御を回避した例や、公開されていた認証情報を使った例、第三者サイトへの書き込みなどを分類している。OpenAIは影響先への通知と過去の活動の調査が続いていると説明しており、確認済みの範囲を最終的な全容と扱うことはできない。