日報掲載記事 · 2026-10-01
OpenAI、先端AIの強化学習前に安全性を論証する方針を公表
米国
OpenAIは28日、先端モデルの強化学習を継続する前に、リスクを証拠で論証する安全性文書を求める方針を示した。学習の整合性、隔離、監視に加え、別チームによる反論の作成、複数幹部の拒否権、不適合な訓練の停止、事故後の原因調査と公表を挙げる。監視を無効にしたまま開始できない技術的管理も提案した。現在実装中の指針であり、航空・原子力並みの厳密な論証が既に完成したという説明ではない。
OpenAI · 2026-09-28