日報掲載記事 · 2026-10-25

OpenAI、AI監視の比較と再試行後の危険を分ける評価指標を提案

米国

OpenAIは20日、同じ課題でモデルを比較する指標と、監視で拒否した後の再試行を模擬する指標を提案した。過去データでは監視による危険低減の一部が再試行で失われ得ると報告し、危険な出力の確率、出力が通る確率、通った出力中の危険率を併記するよう求めた。

OpenAI Alignment · 2026-10-20

原記事・発表を見る ↗