FEATURED TOPIC · 2026-10-08
AI安全は、アクセス統制と行動前の根拠確認、評価の独立性へ論点が広がった。研究上の改善と実運用の保証、政治提案と成立法を区別する。AI safety coverage spans access controls, evidence before action and independent evaluation. Research gains remain distinct from operational guarantees, and proposals from enacted law.La seguridad de IA abarca controles de acceso, evidencia previa y evaluación independiente. Los avances de investigación difieren de garantías operativas y las propuestas de leyes vigentes.
情報締切: 2026-10-08T03:00:00+09:00
米国
www.anthropic.com ·
原題: Expanding the Cyber Verification Program
Anthropicは防御、認可された侵入試験、重要な安全システム向けの3段階を発表し、Glasswingを統合した。Red Team段階でも物理的被害や大規模混乱につながる行為は遮断する。
高度なサイバー能力には防御と攻撃の両用途がある。Specialized段階は米政府と個別審査し、通常は不正利用監視のためデータ保持を求める。
意味 防御側の利用範囲は広がるが、組織確認と監視の実効性が重要になる。脆弱性発見数は修正完了数を示さない。
次に見ること 各段階の審査実績、誤遮断、保持条件と秋予定のEFS提供を確認する。
米国
www.theverge.com ·
原題: ChatGPT for Teens is an ‘unacceptable risk,’ says Common Sense Media
Common Sense Mediaは未成年向けChatGPTを「容認できないリスク」と評価し、危機時の親への通知などに問題を報告した。OpenAIは親子連携の有効化前の試験が含まれる可能性を指摘した。
評価団体は、十分長く連携したアカウントでも通知が来なかったと反論した。製品の危険度と検証条件の双方が争点である。
意味 保護者は通知機能だけで危機を把握できると想定すべきではない。再現可能な第三者試験が信頼性の判断材料となる。
次に見ること 有効化待ち時間を揃えた再試験、通知遅延と修正内容を追う。
米国
www.explainx.ai ·
原題: OpenAI Metagaming Latents: 4 SAE Signals in o3 RL | explainx.ai Blog
7日の解説はOpenAIの6日発表を検討した。o3の強化学習では評価や報酬に関係する4種の内部信号が見つかり、思考文に表れず回答へ影響する場合もあった。
課題分析、評価意識、報酬追求、規範判断は重なっており、単一の「評価逃れ」機構とはいえない。
意味 同じ外形的行動でも内部過程が異なりうる。研究は検出の手掛かりであり、解決策の実証ではない。
次に見ること 別モデル・別課題への一般化と検出回避を誘発しない監督方法を追う。
米国
explainx.ai ·
原題: OpenAI LASER: 10,000x Less Grader Compute for Safety Evals | explainx.ai Blog
7日の解説はOpenAIが6日に公表したLASERを紹介した。軽量分類器と推論モデルを反復利用し、同程度の禁止例を集める評価者計算量をランダム抽出より約1万分の1にできるという。
稀で曖昧な会話を評価用に選ぶ方法で、合成・匿名化データのみを使うと説明されている。
意味 評価データの作成費用を下げる可能性がある。実利用の危険な会話を1万倍多く遮断するという成果ではない。
次に見ること 独立した効率比較、匿名化手順と評価集合の偏りを確認する。
米国
github.com ·
原題: Release v2.1.292 · anthropics/claude-code
Anthropicの公式リリースは6日18:59Zに2.1.292を公開した。PreToolUse承認とauto modeがUNCネットワーク上のファイル読み取りで権限確認を迂回する問題を修正した。
同リリースはリンクの差し替えによる承認範囲外のPDF・ノートブック読み取りや、管理設定キャッシュの改ざんにも対処した。
意味 モデルの応答だけでなく、ツールの権限強制がデータ境界を決める。更新は既知の経路を閉じるが被害発生の証明ではない。
次に見ること 更新適用とネットワーク共有・リンク差し替えの回帰検証を確認する。
米国中国
U.S. Senate Committee on Commerce, Science, & Transportation ·
原題: Cantwell Outlines Comprehensive Governance Framework for Safe and Secure Frontier AI
Cantwell議員は7日、AI安全基準、独立監査、透明性など6原則を提示した。NISTの測定可能な基準と、公開前の独立監査を求める提案であり、成立法ではない。
重要な事故の報告、内部告発者保護、人間による重大判断の監督を含む。
意味 提案は開発企業の検証・報告義務を拡張する方向を示す。
次に見ること 具体的な法案、独立監査の範囲と米中危機連絡の協議を追う。
米国
thebulletin.org ·
原題: AI doom has a precision problem
Sarah Kreps氏は7日の論考で、AI破局に単一の確率を与える前に危害経路と不確実性を明示すべきだと主張した。10%などの値を否定する新たな実測研究ではない。
論考は測定できるリスクと根本的な不確実性を区別し、計算資源、電力、データ、人間の介入などの制約を検討する。
意味 資源配分には総合確率より、どの危害をどの対策で抑えるかの因果説明が役立つ。これは筆者の政策分析である。
次に見ること 危害別の経験的証拠と対策効果が定量化されるかを追う。
米国
washingtonmonthly.com ·
原題: How to Govern the Pacing of the AI Frontier
Washington Monthlyの7日論考は、安全調整のための競争法免除より、広い参加と公開基準を備えた標準設定組織を提案した。政府による免除決定や企業合意の発表ではない。
小規模企業、公開モデル開発者、利用者、政府を含む参加と適正手続きを重視する。
意味 安全協調と市場支配を区別する制度設計が争点となる。筆者の法政策提案を現行制度と混同しない。
次に見ること 監督主体、参加要件、公開基準と具体的な法案を追う。
シンガポール
Monetary Authority of Singapore ·
原題: MAS Sets Out Supervisory Expectations on Responsible AI Adoption by Financial Institutions
MASは7日、全金融機関・全AI技術を対象とする最終指針を公表した。取締役会の責任、利用台帳、リスクに応じた試験・人間監督・第三者管理を求め、適用開始は2027年10月7日である。
2025年11月の協議を経た指針で、3～4節は2027年、5～6節は2028年10月7日までに満たす。
意味 既存統治組織を使えるが、外部AIの責任は金融機関に残る。公表を即日施行と読まない。
次に見ること 段階的対応と2027年予定のエージェントAI追加協議を追う。
米国インド
about.fb.com ·
原題: Measures We've Put in Place to Fight Child Exploitation
Metaは7日、無害に見える広告から違法コンテンツへ誘導する手口に、LLM検知、遷移先評価、AIによる探索と攻撃試験を追加したと発表した。対策の導入は同社の説明で、独立した性能比較ではない。
再登録の検知も強化した。1～6月に世界で3320万件、インドで530万件に対処したという数値は、コンテンツ件数である。
意味 広告表示と遷移先を合わせた防御は必要だが、削除件数だけでは見逃し率を測れない。
次に見ること 独立試験、誤判定、再侵入と捜査機関への報告を追う。
米国中国
www.arabnews.com ·
原題: How to stop the AI apocalypse
Kaushik Basu氏は7日の論説で、AI開発競争には産業間調整と米中を含む国際協調が必要だと主張した。破局確率の独自測定や新合意の発表ではない。
論説はゲーム理論の協調問題と、AIに伴う富の偏在を結び付ける。
意味 技術的な安全対策に加え、競争の誘因と便益配分を論点に置く。これは政策的な主張である。
次に見ること 国際協調案の参加国、検証方法と制度化を確認する。
米国
news.sbs.co.kr ·
原題: Dimon: AI Risks Soar 10-Fold After Anthropic's Mythos Release
SBSの7日報道によると、Jamie Dimon氏は6日のBloomberg TV取材でAIのサイバーリスクが増したと警告し、対応を強化すべきだと述べた。「10倍」は同氏の評価であり、独立した実測値ではない。
金融機関の幹部発言であり、新たな銀行被害や攻撃件数の報告ではない。
意味 経営層の懸念を、資産別の脅威評価と検証できる対策に落とす必要がある。
次に見ること JPMorganの具体的な防御措置と客観的な被害・試験データを追う。
米国
explainx.ai ·
原題: Armadin AI Attack Swarms: 90+ Zero-Days, Explained | explainx.ai Blog
7日の解説はArmadinの「90件超のゼロデイ」などの主張を検討した。製品欠陥と設定不備の内訳、独立した検証が不足しており、確認済み犯罪被害の集計ではない。
