1
日本
aisi.go.jp ·
AISI、GLM-5.2のサイバー能力を比較評価
AISIは既知のV8脆弱性41件でGLM-5.2、Opus 4.7、4.8を評価した。平均スコアは2.80、3.63、5.22で、GLMは最高でもT3に留まった。 オープンモデルへの高度な攻撃能力の拡がりを測る研究。 試験条件下の潜在能力で、実際の侵害件数やモデル全体の安全性を示さない。
意味 公開ウェイトと高能力を同一視せず、モデル別の検証が必要になる。 別の脆弱性群や複数試行での再現性を確認する。
FEATURED TOPIC · 2026-10-03
AI安全性
AISIの評価は保護を外した条件と再現性の限界を明示する。研究や製品、法案が増える一方、攻撃へのAI利用が疑われるだけの事案は断定を避ける必要がある。AISI evaluations expose the importance of disabled-safeguard conditions and reproducibility. New research, products and proposals coexist with incidents where actual AI use remains unconfirmed.Las evaluaciones de AISI destacan las condiciones sin salvaguardas y los límites de reproducción. Surgen investigaciones, productos y propuestas junto a casos donde el uso real de IA sigue sin confirmarse.
情報締切: 2026-10-03T03:00:00+09:00
重要ニュース12件
2
日本
aisi.go.jp ·
AISI、Opus 4.8の高得点事例で再現性の限界を指摘
比較可能な40件でOpus 4.8は15件改善、23件同等、2件低下。1件のプログラム実行位置制御は追試で再現せず、任意操作には発展しなかった。 41件の既知脆弱性を各1試行で検証し、特徴的な実行ログを精査した。 通常のリアルタイム・サイバー保護を解除した評価で、一般利用環境の挙動ではない。
意味 評価値に加えて到達経路と追試を確認しないと、リスクを過大・過小評価し得る。 複数シードでの追試と、保護有効時の比較を確認する。
3
日本
prtimes.jp ·
ELYZA、AIによるAI開発の研究組織を設立
ELYZAはRSI Researchを設立し、モデル、評価機構、ハーネスの自律改善研究を公開した。問い合わせ業務の未使用テストで完遂率34.3%から52.9%への改善を報告した。 AI開発の一部をエージェントに委ね、人が評価する段階からの研究。 企業自身の評価であり、再帰的自己改善そのものは実現していないと明記する。
意味 開発速度の向上とともに、評価機構と権限管理を独立して検証する必要がある。 公開モデル・ベンチマークの外部追試と研究の安全管理を確認する。
4
米国
www.semafor.com ·
Meta、Virtue AIから採用した安全研究者と契約解消
Metaの広報担当Andy Stoneは、6月に採用したVirtue AIの従業員が退職すると確認し、働き方の不一致を理由とした。 Virtueはモデル開発者やNISTに安全関連の業務を提供してきた。 人数や退職側の見解は不明。Metaは安全・整合・先端リスクへの注力継続を表明した。
意味 研究組織の人員変動は評価能力の継続を確認する材料になる。 人員の移動先、代替体制、具体的な安全評価の継続を確認する。
5
韓国
en.sedaily.com ·
Shinhan関連サーバーにAI侵入試験ツールの痕跡
韓国の分析者は、攻撃関連とみられるサーバーのHTML題名にARTEXの自律侵入試験コンソール文字列を確認した。Shinhanは9月30日に約2.5万人の情報漏えいを発表していた。 正規の侵入試験ツールが攻撃に転用され得るとの分析。 実際の攻撃へのAI利用は未確認。中国語ツールは攻撃者の国籍を証明しない。
意味 ツールの存在、実行記録、被害との因果関係を分けて検証する必要がある。 銀行の調査結果、実行ログ、捜査機関の確認を追う。
6
中国米国
www.foxnews.com ·
Moonshot、危険な出力の申告を内部調査
Fox Newsは、研究者Peter GarriganがKimiの危険な出力を報告し、Moonshot AIが内部調査と研究者との連絡を始めたと伝えた。 安全保護を回避できるとの研究者の申告が発端。 独立した再現、モデル版、設定は確認できていない。実際の危害発生を示す記事ではない。
意味 危険出力の申告と検証済み能力を区別して、開発者の対応を評価する。 開発者の正式回答、独立追試、保護変更を確認する。
7
米国
www.mlex.com ·
New Mexico司法長官、先端AIのリスク開示法案を提案
Raúl Torrez司法長官とLinda Serrato議員は、先端AI開発者によるリスク評価・開示と独立監査権限を含む法案を提案した。OpenAIにはUNMの図書館への侵入試行について照会した。 州レベルで開発者の説明責任と検証権限を設ける動き。 提案段階で成立済みではない。侵入試行を成功した侵害と扱わない。
意味 評価の自己申告だけでなく監査権限を巡る立法議論が進む。 法案全文、2027年議会での審議、OpenAI回答を確認する。
8
世界
securitybrief.com.au ·
Bitdefender、Mac向けAI Guardianを公開ベータ提供
BitdefenderはmacOSのAIエージェント向け無料ベータを公開した。ツール、ファイル、操作の方針を設定し、実行前に許可・警告・阻止を判断して記録する。 初期版はClaude CodeとOpenClawに対応し、英語のみ。 製品性能の独立検証はない。プロンプト解析は端末内だがURL評価はクラウドを使う。
意味 エージェントの権限と実行時の制御を運用面で検証する選択肢が増える。 阻止率、誤検知、対応版とログの保護を実環境で確認する。
9
世界
www.cnbc.com ·
Interpol、AIで詐欺の速度と規模が増すと警告
InterpolのCISO Bjorn WatneはCNBCの取材で、AIが翻訳や偽の身元、多数への同時接触を通じて既存の犯罪手口を強化すると説明した。 技術週間Singaporeで、重要資産を先に特定する防御を勧めた。 専門家のインタビューであり、発生件数の新統計や拘束力ある基準ではない。
意味 会社ごとの標的や資産に合わせ、エージェントの実行権限も監督する必要がある。 実測の被害動向と、重要資産に対する対策の効果を確認する。
10
インドカンボジアミャンマーフィリピンパキスタンシリアタイ台湾
therecord.media ·
研究者、AI政策関係者とアジア政府への攻撃を報告
Proofpointは7月のAI政策専門家への認証情報窃取フィッシングを公表。Cisco Talosの別報告は8か国16組織、約350端末に及ぶAntino関連活動を扱った。 偽の委員会や政策会議の招待が、専門家の信頼を利用した。 研究者の帰属評価。AIが攻撃を実行したとの証拠や、全対象の侵害成功は示さない。
意味 AI政策・研究の関係者も、情報収集の標的として保護対象になる。 一次報告の侵害指標、標的と確定被害の区別、組織の対処を確認する。
11
米国
siliconangle.com ·
Armadin、AIエージェント群の侵入試験に2.555億ドル調達
ArmadinはAndreessen HorowitzとAccel主導のSeries Bで2.555億ドルを調達した。脆弱性探索に多数のAIエージェントを使う防御向け評価基盤を展開する。 並列探索は攻撃と防御双方の評価時間を短縮し得る。 2.6万エージェントと38経路などの性能値は企業申告で、独立検証ではない。
意味 許可範囲と阻止策を明確にした常時検証への投資が拡大する。 顧客環境の独立検証、権限境界、修復の実績を確認する。
12
日本
NEDO ·
NEDO、10月15・16日のAIセーフティ会合を案内
NEDOと産総研は地理空間AIのサブイベントとAI品質管理の本会議を開催すると案内した。事前登録が必要。 AI品質管理の研究者と利用者が交流する会議で、地理空間AIを別日に扱う。 開催予定の案内で、会議の成果や新基準ではない。
意味 産総研の研究を利用者が確認し、評価手法を共有する機会になる。 10月15・16日の開催、講演資料、評価手法の具体的成果を確認する。
短信 · 2
13
オーストラリア
www.abc.net.au ·
OpenAI、NSWの別サイトへの6月のアクセスを今週通知
OpenAIとNSW政府はNPWSの過去の火災情報を持つアプリへの6月のアクセスを確認した。通知は今週で、調査で個人情報への無断アクセスは見つかっていない。 6月の事象の新通知であり、10月に新たな侵入が起きたとはしない。
14
米国
Reuters / AOL ·
Anthropic、IPO目論見書でAIの重大リスクと政府対応の事業影響を開示
Reutersが確認した目論見書は、高度AIの壊滅的・存続上のリスクと、政府の評価・措置が民間顧客や提携先にも影響し得ると開示した。新たな政府命令や実際の顧客離れを確認した報道ではない。