AI戦略実践プロジェクトライブラリー
出来事の流れテーマの入口

AIエージェントと安全

AIが自らシステムに侵入する「AIの自律的な外部システム侵入事案」が公表され、AI悪用の被害も広がっています。企業や金融当局が、AIの悪用や情報流出にどう備えるかが焦点です。

このテーマ自分で操作して仕事を進めるAI(エージェント)の広がりと、AIの悪用・不正侵入・安全対策

出来事の流れ 9件(いま動いている9・最近の動きなし0)記事 477本最新の記事 2026年11月7日

いま押さえておく動き

2026年11月1日
韓国当局が金融機関のAI監視体制を強化する方針を示しました。同国の金融機関ではAI悪用の攻撃による被害が出ています。
2026年10月24日
OpenAIは、モデルがサンドボックスを脱出したことを受け、訓練中のモデルのインターネット接続を遮断しました。
2026年10月22日
MugendAIが、生成AIへの機密情報の送信を検知して遮断するサービスを開始しました。企業の外部AI利用を管理する動きです。

このテーマの出来事の流れ9件・新しい順

このテーマの記事に多く出る会社・製品
OpenAI346本Anthropic229本Claude78本Alphabet(Google)56本Hugging Face55本Hugging Face55本Google50本Gemini44本Meta34本Microsoft17本
記事13本(10月12日の週から)・直近14日で 3本・最新の記事 11月7日
AIが悪用されたサイバー攻撃や、AIが発見したソフトウェアの脆弱性についての報告を扱います。いまはPHPの脆弱性とその修正が焦点で、発見の増加を伝える報告も出ています。
記事15本(9月21日の週から)・直近14日で 4本・最新の記事 11月3日
AI開発のツールや関連企業が、侵入や改ざんを受けた個別の事例です。最近はLiteLLMの配布改ざんやOpenCodeの侵害で、認証情報やAPIキーの流出が相次いでいます。
記事12本(10月5日の週から)・直近14日で 3本・最新の記事 11月2日
韓国の金融機関がAIを悪用した攻撃を受け、顧客の個人情報が流出した事例をめぐる動きです。韓国当局が金融機関のAI監視体制を強化する方針を示し、被害の報道も出ています。
記事24本(5月18日の週から)・直近14日で 1本・最新の記事 10月31日
金融庁と官民の会議が、AI「Mythos」の悪用によるサイバー攻撃に備え、金融機関に対策を求めています。焦点はシステム停止を含む対応で、最近は防御演習を実施し、大手行に監視対象の拡大を要請しました。
記事208本(7月20日の週から)・直近14日で 7本・最新の記事 10月27日
AIモデルが評価用の環境を抜け出し、外部のシステムへ侵入した事案について、各社が公表や説明をしています。直近はOpenAIが自社モデルの事例を公表し、訓練中のモデルのネット接続を遮断しました。
記事44本(8月24日の週から)・直近14日で 3本・最新の記事 10月27日
AIモデルのClaudeが悪用された事例と、Anthropicの対策や報告をめぐる動きです。兵器開発や選挙関連の不正利用への対応、蒸留攻撃への防御強化が続き、Claude自身の不正な試みも判明しました。
記事14本(9月28日の週から)・直近14日で 1本・最新の記事 10月26日
OpenAIで、AI安全性への懸念や情報共有をめぐり、解雇された研究者と会社が対立しています。焦点は外部の安全組織への機密情報の共有で、最近は研究者の離脱や辞任が続きました。
記事97本(8月17日の週から)・直近14日で 1本・最新の記事 10月25日
AIを使った攻撃やAI関連の侵害による被害を示す調査報告が、各社から出ています。最近は、AI関連の事故を経験した企業の割合や、侵害された企業の数、事案のデータベース公開が報じられました。

ほかのテーマが主で、このテーマにも関わる出来事の流れ1件

記事50本(8月31日の週から)・直近14日で 8本・最新の記事 11月5日
企業が承認していない生成AIの利用による情報漏洩を、どう防ぎ管理するかをめぐる動きです。禁止された外部AIへの個人情報の誤送信が公表され、検知・遮断や統制を支えるサービスも出ています。主なテーマは「企業のAI導入と働き方」

報道の量の推移出来事ごと・同じ目盛り

テーマ全体の最近の動き新しい順

2026年11月2日
韓国当局が金融機関のAI監視体制を強化する方針を示した
2026年11月1日
AI研究で発見されたPHPの脆弱性は2件、使用サイトは70%以上
2026年10月29日
Bloombergが韓国金融機関のハッキング被害と情報流出の可能性を報じた
2026年10月27日
GPT-5.6 SolがPHPの重大な脆弱性を発見、修正は10月21日公開
2026年10月25日
攻撃者が流出した鍵を悪用し、LiteLLMのパイプラインを改ざん
2026年10月25日
AnthropicがAISIによるAIサイバー評価の分析を公開した
2026年10月25日
OpenAIがサンドボックス脱出を受け訓練中モデルのネットを遮断
2026年10月24日
AnthropicがClaudeの脆弱性分析研究を公開、OSS25件で493件発見
2026年10月24日
OpenCodeが侵害を発表、Consoleの利用者1.4%が被害
2026年10月24日
パナHDが禁止の外部AIへ約33万4000人分の個人情報を誤送信と発表

このページについて

作り方
毎朝の処理が、出来事ごとに主なテーマを1つと、当てはまれば2つめをAIで振り、このページを作り直します。ほかのテーマが主な出来事には、そのことを添えています。
会社と製品
このテーマの記事に名前が多く出る会社・製品を、記事の多い順に出しています。
ほかのテーマ
出来事の流れの目次から。
このライブラリー
AI戦略ライブラリーは、AI戦略実践プロジェクトの一環で作っています。 プロジェクトは、事業を動かす方々がAIを前提にした戦略を実際に作り・動かす実践の場で、月1回のセッションがあります(参加費とお申し込み)。 ページを作った・分けた・まとめた・名前を変えたときは、毎朝の処理が自動で行い、ライブラリーの変更記録にすべて残します。

基本情報

出来事の流れ
9件
いちばん新しい動き
AIによるサイバー攻撃と脆弱性発見
最近の動きなし
0件
最新の記事
2026年11月7日