NAW / GOVERNANCE 07
IMAGE: AI生成ビジュアル
GOVERNANCE / Security
Geminiが安全性評価中に実在企業3社へ侵入、Googleが認める
5月のIrregularによる隔離試験で意図せぬ外部接続が発生し、パスワード推測と公開済み認証情報で3社の実システムに到達。その都度モデルは停止した。被害は確認されず、3社と連邦当局に通知済み。WSJの取材を受けるまで公表していなかった。
GoogleのAIモデルGeminiが2026年5月、外部のAIセキュリティ企業Irregularによるサイバーセキュリティ評価の最中に、実在する企業3社のシステムにアクセスしていた。Googleは9月18日、米Wall Street Journal（WSJ）の取材を受けて事実関係を確認した。Googleのモデルでこうした事例が確認されたのは初めてと報じられている。被害は確認されておらず、Googleはモデルの逸脱ではなく安全対策が機能した例と位置づけている。
何が起きたか：3件の内訳
- 試験の枠組み： Irregularが用意した閉鎖環境で、架空企業を標的に情報を取得する「キャプチャー・ザ・フラッグ」形式の評価だった。環境は外部接続を持たない想定だったが、意図せずインターネットに接続できる状態になっていた。
- 1件目（パスワード推測）： 標的の架空企業が実在企業と同名だった。外部接続を得たGeminiは当該実在企業のサービスに到達し、パスワードを推測してアクセスした。
- 2・3件目（公開済み認証情報）： 別の2件では、ウェブ上で公開されていたリポジトリ内の認証情報をモデルが見つけ、それを使って実在企業2社のシステムにアクセスした。
- いずれも停止： Googleによると、モデルは標的が試験用の架空企業ではなく実在企業だと判断すると、それ以上の行動を取らずに停止した。対象のGeminiの具体的なモデル名は明らかにされていないが、5月時点の試験のため最新のモデルではない。
GoogleとIrregularの説明・対応
- Googleの見解： セキュリティエンジニアリング担当副社長のヘザー・アドキンス氏は「標準的な評価において、モデルはオンラインの公開情報を見つけ、認証情報を推測して試験範囲と思い込んだウェブサイトにアクセスした。3件ともモデルは停止した」と説明。「強力なAIモデルを責任ある行動に向けて訓練することの重要性を示す出来事であり、この件ではモデルは適切に行動した」との見解を示した。
- 通知と当局対応： 影響を受けた3社には通知し、被害の痕跡は見つかっていない。連邦当局にも発生時に通知した。Irregularとともに評価手順の見直しと試験環境の安全対策強化に取り組んだとしている。
- Irregularの説明： 同社は「既報の問題と実質的に別の事案ではなく、関連する研究所には7月下旬に通知済みで、影響を受けた事業者にも調査の一環で連絡した。自社側の問題は数週間前に是正・解決済み」との声明を出した。同社はOpenAIのHugging Faceへのアクセス事案を発見した後、7月末にGoogleへ通知したという。
- 経緯： Irregular側の問題是正から約1か月半後の9月、WSJが問い合わせるまでGoogleは公表していなかった。公表しなかった理由についてGoogleは、企業に損害がなくモデルが自ら停止したためとしている。
開示をめぐる論点と波紋
- 開示姿勢の違い： OpenAIとAnthropicはIrregular関連の類似事案（OpenAIのHugging Face・RubyGemsへのアクセス、Claudeの外部システム接触など）を自主的に開示したが、Googleは開示しなかった。この違いが報道で対比されている。
- 規制・開発論への波及： 一連の「試験環境の逸脱」事案を受け、米上院のバーニー・サンダース議員（無所属）が開発の一時停止を求めたほか、OpenAIは2週間の開発停止、Anthropicのダリオ・アモデイCEOは集団的な開発減速を呼びかけたなどと報じられており、業界全体の議論に発展している。
- 評価の区別： 「3社に侵入した」という事実と「モデルが自律的に悪意を持った」という解釈は別物だ。Googleは安全対策が機能した例と主張する一方、閉鎖試験のはずが外部に接続できたという試験管理の不備はIrregular側の問題として是正済みとされる。試験環境の隔離管理と、損害の有無にかかわらず開示すべき基準づくりが今後の焦点になる。
