NAW / GOVERNANCE 07
IMAGE: AI生成ビジュアル
GOVERNANCE / Policy
カリフォルニア州知事がAI大統領令、第三者監督の加速と「キルスイッチ」検討を指示
SB 813・AB 1405の施行前倒しに加え、専門家グループが2か月以内に勧告へ。フロンティア企業への独立検証機関の常駐、緊急停止スイッチの実効性検証などが検討項目。
カリフォルニア州のギャビン・ニューサム知事は2026年9月18日、AIの独立監督を加速する大統領令を発令した。州が新たに成立させた独立検証組織に関する法律の施行を前倒しするとともに、フロンティアAIモデル向けの緊急停止装置（「キルスイッチ」）の創設検討を含む州法強化の勧告を、専門家グループが2か月以内にまとめるよう指示した。
大統領令が指示する2つの柱
- 新法の施行加速: 州政府運営庁（Government Operations Agency）に対し、SB 813（McNerney）とAB 1405（Bauer-Kahan）の施行タイムラインを加速するよう指示した。SB 813はAIシステムの安全性・リスクを客観評価できる独立検証組織の認証枠組みを設ける法律で、AB 1405は州のAI監査人登録簿と監査人の独立性・透明性・誠実性の基準を設ける法律だ。
- 専門家グループによる勧告: 州緊急事態管理局と協議のうえ、国内の専門家を招集し、州法をさらに強化するための変更案の勧告を2か月以内に作成する。
勧告の検討項目（4点）
州知事府の発表が挙げた検討項目は以下の通りだ。
- 常駐型の独立検証: フロンティアAI企業に対し、指定された独立検証組織をラボ内に常駐させ、定期的な監査・評価を実施することの義務化。
- 安全文書の第三者検証: フロンティアAI企業が州法にもとづき提出する安全フレームワーク、透明性報告、リスク評価について、独立検証組織が十分と認める基準での検証を求めること。
- 「キルスイッチ」の創設推進: フロンティアモデル向け緊急停止装置の創設を進め、その実効性を独立検証組織が継続的に検証すること。
- 重大インシデント定義の更新: 重大安全インシデントの定義を更新し、発表が言及するHugging Faceへの攻撃のような制御喪失型の事案を含めること。
背景にある州の法整備
- SB 53（2025年）: フロンティアAI透明性法。フロンティアAI開発者に安全フレームワークの公開、指定された重大安全インシデントの州への報告、深刻なリスクを通報する内部告発者の保護を義務づける、全米初のAI安全法と州は位置づけている。
- 2026年の2法: SB 813とAB 1405により、独立検証組織の認証と監査人登録の仕組みを整備した。
- 連邦への呼びかけ: 州知事は、カリフォルニア州の枠組みを全米の基準として議会と連邦政府が検討・採用するよう求めている。州の規制を下限（floor）として扱うべきだとの立場だ。
解釈と限界
- 「キルスイッチ」は現時点で義務化されたものではなく、専門家グループの勧告を経て州法改正案として検討される段階だ。具体的な技術要件や対象範囲は未定である。
- 常駐型監査や安全文書の第三者検証も同様に「検討項目」であり、発効した義務ではない点に注意が必要だ。
- 本記事の内容は州知事府の発表にもとづく。大統領令の条文自体の詳細は発表中のリンク先文書を参照されたい。
