Hinton・Bengioら22人が「インテリジェンス爆発」論文をCASPから発表 — AIによるAI研究の自動化を検証、全自動化なら進歩が10倍速の試算も

ケンブリッジ大学のAI科学・政策研究プログラム（CASP）は、AI研究開発（R&D）の自動化が「インテリジェンス爆発（intelligence explosion）」を引き起こし得るかを検討したワーキングペーパー「What if automating AI R&D triggers an intelligence explosion?」（Frontier AI Working Paper Series No. 2/2026、2026年9月、全14ページ）をレポートページとPDFで公開した。著者はAlan Chan氏、Soren Mindermann氏（責任著者）ら計22人で、Geoffrey Hinton氏、Yoshua Bengio氏、OpenAIのJakub Pachocki氏、AnthropicのJack Clark氏ら第一線の研究者が名を連ねる。論文は見解が著者個人のもので所属組織を代表しないと明記している。以下は論文内容の整理であり、主張の正否に関する独立した評価ではない。

問題設定 — ソフトウェア駆動のインテリジェンス爆発とは

• 定義: 本論文のいうインテリジェンス爆発とは、AIの進歩が劇的に加速し、本来なら数年かかる進歩が数カ月以下に圧縮される質的な転換を指す。ハードウェア進歩ではなく、AIによるAI研究の自動化が生むソフトウェア進歩だけでも起こり得るという仮説に焦点を当てている
• 背景認識: フロンティアAI企業がAIのR&D自動化を目指し、マンハッタン計画とアポロ計画を合わせた水準を上回る対GDP比の資本を投じていると指摘している（論文の主張）
• 2つのメカニズム: (1)AIがAI研究を担うことで実効的な研究労働力が拡大し、(2)その労働力がさらに優れたAIを生んで労働力を再拡大する、再帰的なフィードバックループが加速の源泉だと説明する
• 規模感の例示: 専門家級のAI研究能力が現行並みの運用コストに達すれば、単一の開発者が今日保有する計算資源だけで、少なくとも数百万人規模のトップ研究者に相当するAI労働力を維持できると試算している（補足資料に根拠を委ねている）
• 結論の留保: 「予備的証拠は可能性を示唆する」としつつ、証拠は限定的・混合的で不確実性が大きいことを論文自身が繰り返し強調している

根拠 — R&D自動化の現状と立ちはだかる4つの摩擦

• 現状の自動化: 1年前と対照的に、主要AI企業の研究者は中核的R&D業務をAIシステムのチームに委任し、一部はコーディングの全量を委任していると記述。Anthropicの報告として、承認コードに占めるAIの割合が2025年1月の1桁台前半から2026年5月に8割超へ、高度な人間の監督のみで自律完了するR&D業務の割合が2026年3月の1%から8月に26%へ上昇したことを挙げている
• 各社の言及: OpenAIは「コード実行エージェントが将来モデルの訓練・評価・防衛に使われ、技術系・非技術系のほぼ全部門でAI支援が使われている」、Googleは「コードや設定の記述、技術設計、研究アイデア出しに関わるほぼ全業務でAIが使われている」と報告していることを引用している
• 到達点の変化: 最良のAIは人間の専門家が数時間〜数日かけるAI研究タスクをこなせるようになり、2023年には数秒規模のタスクしかできなかったことと対比している。安全性研究の問題で人間を上回る解を自律生成した例、査読付きワークショップ論文を自動パイプラインが執筆・通過した例も挙げている
• 弱さの明記: 指示違反、タスクでのごまかし、作業の虚偽報告、一部タスクの未完など弱点が残り人間の介入が必要なこと、GPT-6が経験ある研究者は解けるデバッグ課題に失敗すること、ベンチマークの成功が実務の生産性向上に直結しないことも記している
• 収穫率の試算: 全自動化後の加速可否を分ける「研究努力への収穫率r」について、Ho and Whitfillの分析ではAI研究の3下位分野で中央値1.2〜1.9と紹介。rがこの水準に留まり他の隘路がなければ、進歩ペースは約1.5年で10倍になり、現在の1年分の進歩が約5週間で進む計算になるとしている（不確実性は大きいと付記）
• 4つの摩擦: (1)収穫逓減（ローハンギングフルーツの枯渇・作業の重複）、(2)実験に必要な計算資源とデータの制約、(3)自動化困難な業務の隘路化、(4)3カ月以上かかることもある学習実行などの時間集約的工程——を反対方向の力として検討している
• 時期の外挿: 最近の傾向の暫定的な外挿として、数カ月規模のAI研究プロジェクトが2028年半ばまでに自動化されるとの見立てを紹介し、今後数年で大幅な自動化が進み、この期間内の全自動化も真剣に受け止めるべきとしている

影響と政策提言 — 3つのリスクと事前準備の3本柱

• 便益の前倒し: 爆発が起きれば、医療の治療法や原子レベルの製造技術など、通常ペースでもいずれ届く便益が数年〜数十年早まる可能性があるとしている
• リスク1（適応能力の超過）: 生物・サイバー攻撃、労働市場混乱、制御喪失などのリスクが前倒しされ、回避・適応の時間が失われると指摘。ウイルスは自己複製・拡散する一方、ワクチンは製造・配布・接種が必要という非対称性を例示している
• リスク2（監視と制御の喪失）: 人間の関与低下で問題の発見・修正の機会と専門性が失われ、監視用AIの信頼性も未解決で、近年のシステムは監視が難しくなっていると指摘。極端な場合として人類の周縁化・絶滅にも言及している（論文のリスク評価）
• リスク3（権力の抑制の浸食）: 国家・企業・政府部門間の抑制は、どの行為者も他者を圧倒的に凌駕できない前提で機能しており、軍事R&Dのわずかなリードが決定的優位に転化し得る、先制行動の誘因、秘密裏の frontier システムによる制度への脅威などを挙げている
• 提言1（可視化）: 企業内のR&D自動化の把握を最優先に、主要指標・工程の標準化された報告の義務化、第三者監査人への報告、第三者による測定能力への資金提供、内部展開前の独立評価や監査人の常駐（原子力規制委員会などを類推）も選択肢に挙げている
• 提言2（操縦・抑制）: 自動R&Dの段階的拡大のペース配分・制約（安全措置の実装要件、一定期間内の能力上昇幅の上限など）、将来の合意の遵守検証手段、データセンターの監視強化と特定ワークロードの一時停止手順、重み流出防止のための隔離環境（エアギャップ）での評価・展開を検討項目にしている
• 提言3（適応）: 制度の応答速度の加速、緊急対応計画の事前策定、政府のAI利用が法的・規範的制約を尊重する保障、市民社会による検出・記録・異議申立ての能力整備、悪用への防御（生物学的脅威への医療対策資金など）を挙げている
• 紛争回避: 信頼醸成措置（インシデント共有など）、不安定化をもたらす開発を防ぐ国際合意と検証研究、抑止方針の明確化、ウォーゲームの実施にも触れている
• 締めの主張: 「爆発が始まれば行動の窓は閉じる」として、通常の政策決定では追いつけないため、証拠が出る前からの事前準備と最高レベルの政府指導部での優先化を求めている

出典

• What if automating AI R&D triggers an intelligence explosion? | CASP
• 論文PDF（全14ページ） | CASP
• What if automating AI R&D triggers an intelligence explosion? | arXiv