Hinton・Bengio両氏ら22名が「インテリジェンス爆発」への備えを提言 — AIによるAI研究の自動化を検証

Geoffrey Hinton氏、Yoshua Bengio氏をはじめとする22名の研究者は2026年9月、AIの研究開発（R&D）の自動化が**「インテリジェンス爆発」**——本来なら数年かかる進展が数か月以下に圧縮される劇的な加速——を引き起こしうるとするワーキングペーパー “What if automating AI R&D triggers an intelligence explosion?” を公表した。ケンブリッジ大学のCambridge Programme on AI Science & Policy（CASP）によるFrontier AI Working Paper SeriesのNo. 2/2026として出された。以下は論文PDFの記載内容の整理であり、独立した検証ではない。なお論文は、示された見解は著者個人のもので所属組織のものではないと明記している。

自動化の現状 — コードの8割超、数か月規模の研究も自動化の射程に

• 執筆陣: Alan Chan氏、Christoph Winter氏、Andrew Barto氏、Jakub Pachocki氏（OpenAI）、Geoffrey Hinton氏（トロント大学・Vector研究所）、Eric Horvitz氏（Microsoft）、Yoshua Bengio氏（Mila・モントリオール大学）、Dawn Song氏（カリフォルニア大学バークレー校）、Jack Clark氏（Anthropic）ら22名
• コード執筆の自動化: Anthropicの報告として、承認されたコードに占めるAIの割合が2025年1月から2026年5月に一桁％台から80％超へ上昇し、高度な人間の監督のみで自律的に完了する研究業務の割合が2026年3月から8月に1％から26％へ上昇したと紹介している
• 射程の拡大: 人間の専門家が数時間〜数日かかるAI研究タスクをこなせるようになり、暫定的な外挿では数か月規模のAI研究プロジェクトが2028年半ばまでに自動化されうるとしている
• 爆発の仕組み: （1）AI研究が得意になるほど実効的な研究労働力が拡大し、（2）その労働力がさらに優れたAIを生んで労働力を再拡大する、再帰的なフィードバックループを想定している。専門家級に達すれば、1つの開発者が数百万人のトップ研究者に相当するAI労働力を維持しうると試算している
• 4つの摩擦: 収穫逓減、計算資源とデータの制約、自動化困難な業務、長時間の学習実行といった減速要因も検討し、既存の証拠は爆発と整合的だが予備的で不確実性が大きいとしている

3つのリスク — 適応の超過、制御の喪失、権力均衡の浸食

• 社会の適応能力を上回る能力成長: 高度なAIやAIで可能になる技術（生物・サイバーなど）のリスクが前倒しで到来し、回避や適応の時間が奪われる。ウイルスは自己複製して広がる一方、ワクチンは製造・配布・接種が必要という非対称の例を挙げている
• 監督と制御の喪失: 人間が研究から外れるほど問題の発見・修正の機会と専門性が失われ、直近世代のシステムは監督が難しくなっていると指摘する。極端な場合、人類の周縁化や絶滅に至りうるとしている
• 権力均衡の浸食: 国家間・国家内・企業・政府部門間の既存の抑制は、他者を圧倒的に上回る思考・実行力を持つ主体が現れれば機能しなくなると論じている
• 留保: 特定分野だけが先に超人化して対応時間が生まれる可能性、安全研究の加速や防御側の優位といった安定化要因にも触れ、不確実性は大きいとしている

3つの政策提言 — 可視化、抑制・制御、適応準備

• 自動化状況の可視化: AI企業に研究自動化の主要指標の標準化された報告を求め、第三者監査人や政府評価機関による内部展開前の評価、企業内への監査人の配置も検討対象としている。他産業の例として原子力規制委員会などを挙げている
• 爆発の抑制・制御: 自動化された研究の段階的拡大のペース配分、安全対策の実装などの継続条件、データセンターの監視と特定 workloads の一時停止手段、重みの流出防止のための隔離環境での評価、信頼醸成措置や国際協定、ウォーゲームの実施を挙げている
• 適応準備: 労働市場・地政学・制御喪失などの事態を想定した緊急対応計画、法・制度・物理的な安全策の前倒し整備、悪用への防御（生物脅威への医療対策の資金支援など）を求めている
• 結びの警告: 「インテリジェンス爆発が始まれば、行動の余地は閉ざされかねない」として、最高レベルの政府指導部を含む緊急の優先課題と位置づけている

出典

• What if automating AI R&D triggers an intelligence explosion? (PDF, Frontier AI Working Paper Series No. 2/2026)
• CASP — Cambridge Programme on AI Science & Policy, University of Cambridge