DeepMind Instituteが「Artificial Symbiotic Intelligence」を提唱 — 単一の超知能ではなくエージェントと人間の社会としてAGIを捉える

Google DeepMind傘下の研究発信機関DeepMind Institute（DMI）は、AGIの到来像を捉え直すエッセイ「Artificial symbiotic intelligence: Agents, AGI and the orchestration of many minds（人工共生知能：エージェント・AGI・多数の心の編成）」を公開した。著者はBenjamin Bratton氏（Google Paradigms of Intelligence客員研究員）、Blaise Agüera y Arcas氏（Google Technology & Society担当VP兼Fellow、CTO）、James Manyika氏（Research・Labs・Technology & Society担当President）の3氏。以下は同エッセイ（一次情報）の記載範囲の整理である。

主張の核心 — AGIは「社会」として到来する

• 単一モデル観の否定: 「シンギュラリティ」的な、単一の巨大モデルが自己を改良して神のような孤立した知能に至るという物語は誤った見立てだとしている。地球生命史の主要な進化転換（多細胞化から象徴文化まで）はすべて高度に社会的な出来事であり、次の知能爆発も同様に複数的・社会的で、人間文化と深く絡み合うものになるという。
• 創発の所在: 能力は単一モデルの重みだけに宿るのではなく、ハーネス・共有知識ベース・相互作用プロトコル、そして数十億人の人間の利用者の心を含む「アンサンブル」に宿るとしている。AGIは「勝つ」単一アーキテクチャではなく、モデル・ツール・制度・人間参加者の協調的相互作用から創発するという見立てである。
• 問題設定の転換: AGIの中心的課題は「孤立した機械知能をどう作るか」から「AIエージェント・人間・それらを結ぶシステムからなる複雑なネットワークをどう編成し、統治し、その中で生きるか」へ移るとしている。知能は個体の属性ではなく、社会的現象として認識されるようになる可能性があるという。
• 位置づけの注意: エッセイ末尾の免責によれば、DMIはAGIのある世界についての創造的で情報に裏づけられた発信・議論の場であり、各エッセイは著者の考えを反映した対話の起点であって、Googleの公式見解ではない。

認知的クロスオーバーポイント — 機械の認知量が人間を超える閾値

• 人口動態の対比: 主要都市で都市化・専門職化・豊かさに伴う出生率低下により人口が目減りする一方で、AIエージェントの「人口爆発」が起きていると指摘。人間レベルの心に占める非人間の割合が急変しつつあるとしている。
• 閾値の定義: 機械が行う認知が人間を上回る転換点（crossover point）を提起。1世紀前に機械が肉体労働で人間の筋肉を代替したように、生成される合成テキスト・記述コード・遂行される管理業務の総量が生物の脳の総出力を上回る閾値に近づきつつある可能性があるという。
• 人間の役割変化: 人類は社会の問題解決能力の大部分を担う立場から、鉱物基盤の合成認知という大規模分散場を導く「低速な抽象化層」へ移行しうるとしている。エージェントの拡張速度から、この閾値の接近は速い可能性があるという（著者らの見立てであり、実測値ではない）。

エージェンシーとUI — 「単一の自己」は仮の姿

• 意図とエージェンシーの分離: 機械は何かを「欲する」ことなく世界で効果的に行動できるとし、AIを理解するには意図とエージェンシーを切り離す必要があると論じている。裁判所が責任や帰責をめぐる複雑な問題を裁く頻度が示すように、エージェンシーの本質は人間についても未確定だという。
• 分解可能な集合体: ユーザーには一貫した人格に見えるエージェントも、内実はモデル・ペルソナ・記憶・倫理的志向・技能・道具の分解可能性の高い集合体であり、「単一に見えるが実は多様体（multitude）」だとしている。人間の大脳皮質もモジュール構造という点では似ているが、脳全体が「同じ頭蓋の船」に乗ることで一貫した自己になるのに対し、AIエージェントのエージェンシーは活動中のコンテキストウィンドウやプロンプトを中心に絶えず再編成されるという。
• 鏡は返答する: 人間とAIの相互作用は、単一エージェントが従順に利用者に随伴する一方向の関係にはならないとしている。人々が契約執行や見知らぬ相手との会話のために「影の自己」の群れを編成すれば、人間の主観性そのものが外向きに増殖し、人格は既定で多声的（polyphonic）になるという。
• UIの方向性: 一対一の人間—チャットボット相互作用の時代は、多エージェント枠組みへの過渡的な段階にすぎない可能性があるとしている。ユーザーインターフェースは単純なテキストプロンプトを超え、図式的・ノード的なものになり、異種サブエージェントの群れを高水準の抽象化と視覚的ダッシュボードで管理する形へ進化するという。

エージェント制度 — 市場だけでは足りない

• 制度設計の必要性: マルチエージェントの協調は、個々のエージェントの知能や優れた相互作用設計、理想化されたゲーム理論的シナリオだけでは成り立たないとしている。市場は取引の集積から秩序が生まれる強力な仕組みだが、共生社会の繁栄には不十分だという。
• 役割の雛形: 法廷が役割分担・民主的選出・敵対的弁護などを組み合わせて正統な結論に至る仕組みになぞらえ、多様で対立すらする行為者を代表するエージェントが明確に定義された役割を担い、重要決定を集合的に裁定できる「入れ子状の制度」の意図的設計を提唱している。人間組織の単なる投影や既存制度への継ぎ足しではなく、分散自動化に固有の構造的足場を構築すべきだという。
• 集合知の所在: 新制度の集合知は、それを構成するエージェント個々の知能には還元されず、足場に埋め込まれた規則・手続き・先例・フィードバック機構に宿るという。単一では「より知的」とされるモデルを上回ることが多い編成ハーネス（orchestration harnesses）の近年の出現を、その早期兆候として挙げている。
• 整合性の条件: 数兆規模の相互作用に安定して拡張するには、各制度の堅牢で信頼できる出力が他の制度の厳密な入力となるよう、制度同士が相互に噛み合って合成可能でなければならないとしている。
• アライメント観: 上から課す単一の価値体系は存在せず、それは幸いなことだとしている。アライメントは事前に作り込む制約ではなく、人間・エージェント・制度の深い有機的接触の共進化的帰結として考えるべきだという。

出典

• Artificial symbiotic intelligence: Agents, AGI and the orchestration of many minds
• DeepMind Institute