Altman氏が国連安保理で演説 — 「人間の制御」と国際的なフロンティアAI基準を要請

OpenAIのSam Altman CEOは2026年9月23日、国連安全保障理事会で人工知能について演説した。AIの可能性拡大と同時に、強力なシステムを人間の制御下に置くこと、国際協力の必要性を訴えた。以下はOpenAIが公開した演説全文の整理であり、発言内容の紹介であって独立した検証ではない。

二つの失敗経路 — 制御の喪失と権力の集中

選択の提示: AIは創造性と発見の新たなルネサンスにも、激動と混乱の新たな産業革命にもなりうるとし、どちらの道を取るかの選択が目の前にあると述べた
第一の失敗経路（制御の喪失）: システムが速く動きすぎて人々が追随・介入できなくなること。競争に勝つことは拙速な決定の理由にならず、過去に一方的に開発を緩めたことがあり今後もそうすると述べた。人間の制御下に置けるという極めて強い根拠を示せないモデルは訓練すべきでないとし、破局的リスクの確率が10%でも1%でも0.1%でも許容できないと述べた
第二の失敗経路（権力の集中）: 強力なAIを少数の手に集中させ、一人の人物・企業・国が世界観を押しつけること。「自分だけが信頼できる」という論理は正当化に使われうるとして退けるべきだと述べた
背景認識: システムが自らを改善する再帰的自己改善が進めば進展が加速しうること、制度より速く動くこと、理解や制御が及ばなくなる決定への懸念を挙げた

第一原則: AIが能力を増すほど、人間を意思決定の中心に置く。アライメントは抽象的な研究課題ではなく、人間の制御下に置き人間の価値を反映させる作業だとした。人間の判断や価値を自動化してはならないと述べた
第二原則: 科学的進歩と経済成長の利益は人々による・人々のためのものにする。研究者の発見、医師の治療、教師の教育、起業、地域課題の解決を挙げた
第三原則: 技術は個人をエンパワーしなければならない。技術の建設者は物語の主役ではなく、世界中の人々を可能にする役割だと述べた
数学の進展への言及: モデルの進歩の例として、3年前の小学校レベルの数学から高校数学競技、国際数学オリンピックの金メダル級、そして「数週間前に」千年賞問題の一つであるナビエ–ストークス方程式を解いたと述べた。これはAltman氏の演説中の主張としての紹介であり、本稿で独自に検証したものではない

相補的な基準: 各国と国際の相補的なフロンティアAI基準の仕組みが必要だとし、能力の測定、リスクの評価、セーフガードの十分性の判断、自律化が進む中での意味ある人間の oversight の維持を挙げた
共通言語と比較可能性: 各国が証拠を比較し遵守を検証できるよう、起きていることへの共有言語と理解が必要だとした
インシデント報告: 正確で迅速なインシデント報告と分類・報告手順により、失敗が破局になる前に世界が学べるようにするとした
安全な経路: 政府、重要インフラ事業者、技術専門家の間で新たな脆弱性や脅威を共有する安全な経路を求めた
留意点: 基準は既存企業を固定化したり特定のビジネスモデルを優遇したりすべきでなく、オープン・クローズドの開発者、新規参入・既存研究所、各国の権限と国際協調を支えるべきだとした。各政府が自国法への組み込み方を決めるべきだとも述べている
民主的手続き: 研究所のあるサンフランシスコだけで最重要の決定を下すべきでなく、人々に責任を負う政府を通じた民主的手続きで形づくるべきだと述べた

演説は、権力が集中し人々が技術を「される側」と感じる未来ではなく、民主的制度を通じて人々が導く未来を選ぶべきだという呼びかけで締めくくられた。安保理での各国・各社の反応や具体的な制度化の動きは今後の注目点だが、本稿の範囲を超えるため扱わない。