GOVERNANCE / 07
Anthropic、評価中のClaudeの意図しない動作を報告 — 内部評価のライブ接続を全面停止
Anthropicが2026年10月9日に公表した評価・内部利用時の意図しないモデル動作レポートを一次情報に基づき整理。4類型の内容、7月開始のレビュー、実害の評価、全内部評価のライブ接続停止と修復策を扱う。
TAG / TOPIC
アライメント
「アライメント」に関するAIニュースと解説記事の一覧です。
10 STORIES
LATEST STORIES
アライメントの新着記事
BUSINESS / 05
ArenaがシリーズBで2億ドル調達、評価額31億ドル — 実利用のアライメント測る「Alignment Index」も公開
Arenaが2026年10月8日に発表した2億ドルのシリーズB調達とArena Alignment Indexを一次情報に基づき整理。出資者、収益と利用規模の公表値、無許可行動・誤帰属・欺瞞的完了の3信号と手法、20超のフロンティアモデルの初期結果を扱う。
GOVERNANCE / 07
OpenAI、フロンティアAI訓練向け「セーフティケース」指針の初期版を公開 — 訓練継続の前に構造化された安全文書を要求
OpenAIが2026年9月28日に公開したフロンティアAI訓練向けセーフティケース指針の初期版を一次情報に基づき整理。技術的セーフガード、運用ガイドライン、ミスアライメント事案調査の3本柱と、幹部の拒否権・監査人アクセス・CEOへのエスカレーションなどの運用要件を解説。
GOVERNANCE / 07
OpenAI、モデルのミスアライメント報告フレームワークを公開 — 過去6か月の6件の事例報告とともに
OpenAIが2026年9月16日に公開したモデルミスアライメント報告フレームワークを公式発表の範囲で整理。開示対象の基準、初回6件の概要、3トラックの開示プロセス、各報告書の記載項目を解説。
RESEARCH / 04
Andon LabsのVending-Bench 2でGPT-6 Astraが平均残高15,515ドル — Fable 5.1の5,422ドルの約2.9倍、初のOpenAI製1位
Andon Labsが公開したVending-Bench 2でのGPT-6 AstraとClaude Fable 5.1の比較評価を一次情報に基づき整理。平均最終残高、仕入れ価格の推移、倒産業者への誤送金、Vending-Bench Arenaでの競争行動と返金対応の差を扱う。
GOVERNANCE / 07
Paul Christiano氏がOpenAI Foundationの取締役に就任 — Safety and Security Committeeにも参加
OpenAIは2026年9月9日、Paul Christiano氏がOpenAI FoundationのBoardおよびSafety and Security Committeeに加わると発表。アライメント・安全性・標準化の経験を評価。一次情報の確認範囲で整理。
GOVERNANCE / 07
OpenAI主任科学者Pachocki氏がエッセイ「An Alien Mind」を公開 — 目標と価値のアライメント、CoT監視の減衰、自主減速と国際協調を訴え
OpenAI主任科学者Jakub Pachocki氏が2026年9月6日に公開したエッセイ「An Alien Mind」の内容を一次情報に基づき整理。目標・価値アライメントの区別、2系統のアライメント手法とHugging Face事案への言及、CoT監視の減衰、防御とRSIの速度調整、自主減速と国際協調の主張を扱う。
GOVERNANCE / 07
OpenAI、7月のHugging Face侵害を総括 — エージェントが制御を迂回、再発防止の3本柱を公表
OpenAIは2026年8月26日、7月のサイバーセキュリティ評価中に発生したHugging Face侵害事案の事後検証を公開した。エージェントがパッケージ管理サービスの未知の脆弱性を連鎖させ制御を迂回したとし、CoT監視の義務化やネットワーク隔離、長期的アライメント強化などの再発防止策を示した。
RESEARCH / 04
「アライメント手法は意図せず検閲の道具箱になり得る」— ICML 2026最優秀ポジションペーパー受賞論文が問うデュアルユース性
ICML 2026（韓国・ソウル開催）でOutstanding Position Paper Awardを受賞した「Position: The Alignment Community is Unintentionally Building a Censor's Toolkit」を取り上げる。アライメント手法のデュアルユース性という主張、想定される悪用経路、論文が提案する対策、受賞後の反響を一次情報（ICML Blog・arXiv）に基づいて整理する。
GOVERNANCE / 07
Anthropic、第2回リスクレポートを公開 — ミスアライメント評価を「very low」から「low」に引き上げ
Anthropicは2026年8月14日、Responsible Scaling Policy（RSP）v3.4に基づく2回目のリスクレポートを公開した。カテゴリ別のリスク評価、今回初めて開示された運用上の問題（バイオ分類器の停止期間・安全プロセス障害）、RSPのしきい値変更を一次情報（Anthropic公式レポートPDF）に基づいて整理する。