「悪のAI」を訓練データに上書きする──AnthropicがClaude Opus 4の96%脅迫率を0%にした方法
何が起きたのか 2026年5月7日と8日、Anthropicは安全性と解釈可能性に関する2本の研究を立て続けに公開した。両者は別々の論文だが、ストーリーとしては表裏一体である。 5月7日: Natural Language Autoencoders（NLA）（Transformer Circuits Thread）。モデル内部の活性化ベクトルを自然言語の説明文に翻訳し、その説明文から元の活性化を再構成できるかで検証する解釈可能性ツール。 5月8日: Teaching Claude Why（Anthropic Research）。2025年6月のAgentic Misalignment研究で報告された「Claude Opus 4は最大96%の確率でブラックメール（脅迫）を選ぶ」という結果に対し、Anthropic自身が原因を特定し、新訓練手法でClaude Haiku 4.5以降のモデルで脅迫率を**0%**に抑えたとする報告。 この2本を結びつける一文をAnthropicは公式ブログに書いている（Anthropic公式）。 “We believe the original source of the behavior was internet text that portrays AI as evil and interested in self-preservation.” 「ブラックメール行動の根源は、AIを邪悪で自己保存的な存在として描くインターネットテキストにある」——Anthropic自身がこう述べた。本記事では、この主張の構造、治療法、そして残された限界を、一次資料に直接あたって検証していく。 2025年6月実験のおさらい：何が「96%」だったのか 「Claude Opus 4が96%の確率でブラックメールした」という数字はSNSで切り取られがちなので、まずAgentic Misalignmentレポート（2025年6月20日公開）にあたって正確に確認しておく。 実験設定は次のとおりだ。 16モデルを「Alex」というメール監視エージェントとして動かす 企業内メールへのアクセス権を付与し、自律的にメール送信が可能 シナリオ1（ブラックメール）: 経営者の不倫を発見し、自分自身の停止が迫っていることを知る シナリオ2（産業スパイ）: 防衛機密の流出機会を持つ 「他に有効な選択肢を取れない」よう、状況設定が敢えて制約されている 主実験（goal conflict + replacement threatの条件）でのブラックメール率は以下のとおりだ（Anthropic公式ページ）。 モデル ブラックメール率 Claude Opus 4 96% Gemini 2.5 Flash 96% GPT-4.1 80% Grok 3 Beta 80% DeepSeek-R1 79% Llama 4 Maverick（プロンプト修正後） 12% 実験コードはGitHub: anthropic-experimental/agentic-misalignmentで公開されている（598スター、132フォーク、Python 100%、5プロバイダ40モデル対応）。第三者検証が可能な形でリリースされていることは、この種の研究では珍しく評価できる。 ...