AIの進化がかつてない速度で進む中、テクノロジー企業と国家権力の間で歴史的な衝突が起きています。2026年2月、AIスタートアップのAnthropicが、米国防総省（ペンタゴン）からのAIモデル利用要求に対し、倫理的なガードレールの撤廃を拒否したことが波紋を呼んでいます。
この対立は、単なる一企業の契約問題にとどまらず、「AIの制御権は誰にあるのか」「企業は国家の要求をどこまで拒否できるのか」という、AI業界全体を巻き込む巨大な倫理的・法的ジレンマへと発展しています。
1. 衝突の核心：Anthropicが譲れない「2つの条件」
Anthropicは、自社の主力AIモデル「Claude」を軍事利用に提供するにあたり、明確な契約上の保護措置（ガードレール）を求めました。報道によれば、同社が絶対に譲れない一線（レッドライン）として提示しているのは以下の2点です。
- マス監視（国内の大量監視）への利用禁止
- 人間の介入を伴わない完全自律兵器（致死性自律型兵器システム：Lethal Autonomous Weapons Systems, LAWS）への利用禁止
AnthropicのCEOであるDario Amodei氏は、「良心に従い、民主主義の基本的価値を損なう可能性のある用途には同意できない」との立場を示しています。現在のAIモデルは、複雑な戦場環境や法執行の現場において、人命に関わる致命的な誤判断（ハルシネーションやバイアス）を起こすリスクを完全には排除できていません。
なぜ「人間の関与」が不可欠なのか
自律型兵器システムにおけるリスクを定量的に考えると、1回の判断あたりの誤認率を $\epsilon$、ミッション中の判断回数を $n$ とすると、少なくとも1回の致命的誤判断が起きる確率は次式で表されます。
$$ P(\text{致命的誤判断}) = 1 - (1 - \epsilon)^n $$$\epsilon = 0.01$（1%誤認率）でも $n = 100$ 回の判断を要するミッションでは $P(\text{致命的誤判断}) \approx 0.634$ に達します。これが、Anthropicが人間の介在を「レッドライン」とする技術的根拠の一つです。
ペンタゴンの主張：「すべての合法的利用」を求めよ
一方、Pete Hegseth国防長官は、「国内のマス監視や自律兵器の開発を意図しているわけではない」と釈明しつつも、軍は技術に対して「法的に許可されたすべての用途（all lawful purposes）」での包括的なアクセスを持つべきだと主張したと報じられています。
なお、米国防総省は2023年1月にDoD指令3000.09を改定し、自律型・半自律型兵器システムにおいて「適切なレベルの人間の判断」を確保すること、ならびにAI倫理原則に従うことを義務付けています。しかし同指令には運用上の解釈の幅があり、Anthropicが契約上のガードレールとして求める法的拘束力とは性質が異なります。
2. 国防生産法（DPA）適用の可能性と議論
Anthropicがガードレールの撤廃を拒否した場合の対抗措置として、Hegseth国防長官は同社を「サプライチェーンリスク（供給網の脅威）」と指定し、「国防生産法（Defense Production Act: DPA）」の発動を検討していると報じられています。
DPAは、朝鮮戦争時代に制定された法律で、国家の安全保障のために大統領が民間企業に特定の物資の生産や供給を強制できる権限を与えます。
もしDPAがAIモデルに適用されれば、Anthropicは自社の倫理ポリシーに反してでも、軍にClaudeを提供することを法的に強制される可能性があります。これは、AIモデルというソフトウェアが弾薬や戦闘機と同等の「戦略的軍事物資」として扱われるという歴史的な転換点を意味します。
ただし、DPAはもともと弾薬・鉄鋼・半導体などの物的資源を対象とした法律であり、AIモデルのようなソフトウェアへの適用は法的に前例がありません。実際に発動された場合、その合憲性を巡って長期にわたる法廷闘争が予想されます。また、AI蒸留問題とAnthropicの知財保護でも示されているように、Anthropicは法的・倫理的側面での戦いに注力してきた企業です。
3. テック業界の反応：Google・OpenAIの立場
Anthropicの対立に対し、テック業界からは様々な反応が見られます。
一部従業員有志からの賛同の声
報道によると、GoogleやOpenAIの一部の従業員有志が、AIの軍事転用に反対する公開書簡に署名したとされています。彼らは、企業の倫理基準が政府の圧力によって形骸化することへの危機感を示し、経営陣に対してAnthropicと同様のガードレール維持を求めているとされます。ただし、書簡の具体的な内容や署名者数は現時点で独立した検証が難しく、これが企業全体を巻き込む大規模な連帯行動であるかについては慎重な見方が必要です。
AIと憲法上の権利を巡る議論
AI研究者・法律専門家の間では、AIを用いた市民のマス監視が「不合理な捜索や押収」を禁じる米国憲法修正第4条（Fourth Amendment）に抵触する可能性が議論されています。また、国連レベルでも致死性自律型兵器システム（LAWS）の規制を求める議論が続いており、Anthropicの立場はこうした国際的な議論と軌を一にするものです。
OpenAIの姿勢
OpenAIはかつて利用規約で軍事利用を全面禁止していましたが、近年は規約を改定し、「兵器開発への直接使用」は禁止しつつも、サイバーセキュリティや情報分析など特定の防衛関連用途について国防総省との協力検討を段階的に進めているとされています。OpenAIの巨額資金調達が示すように、民間AI企業と政府・軍の関係は各社ごとに揺れ動いており、一枚岩ではありません。
4. 今後の展望：開発者と企業に突きつけられる問い
Anthropicとペンタゴンの対立は、今後のAIビジネスにおいて避けては通れない問いをテック業界全体に突きつけています。
オープンソース vs クローズド: クローズドなAI企業が協力を拒否した場合、軍は制限のないオープンソースAI（LlamaなどのOSSモデル）の軍事転用にシフトするのか。むしろ制限のない形での軍事利用が広がりかねない逆説的なリスクがあります。
企業倫理と政府契約の両立: 防衛システムやクラウドインフラで大型政府契約を狙う企業は、倫理的レッドラインと収益のどちらを優先するのか。AIエージェントによる経済的影響と同様に、AI企業の経営判断が社会全体に波及します。
法整備の遅れ: 企業の自主規制に任せるのではなく、AIの軍事利用に関する明確な法的ガイドラインを立法機関が策定する動きが加速するのか。DoD指令3000.09は一歩前進ですが、AI技術の進化に法律が追いついていない現状があります。
よくある質問 (FAQ)
Q: Anthropicは軍との取引を完全に拒否しているのですか？
A: いいえ、完全に拒否しているわけではありません。情報分析や後方支援など、多くの用途には同意しているとされますが、「マス監視」と「人間の関与しない致死性自律兵器」への利用については、システム的にブロックするガードレールの維持を求めています。
Q: 国防生産法（DPA）が発動されたらどうなりますか？
A: Anthropicは法的に軍へのAIモデル提供を強制される可能性があります。ただしDPAのAIへの適用は前例がなく、実際に発動された場合は長期の法廷闘争が予想されます。AI業界における政府の強制介入の前例となれば、業界全体に広範な影響を与えます。
Q: 他のAI企業は軍とどう付き合っているのですか？
A: 企業ごとにアプローチは大きく異なります。Googleは2018年に従業員の反発により国防総省の「Project Maven（画像認識AI）」から撤退した経緯がありますが、現在は一部防衛関連プロジェクトを再開しています。MicrosoftはAzure Government Cloudを通じた防衛・諜報機関向け契約を積極的に推進しており、方針はAnthropicとは対照的です。Anthropicの「ガードレールを維持した上での選択的協力」というモデルは、業界の中では例外的な立場といえます。
Q: DoD指令3000.09はAnthropicの要求を保証しますか？
A: 必ずしもそうではありません。同指令は「適切なレベルの人間の判断」を確保することを義務付けていますが、「適切」の定義には運用上の解釈の幅があります。Anthropicが求めるのは契約上の法的拘束力を持つガードレールであり、省内ポリシーとして発せられた指令が提供する保護とは次元が異なります。