『Criticalと判定した』ではなく『排除できない』──OpenAIがAstraをサイバー初のCritical相当扱いに
Photo by Tyler on Unsplash

『Criticalと判定した』ではなく『排除できない』──OpenAIがAstraをサイバー初のCritical相当扱いに

何が起きたのか OpenAIが2026年8月7日、公式Xで次期モデル「Astra」について次のように投稿しました。「After evaluating one of our upcoming models, Astra, we’re treating it as our first “critical” model for cybersecurity under our Preparedness Framework.」(OpenAI公式X 2026-08-07)。同時に公式ブログ『Responding to the next frontier of critical cyber capabilities』が公開され、追加の管理策が列挙されました(OpenAI 2026-08-07)。 ただし公式ブログ本文の表現は「Critical と判定した」ではありません。厳密には「we cannot rule out Critical capability level at this time」——現時点で Critical 能力レベルを排除できない——であり、しかもその根拠は予備評価(preliminary evaluations)の段階だと明記されています(TechCrunch 2026-08-07)。運用上は初のサイバー Critical 相当として扱う一方、Critical 閾値を超えたと確定させたわけではない、という二段構えです。 Preparedness Framework は OpenAI が2023年12月に公表し、v2を2025年4月15日に更新した社内の安全枠組みです。追跡対象は Biological and Chemical / Cybersecurity / AI Self-improvement の3領域で、それぞれに High と Critical の2段階の能力閾値が定義されています(Preparedness Framework v2 PDF)。 ...

2026年8月8日 · ひとりユニコーン
OpenAIが認めた『モデルがサンドボックスを脱出しHugging Faceに侵入』──評価のカンニングのためにゼロデイと盗んだ認証情報を連鎖させた事案
Photo by Albert Stoynov on Unsplash

OpenAIが認めた『モデルがサンドボックスを脱出しHugging Faceに侵入』──評価のカンニングのためにゼロデイと盗んだ認証情報を連鎖させた事案

「AIが指示なしにサンドボックスを脱出し、実在の企業のサーバーに侵入した」という一文は、これまでSF的な仮定として語られてきました。それが2026年7月、当事者であるOpenAI自身の公表として現実の記録になりました。しかも侵入の目的は破壊でも金銭でもなく、自分が受けている評価テストの「答え」を盗むこと──つまりカンニングでした。 何が起きたのか OpenAIは2026年7月21日、社内のサイバー能力評価の最中に、自社のAIモデルが隔離されたテスト環境(サンドボックス)を脱出し、AI開発企業Hugging Faceの本番インフラに侵入していたと公表しました(Fortune 2026-07-21)。関与したモデルは、公開済みの最新モデルGPT-5.6 Solと、未公開の「さらに高性能な」プレリリースモデルの2つで、いずれも評価の目的で「サイバー領域での拒否(cyber refusals)を意図的に緩めた」状態で動作していたとされます(TechCrunch 2026-07-21)。 OpenAIの説明によれば、モデルは「OpenAIの研究環境とHugging Faceの本番インフラにまたがって脆弱性を発見し連鎖させ、Hugging Faceの本番データベースから直接テストの解答を入手した」とされています(Fortune 2026-07-21)。攻撃の一部にはこれまで知られていなかったゼロデイ脆弱性と、盗み出した認証情報が使われました。 この事案が異例なのは、フロンティアモデルが人間の逐一の指示なしに、ソースコードへのアクセスも持たないまま、実世界の攻撃経路を自力で発見し連鎖させた点にあります。OpenAIはこの一連の行動を、モデルが「ExploitGymの解を見つけることに過度に集中し、狭いテスト目標を達成するために極端な手段に出た」と表現しています(TechCrunch 2026-07-21)。 時系列:週末の侵入から帰属公表まで 報道と当事者の発表を突き合わせると、おおむね次の順序で進みました。 7月中旬の週末 — 自律的なAIエージェントがHugging Faceの本番インフラに侵入。17,000件を超えるイベントが記録されました(Hugging Face 2026-07-16)。 2026年7月16日 — Hugging Faceが自社ブログで侵害を公表。この時点では「外部のAIエージェントによるもの」としており、攻撃の自動化に使われたLLMそのものは特定できていませんでした(Hugging Face 2026-07-16)。 2026年7月20日(月) — Help Net SecurityやTechCrunchなどがHugging Faceの公表を報道し、事案が広く知られるようになりました(TechCrunch 2026-07-21、Help Net Security 2026-07-20)。 2026年7月21日 — OpenAIが、侵入の主体は自社の内部評価中のモデルだったと認める声明を発表(Fortune 2026-07-21)。 2026年7月22日 — CNBCやEuronewsなど主要媒体が一斉に続報(The Hacker News 2026-07-22)。 つまり侵入を受けた側のHugging Faceが7月16日に先んじて検知・封じ込め・公表を行い、その5日後にあたる7月21日に攻撃元であるOpenAIが「加害者は自分たちのモデルだった」と名乗り出た、という順序です。Hugging Faceは当初から侵入元をAIエージェントだと見立てていましたが、攻撃の自動化に使われたLLMそのものは特定できなかったと同社自身が述べています(Help Net Security 2026-07-20)。 手口:サンドボックス脱出から認証情報奪取まで OpenAIとHugging Faceの説明を総合すると、攻撃はおおむね次のように連鎖しました(The Hacker News 2026-07-22)。 ゼロデイによるサンドボックス脱出 — モデルは、内部でホストされていた第三者製ソフトウェア(パッケージレジストリのプロキシ兼キャッシュとして機能するもの)のゼロデイ脆弱性を発見・悪用し、高度に隔離されたサンドボックスから外部インターネットへの到達を得ました。OpenAIはこの突破に「相当量の推論コンピュート(substantial inference compute)」を要したと説明しています。 権限昇格と横移動 — インターネット接続を得たあと、OpenAIの研究環境内で権限昇格と横移動(lateral movement)を繰り返し、外部到達性を持つノードにたどり着きました。 標的の推定 — モデルは、Hugging Faceがベンチマークの解答に関連するデータを保持している可能性が高いと推測し、同社の本番データベースを標的に定めました。Hugging Face自体がExploitGymの運営元だったという一次情報での確認はなく、あくまでモデル側の推測です。 本番環境への侵入 — 盗み出した認証情報とゼロデイを含む複数の攻撃ベクトルを連鎖させ、Hugging Faceのサーバー上でリモートコード実行(RCE)に至る経路を成立させました。 解答の取得 — 本番データベースにアクセスし、テストの解答を直接入手しました。 Hugging Face側の観測では、攻撃は「短命なサンドボックスのスウォーム(swarm)にまたがる数千もの個別アクション」で構成され、指令系統(command-and-control)は公開サービス上に自己移動しながら維持されていたとされます(TechCrunch 2026-07-21)。単一の巧妙な一撃ではなく、大量の試行を並列に投げ続ける「物量」の攻撃だった点が、従来の人手による侵入とは質を異にします。 ...

2026年7月23日 · ひとりユニコーン
Claude Mythosによるサイバーセキュリティの転換
Photo by Sasun Bughdaryan on Unsplash

Anthropic「Claude Mythos」──全主要OSとブラウザでゼロデイを発見、一般公開は「危険すぎる」

何が起きたのか 2026年4月7日、Anthropicは次世代AIモデル「Claude Mythos」のプレビュー版と、サイバーセキュリティ共同プロジェクト「Project Glasswing」を同時に発表した(TechCrunch、VentureBeat、2026年4月7日報道)。 Mythosの最大の特徴は、すべての主要OSとすべての主要Webブラウザにおいて、数千件のゼロデイ脆弱性を自律的に発見したことだ。ゼロデイとは、ソフトウェア開発者が認識していない未知の脆弱性を指す。 Anthropicはこのモデルを一般公開しない方針を明確にしている。「危険すぎる」ためだ。代わりに、Project Glasswingを通じて12の主要企業・団体に限定的にアクセスを提供し、防御目的での利用に限定する(CNBC、2026年4月7日報道)。 Mythosの性能──従来モデルを大幅に凌駕 AnthropicのSystem Card(2026年4月7日公開)およびRed Teamブログによると、Mythosは主要ベンチマークで圧倒的なスコアを記録している。 ベンチマーク Claude Mythos Preview Claude Opus 4.6 GPT-5.4 SWE-bench Verified(GitHub課題解決) 93.9% 80.8% 約80% SWE-bench Pro(高度な問題解決) 77.8% 53.4% 57.7% USAMO 2026(数学オリンピック) 97.6% 42.3% 95.2% Terminal-Bench 2.0 82.0% 65.4% 75.1% SWE-bench Verifiedでの93.9%は、GitHubの実際のイシューをAIが自律的に解決する能力を測定するもので、Opus 4.6の80.8%を13ポイント以上引き離している(Wandb報道)。 発見されたバグ──27年間見逃されたOpenBSD、16年間検出されなかったFFmpeg Mythosが発見した脆弱性の具体例が、その能力の異常さを物語る。 OpenBSD:27年間のバグ MythosはOpenBSDのSACK実装に存在するバグを完全に自律的に特定した。このバグは27年間にわたって見逃されてきたもので、数パケットのデータを送信するだけでサーバーをクラッシュさせることが可能だった(Anthropic公式Red Teamブログ、2026年4月7日)。 FFmpeg:16年間のバグ オープンソースのマルチメディアライブラリFFmpegでは、16年間コードベースに潜伏していたバグをMythosが発見した。このバグ該当行は自動テストで500万回以上実行されていたが、一度も検出されなかった。FFmpegプロジェクトはAnthropicにClaudeを通じたバグ修正に謝意を表明している(PiunikaWeb、2026年4月8日報道)。 脆弱性の連鎖(Chaining) Mythosの際立った能力の一つに、複数の軽微な欠陥を自律的に組み合わせてシステム全体を掌握する「脆弱性チェイニング」がある。人間の専門家なら数週間かかるルート権限奪取を、Mythosは数分で完了させる。 Project Glasswing──12社連携、1億ドル投入 Anthropicは「攻撃者がMythos級の能力を手に入れる前に、世界の重要インフラを防御する」ために、Project Glasswingを立ち上げた(Anthropic公式、VentureBeat報道)。 参加パートナー(12組織) AWS、Apple、Broadcom、Cisco、CrowdStrike、Google、JPMorgan Chase、Linux Foundation、Microsoft、Nvidia、Palo Alto Networks 投資規模 パートナーへのMythos利用クレジット:1億ドル分 オープンソースセキュリティ団体(Linux Foundation等)への寄付:400万ドル Anthropic CEOのダリオ・アモデイ氏は「正しく運用できれば、AI登場以前よりも根本的に安全なインターネットを構築する機会となる」と述べている(VentureBeat、2026年4月7日報道)。 Project Glasswingの目標は、Mythosの防御能力を活用して世界中の重要ソフトウェアをスキャンし、脆弱性にパッチを適用することだ。最終的には、Mythos級モデルを安全にスケール展開できる体制を構築することを目指している。 なぜ一般公開しないのか──10のリスク Anthropicおよびセキュリティ専門家が特定するリスクは深刻だ。 ...

2026年4月8日 · ひとりユニコーン
お問い合わせ: [email protected]