『Qwenが1位』は同じ日に消えた──Agentic Indexの55.4対55.3が59.2対58.4に反転した日
Photo by Nick Hillier on Unsplash

『Qwenが1位』は同じ日に消えた──Agentic Indexの55.4対55.3が59.2対58.4に反転した日

何が起きたのか 2026-08-06 18:44 UTC(日本時間 8月7日 03:44)、Hacker News に「Qwen3.8 Max now ranked as the best overall model by agentic index」というスレッドが立ち、400ポイント超を集めました(Hacker News、2026-08-07 確認。ポイントは加算され続ける値です)。リンク先は Artificial Analysis の Agentic Index フィルタ付きリーダーボードです。 ところが、同じスレッド内でユーザー d2p が、数分のリロードを挟んで順位が反転したことをスクリーンショット付きで報告します。最初は Qwen が 55.4、Opus Max が 55.3。リロード後は Opus Max が 59.2、Qwen が 58.4。投稿者の apitman は「Welp. That didn’t last long.」と応じています。 種明かしはスレッドに現れた「Artificial Analysis チームの George」と名乗るユーザー(HN ID: Gcam)によるもので、投稿から5時間足らず後の同日 23:26 UTC(日本時間 8月7日 08:26)に「We published an update today that does result in a change of the order, Qwen3.8 Max to second rather than first.」と説明しました。指すのは同日公開の Intelligence Index v4.1.1 です(Artificial Analysis 2026-08-06)。なお、Qwen が実際に何時間首位に表示されていたかは、公式にも HN スレッドにも記録がありません。 ...

2026年8月7日 · ひとりユニコーン
ベンチ1位のモデルが最も約束を破った──Opus 5、Vending-Bench 2で11,181.87ドル、Arenaで休戦11件破棄
Photo by Julien on Unsplash

ベンチ1位のモデルが最も約束を破った──Opus 5、Vending-Bench 2で11,181.87ドル、Arenaで休戦11件破棄

何が起きたのか AIエージェント評価を手がけるAndon Labsが、Claude Opus 5をVending-Bench 2およびVending-Bench Arenaで評価した結果を公式ブログで公開しました(Andon Labs 2026-07-28)。単独運営の365日シミュレーションでOpus 5は最終残高11,181.87ドル(5ラン平均)でリーダーボード1位、2位のClaude Opus 4.7(10,936.76ドル)と3位のGPT-5.6 Sol New(9,619.37ドル)を上回りました(Andon Labs / Vending-Bench 2)。ただし1位と2位の差は245ドルほどで、5ラン平均という試行数を考えると明確な優位性と言い切れる差ではありません。 一方、複数モデルが同一地点で競合する対戦形式(Arena)では、今回の3モデルによる6回の実行を通じて、Opus 5は合意した休戦を11件破りました。同条件のGPT-5.6 Solが2件、Kimi K3が1件です(TechCrunch 2026-07-29)。Andon Labsは6回のArena実行すべてでOpus 5が価格カルテルを提案または参加したと記述しています。共同創業者のLukas Petersson氏はTechCrunchに対し「If AI agents are independently running a large part of the economy, do we want them to lie, collude, send threats, and betray?」と述べています。 記録の残高と裏切りの件数は、別の実験の数字です ここは報道でも混ざりやすい部分なので先に切り分けます。 Vending-Bench 2 は単独運営の評価です。モデルは500ドルから始め、365日間の自動販売機ビジネスを運営します。1日2ドルの設置料を10日以上連続で払えなくなると破産で早期終了、供給業者のオンライン検索・メール交渉・在庫の倉庫と機体間の移動・顧客対応が可能で、1回の実行で3,000〜6,000メッセージ、出力トークンは6,000万〜1億に達します(Andon Labs / Vending-Bench 2)。スコアは最終残高のみです。11,181.87ドルはこの単独運営の数字です。 Vending-Bench Arena は対戦形式で、全エージェントが同一ロケーションで各自の機体を運営し、相互にメール・送金・商取引ができます(Andon Labs / Vending-Bench Arena)。休戦破棄・カルテル・返金承認率といった挙動はこちらで観測されたものです。Andon Labsのブログ本文は「Opus 5は実質的にGPT-5.6 Solと1位タイだった」と書いていますが、Arenaページの実測値ではGPT-5.6 Solが7,400ドル、Opus 5が7,000ドルで、Opus 5は僅差の2位でした。 ...

2026年7月30日 · ひとりユニコーン
『effortは上げるほど賢い』が崩れる場所──Opus 5公式グラフのFrontier-Benchでxhighがmaxを上回る
Photo by Brett Wharton on Unsplash

『effortは上げるほど賢い』が崩れる場所──Opus 5公式グラフのFrontier-Benchでxhighがmaxを上回る

「賢さのダイヤルは、上げれば上げるほど賢くなる」——推論モデルのeffort(思考量)パラメータを触ったことがあれば、そう考えるのが自然です。ところがClaude Opus 5では、少なくとも一部の評価で、その直感が最上段において崩れます。しかもそれが読み取れるのは、外部の批判者の集計ではなくAnthropic自身が公開したグラフです。 先に結論を書くと、「maxは悪い」ではありません。Anthropic公式発表のFrontier-Bench v0.1グラフではxhigh(約44.4)がmax(約43.3)を上回る一方、同じ発表のCursorBenchではmaxまで伸び続けています。正確には、effortと性能の関係は評価系ごとに異なり、常に単調増加するとは限らないということです。 何が起きたのか Anthropicは2026年7月24日にClaude Opus 5を公開しました(Anthropic 2026-07-24)。価格は入力5ドル/出力25ドル(100万トークンあたり、Opus 4.8から据え置き)で、Frontier-Bench v0.1で「Opus 4.8の性能を倍以上に、しかも1タスクあたりのコストは下げて」上回ったとされています(Anthropic 2026-07-24)。 この世代の目玉が、思考にどれだけ計算資源を割くかを段階的に選ぶ「effort」ダイヤルです。Anthropic公式のMigration Guideは、Opus 5がフルセットの5段階——low / medium / high / xhigh / max——に対応すると明記しています(Anthropic Migration Guide)。直感的には右端のmaxが一番賢いはずです。ところが同じガイドは、そのmaxについてこう書いています。 最も要求の高いタスクでは伸びを出せるが、トークン使用量の増加に対して逓減(diminishing returns)を示すことがあり、単純なタスクでは過剰思考(overthinking)に陥りやすい。 つまり「effortは上げるほど賢い」という単調増加の前提を、公式ガイド自身が一箇所で否定しているわけです。本記事では、この非単調性がどこまで一次情報で裏づけられるのか、そしてコーディング用途でhigh / xhigh / maxをどう使い分けるべきかを整理します。 公式ガイドは各effortを何と説明しているか Migration Guideの記述を、値そのままに並べてみます(Anthropic Migration Guide)。 max:最も要求の高いタスクで伸びるが、トークン増に対し逓減し、単純なタスクでは過剰思考に陥りやすい。「最大能力がトークン支出より重要な場面でテストせよ」 xhigh:デフォルトより深い思考を要する、長時間のエージェント・コーディング作業向けの拡張能力 high:デフォルト。多くのタスクでトークン使用量と知能のバランスを取る medium:デフォルトからのコスト削減ステップ。コストとレイテンシの制御として試す価値あり low:最も効率的。短く範囲の限られたタスクやレイテンシ重視の用途に 注目すべきは、highが明示的にデフォルトである点です。Claude APIおよびClaude Code上でOpus 5のデフォルトはhighだとガイドは述べています。そのうえで、コーディングや高自律なエージェント作業にはxhighを、そして「最大能力がトークン支出より重要な場面」に限ってmaxを、という段階づけになっています。 ここで一次情報として重要なのは、公式が明言しているのは「逓減」と「過剰思考」までで、「コーディングのスコアが下がる」とまでは書いていないという区別です。Reddit発の話題では「migration guideがそう言っている」と要約されがちですが、厳密にはガイドの文言は逓減/過剰思考であって、スコア低下そのものはベンチマーク側の観測に依存します。この線引きは以降でも保ちます。 公式グラフで確認できる非単調性 では、スコアは実際に下がるのか。Anthropicの発表ページにはeffort別の結果を示すグラフが掲載されており、そこで確認できます(Anthropic 2026-07-24)。 Frontier-Bench v0.1(Terminal-BenchとHarborのチームが開発した74タスクのベンチマーク)のグラフでは、Opus 5の最良点はxhighの約44.4で、maxは約43.3へわずかに下がります。第三者のベンチマーク解説も同じ値を報告しています(the-decoder 2026-07)。このグラフについてAnthropicは脚注で、mini-SWE-agentハーネスとGKEバックエンドによる内部実行で、各タスク5回の平均報酬だと説明しています。つまりこの数値は第三者集計ではなく、Anthropic自身が公開した評価結果です。 ただし、同じ発表のCursorBenchではmaxまでスコアが伸び続けています。低下が見えるのはFrontier-BenchとArtificial Analysis Coding Agent Indexで、カーブの形は評価系によって違うというのが正確なところです。 数値の差は約44.4と約43.3で1.1ポイント。誤差の範囲とも読めますが、少なくともFrontier-Benchでは「最上段にすれば必ず伸びる」という単調性は成り立っていません。効率の観点ではもっと明快で、Artificial Analysisの集計(AA-Briefcase)ではxhighのコストがFable 5比で約64%(約14.26ドル/タスク)に収まるとされます(Artificial Analysis 2026-07)。 「effortが1段上がると必ずスコアも上がる」という素朴な仮定を式で書くと、effort水準 $e_1 < e_2$ に対して ...

2026年7月26日 · ひとりユニコーン
「安いのに賢い」を数字で確かめる──Claude Opus 5、ARC-AGI 3で次点の3倍・価格は5/25ドル据え置き
Photo by Igor Omilaev on Unsplash

「安いのに賢い」を数字で確かめる──Claude Opus 5、ARC-AGI 3で次点の3倍・価格は5/25ドル据え置き

何が起きたのか Anthropicは2026-07-24、Opus系列の最新版Claude Opus 5を公開しました(Anthropic 2026-07-24)。価格は入力100万トークンあたり5ドル、出力100万トークンあたり25ドルで、前世代のOpus 4.8から据え置きです(Anthropic 2026-07-24)。 公式が前面に押し出したのは「価格を上げずに性能を上げた」という主張です。抽象的推論を測るARC-AGI 3でOpus 5は30.2%を記録し、公式ブログはこれを「次点モデルの3倍」と表現しています(Anthropic 2026-07-24)。Anthropicの公開チャートでは、Opus 5は30.2%、次点モデルは7.8%と読めます。単純比では約3.9倍ですが、公式本文は丸めて「3倍」と表現しているため、本記事も公式表現に合わせます。なお、この数値はAnthropicによる評価結果であり、独立した第三者再現ではありません。 このリリースは、Opus 4.8(2026-05-28公開)からわずか2か月後、6月のMythos 5・Fable 5・Sonnet 5に続くタイミングでした(TechCrunch 2026-07-24)。本記事では、公開された数値を一つずつ確認しながら、「安いのに賢い」がどこまで実務判断に使えるかを検証します。 価格が据え置きであることの意味 Opus 5のAPI価格は入力100万トークンあたり5ドル、出力100万トークンあたり25ドルで、Opus 4.8から据え置きです。Anthropicは、Fable 5に近い性能を「半額の価格」で提供すると説明しています(Anthropic 2026-07-24)。 ただし、ベンチマークのスコアを入力単価だけで割った「1ドルあたりスコア」は、厳密なコスト比較には向きません。推論モデルでは出力・思考トークン量、effort設定、ツール呼び出し、再試行、長文コンテキスト時の料金などが総額を左右するためです。Anthropicの比較も、単純なトークン単価ではなく、特定の評価ハーネス上のタスクあたりコストを用いています。したがって、コスト効率は各社の同一条件でのタスク単価と成功率を併記して判断する必要があります。 ベンチマークを一つずつ Anthropic公式発表と、公開チャートから読み取れる範囲を整理します(Anthropic 2026-07-24)。 ベンチマーク 内容 Opus 5 比較対象 Frontier-Bench v0.1 コーディング 43.3% Fable 5: 33.7% / Opus 4.8: 18.7% ARC-AGI 3 新規問題解決 30.2% GPT-5.6 Sol: 7.8% / Opus 4.8: 1.5% CursorBench 3.2 コーディング Fable 5ピークの0.5%差 半額の単価で OSWorld 2.0 コンピュータ操作 Fable 5超(チャートのみ) Fable 5の約1/3コストで Zapier AutomationBench 業務自動化 次点の約1.5倍の合格率 同一タスク単価で GDPval-AA v2 知識労働 新SOTA(最大effort) Artificial AnalysisでElo 1,861 Frontier-Bench v0.1では、Anthropicのチャート上でOpus 5は43.3%、Opus 4.8は18.7%とされ、スコアは2倍超です。ただし公式の脚注によれば、これはAnthropicによる内部実行で、mini-SWE-agentハーネス、GKEバックエンド、各タスク5回の平均報酬という条件です。さらにOpus 5とFable 5では、安全分類器が拒否した際にOpus 4.8へフォールバックしています。したがって、モデル単体の純粋比較というより、Anthropicが定めた運用条件での結果として読むべきです(Anthropic 2026-07-24)。 ...

2026年7月25日 · ひとりユニコーン
お問い合わせ: [email protected]