依頼ごとにモデルを選ぶ2つの仕組み
AIモデルの仲介サービス米OpenRouterは11月6日（日本時間7日）、依頼の中身に応じて使うモデルを自動で選ぶ仕組み（ルーター）の新版を公開した。質問への回答やAIエージェント（AIが自ら作業を進める仕組み）全般に使う「Auto Router」を作り直し、プログラミング用のエージェント向けに「Auto Code」を新たに設けた。
Introducing our next generation of model routers: Auto Router for general q&a + agents. Auto Code for coding agents. Auto Code benchmarks similar to Opus 5.5 while costing 74% less, they have a p90 latency of just 0.65s, and we show how routing decisions are made per request.
OpenRouterに載る600を超えるモデルが候補になる。利用者の制限やデータの保存の条件で候補を絞った後、判断用の高速なモデルが、作業の種類、難しさ、速さが要るか、画像を読む必要があるかなど11の観点で依頼を評価する。そのうえで、その時点の料金、再利用できる分（キャッシュ）の有無、評価の結果を見て、モデルと推論の深さを決める。依頼ごとに選んだ理由も示す。
Auto Routerは2023年に始まり、月に10万人を超える利用者から2兆5000億トークン（文章の単位）を超える依頼を受けているという。
「Opus 5.5並みで74%安い」は自社の評価
OpenRouterは、プログラミングや道具の呼び出しなど5つのベンチマークで、Auto CodeはAnthropicの「Claude Opus 5.5」並みの点数を出し、1タスクあたりの費用は74%少ないと説明した。ただし、発表にはOpus 5.5のそれぞれの点数、5つの結果をどう平均したか、Opus 5.5をどの設定で動かしたかの記載がない。第三者による検証も示していない。
「0.65秒」は、ルーターが使うモデルを選ぶ段階にかかる時間だ。同社の実測で、遅い方から1割の位置（p90）の値が、旧版の1.96秒から0.65秒に縮んだという。選んだモデルが回答を書き終えるまでの時間は含まない。測った件数や期間は示していない。
試験版を使った比較では、旧版より、誤った形の道具の呼び出しが4分の1に、エージェントの回答が途中で切れる回数が半分に減ったとしている。同社は「費用と品質のどの点でも最上位の単独モデルを上回るルーターは市場にない」とも書き、Auto Routerも例外ではないと認めている。
旧版より点数は上がった
旧版と比べた表は、同社が公開している。既定の設定どうしで比べると、新しいAuto Routerは5つのベンチマークすべてで旧版を上回った。銀行の業務を想定して道具の使い方を測る「τ³-bench Banking」では、13.7%から53.1%に上がった。Auto Codeは、プログラミングの「Deep SWE」で74.3%と、旧版の64.6%を上回った。ただしτ³-bench Bankingでは、Auto Codeは52.6%とAuto Routerの53.1%を下回った。
- Auto Router
- Auto Code
- 旧Auto Router
1タスクの費用は旧版の最大8倍
一方で、1タスクあたりの費用は多くのベンチマークで増えた。Auto Codeは5つすべてで旧版より高く、エージェントがコマンド画面で作業する力を測る「Terminal Bench 4.0」では旧版の0.61ドルから4.96ドルと8.10倍になった。Auto Routerも、Deep SWEで1.37ドルから0.57ドルに下がった以外の4つでは、旧版の2.17〜6.90倍だった。画像を読み解く「MMMU Pro Vision」では、旧版の0.006ドルに対し、Auto Routerが0.020ドル、Auto Codeが0.025ドルだった。
OpenRouterは、新しいAuto Routerの既定の設定は旧版より1タスクあたりの費用が高いと認めている。「より多くの種類のモデルを使えるようにするため、数か月前のAutoに近い価格に戻す」と説明している。Auto Codeについても、より高い費用の段階から始まるとしている。
- Auto Router
- Auto Code
- 旧Auto Router
Auto Router向けの費用の段階はAuto Codeに効かない
ルーターの利用に追加の料金はかからず、選ばれたモデルの通常の料金を払う。どのモデルが使われたかは、回答に記録される。
Auto Routerは費用の段階を「low」「medium」「high」から選べる。lowは推定の費用の低さを優先し、旧版に近い費用になるという。指定しなければ既定の設定で動き、発表の表のAuto Routerはmediumの値だ。lowにした場合の点数と費用は、発表の表には載っていない。
Auto Codeは、Auto Router向けに指定した費用の段階を無視し、プログラミング向けの独自の段階で動く。一般の段階で動かすには、TypeSafeの判断用モデル「Jev」を使う「Jev Router」の項目で別に指定する必要がある。資料は、費用の段階は振り分けの好みの指定で、決まったモデル、点数、1回あたりの料金の上限を保証するものではないとしている。
使えるモデルは利用者が限定でき、料金の上限の指定も選ばれたモデルに適用される。ルーターは世界共通の処理地域でだけ動き、Auto Codeは欧州域内で処理を完結させる設定に対応していない。
振り分け先はOpenAIのGPT-6.1 Solが3割
OpenRouterが発表で示したAuto Routerの振り分けの実績では、11月3〜4日の24時間に受けたエージェントの新しい依頼266件のうち、33.8%が米OpenAIの「GPT-6.1 Sol」に回った。中国DeepSeekの「DeepSeek V4.1 Flash」が21.4%、中国Moonshot AIの「Kimi K3.1 Pro」が12.8%、Claude Opus 5.5が9.0%で続いた。1日分の件数で、時期によって変わりうる。
仲介の取扱量は拡大
OpenRouterは、各社のAIモデルを1つの窓口で使えるようにする仲介サービスだ。米New York Timesによると、5月に米AlphabetのCapitalGが主導する1億1300万ドルの資金調達を実施し、評価額は約13億ドルになった。当時の処理量は週25兆トークンで、半年前の5兆トークンから増えていた。
Crypto Briefingは11月2日、1週間の処理量を52倍した同社の年換算の処理量が1京トークンを超えたと伝えた。モデルを自動で選ぶ仕組みは、どのモデルを使うかの判断を利用者から仲介サービスに移す。費用と点数の数字を、第三者がどう評価するかが焦点になる。
