Vercelが9月に公表したAI Gatewayのレポートによると、8月に同社のゲートウェイを通過したトークンの56％をオープンウェイトモデルが処理し、推計支出の14％を占めた。この差は、利用量とモデルにかかる費用が異なる姿を示し得ることを表している。これは単一ゲートウェイのトラフィックを切り取ったもので、AI市場全体や顧客の実際の請求額を測ったものではない。

第290回の20分03秒時点で、「All-In」ポッドキャストのパネリストは、オープンウェイトモデルと高性能モデルの新作が登場する速さについて議論し、ダウンロード可能なモデルの性能向上が利用機会を広げると主張している。これはパネリストの見解だ。これとは別に、より限定的なデータとしてVercelの9月版AI Gateway Production Indexがあり、8月までのトラフィックを報告している。

大きな変化

  • 何が変わったか：Vercel AI Gatewayでは、オープンウェイトモデルのトークン比率が12月の少数派から8月には56％へ上昇した。一方、8月のリスト価格ベースの推計支出に占める割合は14％だった。
  • なぜ重要か：モデルを選ぶチームは、トークン需要と支出を分けて考えたうえで、自分たちのタスクにおける品質と運用総コストを比べる必要がある。この指数には、個々のチーム向けのタスク別結果や節約額は示されていない。
  • 今後の注目点：実務上の焦点は、選んだモデルが品質、応答速度、プライバシー、運用要件を満たし、総コストにも見合うかどうかだ。トークン比率だけでは判断できず、ライセンス条件、ハードウェア、エンジニアリングの作業時間も考慮する必要がある。

56％と14％が示すもの

Vercelによると、8月にはAI Gateway経由のトークンの56％をオープンウェイトモデルが処理し、同社ゲートウェイで初めて利用量の過半を占めた。推計支出に占める割合は14％だった。同社のグラフでは、トークン比率は4月の13％から8月の56％に上昇している。レポートは9月17日付で、8月までのデータを用いている。

この差は、モデルの実行が無料だという意味ではない。重みをダウンロードできても、計算資源、電力、運用費用はかかる。丸められた比率に基づくと、このデータセットではオープンウェイト群のトークン当たり推計支出は、他のモデル群のおよそ8分の1だった。計算はVercelの数値を使い、オープンウェイト群の支出14％をトークン56％で割り、他のモデル群の支出86％をトークン44％で割って比較したものだ。異なるモデルやトークン種別を平均した値であり、特定モデルの価格や性能を示すものではない。

この指数は、入力、出力、推論、キャッシュ入力、キャッシュ作成の各トークンを数えている。種類ごとに価格が異なるため、グループ平均には利用者が送信・生成したトークンの構成も反映される。Vercelは各AIラボの公表リスト価格を使って支出を推計しており、実際の請求額とは異なる場合があると説明している。この方法なら、独自のプロバイダーキーを使うチームのトラフィックも比較できるが、請求書の監査でも、セルフホスト時の計算費用の測定でもない。

レポートによると、ゲートウェイ全体のトークン当たり平均推計価格は8月に23.2％低下した。7月と8月の両方でそれぞれ1,000万トークン超を処理したチームでは、中央値のチームのトークン当たり推計価格が7.6％低下した。Vercelは、オープンウェイト利用の拡大が低下の一因だとしている。ただし、モデル構成やトークンの種類、チームのモデル・作業内容の変更などがどの程度影響したかは、このレポートだけでは切り分けられない。

単一ゲートウェイは市場全体ではない

この指数が示すのは、匿名化されたVercel AI Gateway経由の集計トラフィックだ。同サービスを通る実際の本番リクエストを捉えており、モデルの性能順位表や新製品発表より具体的な利用状況を示す。一方、顧客がAI利用者全体を代表するとは立証しておらず、市場全体の標本枠や、同ゲートウェイを使わない作業での採用状況も示していない。したがって、各比率はVercelのゲートウェイ内の構成として読むべきだ。

Vercelはまた、オープンウェイトの分類に現行のAI Gatewayモデル一覧を使っており、以前のレポートより広い定義になったと説明している。方法を改定したり、より完全なデータを受け取ったりすれば、過去の数値も変わる可能性がある。月ごとの傾向は参考になるが、レポート自身が分類範囲の変更を明記している。

「オープンウェイト」は「オープンソース」と同じ意味ではない。モデルの重みとは学習によって得られた数値パラメーターで、ダウンロード可能な形で公開されることがある。Open Source InitiativeのOpen Source AI Definition 1.0は、より広い基準を示している。AIシステムを利用、研究、改変、共有する自由を求め、改変に適した形に含まれる要素として学習データに関する情報、コード、モデルパラメーターを挙げる。ダウンロード可能なチェックポイントにもライセンス上の制限があり得るほか、学習コードやデータの詳細が欠けていることもある。チームは個々のモデルのライセンスと公開資料を確認する必要がある。

AIを導入する企業にとって、この差が意味すること

Vercelの数値から導けるのは限定的な結論だ。このゲートウェイでは、オープンウェイトモデルがトークン量の大きな割合を処理する一方、リスト価格ベースの推計支出に占める割合は小さかった。同じ作業をローカルサーバーでより安く実行できることや、品質、速度、信頼性を変えずに低コストモデルで高性能モデルを置き換えられることは示していない。

製品チームが比較すべきなのは、同じ作業を同じ合格基準で完了する費用だ。入力・出力の量、再試行、ツール、ルーティング、応答時間、人による確認を含め、プロバイダーへの支払いと、重みを直接実行するためのハードウェア・運用費用を比べる必要がある。9月の指数には、こうしたタスク別の比較はない。その価値は、単一の本番ゲートウェイでオープンウェイトモデルが相当量利用されている一方、推計支出の構成では他のモデル群の比重がなお大きいと示す点にある。

オープンウェイトモデルの提供が広がっているというAll-Inパネルの大きな主張は、この種の利用データと照らして検討できる。ただし、Vercelの指数は議論中のモデルに関するすべての主張を裏付けるものでも、今後の採用動向を予測するものでもない。現時点で有用なのは、あるカテゴリーが処理するトークン数、プロバイダー料金の推計額、そしてチームが信頼できる結果を得るための費用を区別することだ。

出典・関連資料