T最新テックトレンド

OpenRouter CEOが語るLLMエコシステムの未来:中国製オープンモデルの台頭、企業が抱くフロンティアモデルへの不安、そしてOpenRouterが築く新たなAIインフラ

0:00--:--

AI技術の進化は、かつてない速度で世界を変革しています。特に大規模言語モデル(LLM)の分野では、日々新たなモデルが登場し、その性能と可能性は私たちの想像を遥かに超える勢いです。この目まぐるしい変化の中で、OpenRouterはLLMエコシステムを支える重要なインフラとして、その存在感を増しています。統一されたインターフェースを通じて、多様なLLMへのアクセスを可能にするOpenRouterは、企業がAIを安全かつ効率的に活用するためのゲートウェイとなっています。

本記事では、OpenRouterの共同創設者兼CEOであるAlex Atallah氏へのインタビューに基づき、現在のAIエコシステムの深層、中国製オープンモデルの台頭が示す意味、企業がフロンティアモデルに対して抱く具体的な懸念、そしてOpenRouterがどのようにしてこの複雑な市場において価値を創造し、未来を形作ろうとしているのかを深く掘り下げていきます。彼のOpenSeaでの起業経験から得た教訓、インファレンスプロバイダーの予期せぬ進化、マルチモデル戦略の不可避性、ルーティング技術の差別化、そしてAIがもたらす社会変革への個人的な展望まで、広範なテーマにわたる彼の洞察は、AIの現在と未来を理解する上で極めて重要です。

OpenSeaでの経験がOpenRouterの基盤を築く

Alex Atallah氏は、OpenRouterを立ち上げる前に、最初のNFTマーケットプレイスであるOpenSeaの共同創設者として、テクノロジー業界で注目すべき実績を築きました。OpenSeaでの経験は、OpenRouterの構想と成長に深く影響を与えています。

OpenSeaは、設立当初は非常に小さなチームで運営されていました。しかし、2020年10月にNFT市場が爆発的な成長を遂げると、状況は一変します。サーバーは負荷に耐えかね、検索インデックスは肥大化し、大規模なサービス停止が頻発しました。Atallah氏にとっての最大の目標は、「Twitterの"fail whale"(サービス停止を示すクジラのイラスト)にならないこと」でした。この経験から、彼はプラットフォームとインフラストラクチャを制御下に置き、予測可能なスケーリング能力を確保することの重要性を痛感します。

特に、暗号通貨市場特有の予測不能なトラフィックスパイクへの対応は、彼のインフラ構築に対する責任感を大きく育みました。彼らは、実際にその負荷がかかっていなくても、10倍の負荷に耐えられるようなロードテストを繰り返し行い、常にサービスが稼働し続けることを目指しました。この「常に稼働するインフラ」へのこだわりは、激動の市場においてもユーザーが頼れる存在であるというOpenSeaの評価を確立する上で不可欠でした。

このOpenSeaでの経験は、OpenRouterの設立においても非常に役立っています。AI市場、特にLLMの利用は、Anthropicのような企業が経験したように、予測不可能な成長を遂げています。OpenRouterも同様に、予期せぬ需要の急増に直面しています。OpenSeaで培われたインフラストラクチャとスケーリングに関する深い知識と経験は、OpenRouterが少数の課題に直面しつつも、全体としてははるかに優れたパフォーマンスを維持する上で、生産的に活かされています。AI市場の「常に稼働」が求められる環境において、Atallah氏の過去の経験はOpenRouterを強力に支える基盤となっているのです。

LLMエコシステムの予期せぬ進化:インファレンスプロバイダーの台頭

OpenRouterの創業当初、Alex Atallah氏と彼のチームは、LLMエコシステムの進化に関して一つの大きな誤算がありました。それは、オープンウェイトモデルのホスティングと提供において、ハイパースケーラー(Google, Amazon, Azureなど)が市場を独占するだろうという予想です。しかし、現実はこの予想とは大きく異なる展開を見せました。

初期の段階では、オープンウェイトモデルのホスティング市場がハイパースケーラーによって寡占される可能性が高いと考えられていました。スタートアップ企業は、このような巨大なインフラ企業に比べてはるかに遅れをとるだろうと見られていたのです。しかし、実際にはFireworkやTogetherといった専門のインファレンスプロバイダーが台頭し、その優位性を確立していきました。

Atallah氏は、「GLMのようなモデルをハイパースケーラー上で実行していると聞いたことがありますか?一度もありません」と語ります。これは、専門のインファレンスプロバイダーがハイパースケーラーよりもはるかに優れた仕事をしているという現実を端的に示しています。これらのプロバイダーは、モデルのホスティングにおいて圧倒的に迅速であり、モデル固有のエッジケースへの対応にも長けています。結果として、アップタイム(稼働時間)の安定性という、市場のサプライサイドだけでは魔法のように解決されない問題に対して、専門プロバイダーが決定的な役割を果たすことになりました。

OpenRouterは当初、モデルの探索・発見ツールとして、どのプロバイダーがホスティングしているかを明示しない形でスタートしました。しかし、インファレンスプロバイダー層が強力なマーケットプレイスとして機能し、ハイパースケーラーを凌駕する存在となったことで、OpenRouterはモデルラボのマーケットプレイスを構築するだけでなく、このインファレンスプロバイダー層の重要性を認識し、その変化に適応していきました。現在、OpenRouterは、これらの専門プロバイダーの中から最適なものを選択し、ユーザーに提供する重要な役割を担っています。

インファレンスプロバイダー層はコモディティ化するか?

インファレンスプロバイダーの層がコモディティ化し、時間とともにマージンが削られ、最終的には消滅するという見方があります。この理論に対して、Alex Atallah氏は明確な反論を提示します。

現在の市場は、圧倒的な供給制約に直面しており、この状況はしばらく続くと予測されています。すべてのインファレンスプロバイダーは、GPUの供給不足に常に悩まされています。この状況下で、「なぜGoogleやAmazon、AzureのようなハイパースケーラーがすべてのGPUを買い占め、これらのインファレンスプロバイダーを廃業させないのか?」という疑問が生まれます。

Atallah氏の答えは、GPUメーカー(Nvidiaなど)がそれを望んでいないという点にあります。Nvidiaの最優先事項の一つは、顧客集中を避けることです。彼らは、多数の顧客がそれぞれ独立したGPU割り当てを持つことを望んでおり、市場の多様性と計算層における競争を奨励しています。これはエコシステム全体にとって良いことであり、エンドユーザーにとっても利益となります。

このような環境が、インファレンスプロバイダーがモデルをより良く提供するための新しい革新を生み出す余地を与えています。例えば、単一モデル「Kimiko 3」のベンチマークにおいても、プロバイダーによってパフォーマンスは大きく異なります。OpenRouterは常にすべてのオープンウェイトプロバイダー上のモデルをベンチマークしており、その結果は時間とともに変化し、プロバイダーごとの差異が明確に現れることを確認しています。モデルの振る舞いは「非決定論的」であり、これはプロバイダーの最適化能力が依然として重要であることを示唆しています。

FireworksのLin氏が指摘するように、「トークンは単なるトークンではない」のです。あるプロバイダーは、別のプロバイダーよりもはるかに少ないトークンで同じ成果を達成できます。これは、トークンをいかに効率的に利用するかが、プロバイダーの技術力にかかっていることを意味します。OpenRouterは、ルーターの中核技術に莫大な時間を費やしており、品質向上、速度アップ、価格削減を検出すると、そのプロバイダーに即座により多くのトラフィックを割り当てます。この最適化は24時間365日、5分ごとに大規模モデルで発生しており、ユーザー体験の向上に直結しています。

したがって、インファレンスプロバイダー層は単なるコモディティではなく、技術革新と競争を通じて価値を生み出し続ける戦略的なレイヤーであると、Atallah氏は強調します。

マルチモデルの未来:専門化されたAIの価値

LLMエコシステムが成長するにつれて、企業は独自のモデルを開発し、自社データでトレーニングする傾向を強めています。このような「所有する知能」が重視される世界において、OpenRouterのような多様なモデルへのゲートウェイビジネスは、どのような価値を提供するのでしょうか。Alex Atallah氏は、「マルチモデルの未来は不可避である」と断言し、このトレンドがOpenRouterのビジネスにとってむしろプラスに作用すると説明します。

「我々の目標は、エコシステム全体のAIにおけるニューロダイバーシティ(神経多様性)を高めることです」とAtallah氏は語ります。単一のモデルがすべてのニーズを満たすという考えは、創造性やイノベーションの観点から見て、意味をなさないと彼は指摘します。異なるデータセットでトレーニングされたり、異なるアーキテクチャを持つモデルを組み合わせることで、単一モデルでは決して生み出せないようなクリエイティブなアイデアや、より優れた性能を引き出すことが可能になります。創造性は検証可能ではなく、簡単に数値化できるものではないため、複数のモデルを併用することで、より多様な視点とアウトプットを得られる可能性が高まります。

企業が自社のデータでトレーニングした専門モデルを持つことは、そのブランドの一部として「ブランド化された知能」を構築する上で重要です。しかし、周囲のエコシステムも同様に進化し、日々新しいデータや技術を取り込んだモデルが生まれる中で、自社モデルだけで全てを賄うのは非効率的です。企業は、常にエコシステムが生み出す新しいモデルを試し、それらを活用して生産性を向上させたり、コストを削減したりするインセンティブを持ちます。

Atallah氏は、この市場が「史上最大のテクノロジー市場」であり、「誰もが全てを勝ち取ることはできない」と強調します。企業は、自社の核となるビジネスに特化した、非常に有用な専門モデルを構築し、その専門性で知られることを目指すべきです。そして、その専門モデルを核としつつ、OpenRouterのようなプラットフォームを通じて、幅広い他のモデル群を探索・活用することで、常に最先端の性能を追求し、競争力を維持することができます。このように、OpenRouterは企業が自社モデルと外部モデルをシームレスに連携させ、最適なAI戦略を構築するための不可欠なツールとなるのです。

ルーティング技術のコモディティ化論とOpenRouterの強み

LLMの登場以来、多くの企業が独自のルーティング技術やゲートウェイを開発し、市場に参入しています。この現状を受けて、「ルーティング技術の層はコモディティ化するのではないか」という疑問が呈されています。しかし、Alex Atallah氏は、この見方に異を唱え、OpenRouterのルーティング技術が持つ独自性と強みを明確に説明します。

Atallah氏は、多くの企業がルーティング技術を開発している背景には、「流行だから」という側面があると指摘します。彼らは市場の成長を見て参入していますが、これは「勝つため」ではなく、「存在する(または既存顧客にサービスを提供するために)プレイする」というマインドセットにつながりやすいと彼は分析します。このようなアプローチは、ルーティング技術の開発に100%集中している企業、例えばOpenRouterのような専門企業に比べて、何ヶ月も、あるいは何年も遅れをとることを意味します。OpenRouterは、最高のルーター、ゲートウェイ、そしてLLMマーケットプレイスを構築することに全力を注いでおり、その集中度は製品の品質と競争力に明確に表れていると彼は語ります。

さらに重要な問題は、模倣的なルーティング技術がユーザーの「レバレッジ」を低下させるという点です。OpenRouterは、「ユーザーと開発者に、より多くのレバレッジを与えること」を深く信じています。より多くのモデルにアクセスできることは、AIにおけるあらゆるイノベーションに対して、ユーザーがより大きな影響力を持てることを意味します。特定のモデルへの依存度を減らし、市場全体にアクセスできる柔軟性、カスタマイズ性を提供することが、ユーザーにとって真の価値となります。

もし企業が、市場全体へのアクセスや十分な柔軟性を提供しないルーターやゲートウェイの上に構築した場合、それは自社の従業員がエコシステム全体の恩恵を受けられないように、自ら選択肢を狭めていることになります。OpenRouterの根本的な使命は、人々に「より多くの選択肢」を提供することで、より大きなレバレッジをもたらすことです。この哲学は、単に機能的なルーティングを提供するだけでなく、ユーザーがAIエコシステムの可能性を最大限に引き出すためのエンパワーメントを提供する、というOpenRouterの独自性を際立たせています。

OpenRouterのビジネスモデルと将来の収益源

OpenRouterは、その革新的なルーティング技術を通じて、LLMエコシステムで独自のビジネスモデルを確立しています。現在のOpenRouterの主要な料金体系は、使用量に応じた5.5%の手数料(ペイ・アズ・ユー・ゴー・プラン)ですが、これに加えてエンタープライズ向けのコミットメントベースのプランも提供しており、コミットした利用量には手数料がかからない仕組みです。また、顧客がOpenRouterに自社のインファレンス(APIキーなど)を持ち込む場合、この手数料は発生しません。これは、OpenRouterが純粋にインファレンス容量を提供する部分に対して手数料を課していることを示しています。

「なぜ企業が大規模になるにつれて、OpenRouterの手数料が高すぎると感じ、自社でルーティング技術を構築しようとしないのか?」という問いに対し、Atallah氏は、多くの企業がOpenRouterのエンタープライズプランの存在をまだ知らない可能性や、より詳細な料金モデルの必要性を認めています。将来的には、より分かりやすいビジネスセルフサーブプランの導入も検討されています。

OpenRouterの将来の主要な収益源は、経済状況に大きく左右されるものの、AI市場が現在のペース(年間10〜15倍、あるいはそれ以上)で成長し続けると仮定した場合、**「予測不能なインファレンス容量の提供」**が中心になるとAtallah氏は予測します。企業は、常にインファレンスニーズを過小評価する傾向があるため、予期せぬモデルを試す必要が生じたり、特定のモデルで想定以上のインファレンスを使用したりすることが頻繁に発生します。OpenRouterは、このような状況において、最高のフェイルオーバーとアップタイムを提供することで、企業が直面する問題を未然に防ぐことを得意としています。市場がインファレンスニーズを継続的に過小評価し、急速な成長を遂げている現状において、このサービスは極めて価値が高いと彼は強調します。

もし成長率が鈍化した場合でも、OpenRouterは中小企業(SMB)向けのSaaSモデルを通じて成長する機会を見込んでいます。いずれにせよ、OpenRouterのビジネスモデルは、LLM市場のダイナミックな需要変動に対応し、企業が安心してAI技術を導入・活用できるような信頼性の高いインフラを提供することに焦点を当てています。

トークン価格下落の影響:Jevonsのパラドックスの検証

過去18ヶ月間でトークン価格が90%も下落したという事実は、OpenRouterのようなプラットフォームのビジネスにどのような影響を与えるのでしょうか。手数料が使用量に連動する以上、トークン価格の下落は、パイの縮小を意味し、一見するとマイナス要因に思えます。しかし、Alex Atallah氏は、経済学の原理である「Jevonsのパラドックス」がAI市場で顕著に働いていることを指摘し、これがOpenRouterにとって好機であることを説明します。

Jevonsのパラドックスとは、「資源の使用効率が向上すると、その資源の総消費量が増加する」という現象を指します。トークンの効率が向上し、価格が下がることで、より多くの利用が促進されるという考え方です。Atallah氏は、このパラドックスを裏付ける具体的な事例をOpenRouterのデータから紹介します。

OpenAIの「GPT 5.6 Luna」モデルにおいて、OpenAIが価格を5倍、さらにOpenRouterとの協調で2倍、合計で10倍もの価格引き下げが行われました。その結果、使用量は驚くべきことに13倍に増加したのです。これは、Jevonsのパラドックスがほぼ完璧に働いたケースと言えます。価格が10倍下がると、使用量は10倍以上増加するというこの現象は、トークン価格の下落が必ずしもOpenRouterの収益に悪影響を与えるわけではないことを示しています。むしろ、利用量の増加によって全体の市場規模が拡大し、OpenRouterが扱うトランザクション量が増えるため、ビジネスはさらに成長する可能性があります。

この価格改定は、DeepSeekやGLMといった中国製モデルが非常に競争力のある価格で登場した時期と重なっています。以前はOpenRouter上でGLMがトークンボリュームでトップ3〜4に入る人気モデルでしたが、価格引き下げ後、LunaがGLMを追い抜き、OpenAIのモデルが初めてトークンボリュームでトップクラスに返り咲きました。これは、価格戦略が市場でのモデルの採用にどれほど大きな影響を与えるかを示す強力な証拠です。

Atallah氏は、このJevonsのパラドックスがAI市場で継続的に作用する限り、トークン価格の下落は利用の民主化と市場全体の拡大を促進し、OpenRouterのようなプラットフォームがその恩恵を受けることになると見ています。

OpenRouterのデータが示す市場の現実:中国製オープンモデルの台頭

OpenRouterはLLMエコシステムにおけるユニークな視点を提供していますが、そのトークンボリュームのランキングが市場全体の真の利用状況をどこまで反映しているのか、という疑問が常に存在します。特に、「OpenRouterのトップ5モデルは全て中国製である」という発言に対して、一部からは「OpenRouterのデータはフロンティアモデル(OpenAI、Anthropicなど)を直接使用している企業の実態を反映していない」という反論が聞かれます。

Alex Atallah氏もこの点を認識しており、OpenRouterのデータには**「マルチモデルの未来」という彼らのテーゼを信じるユーザーに偏りがある**ことを認めています。OpenAI、Anthropic、Geminiといったフロンティアモデルに特化した企業(「OpenAIショップ」と自称するような企業)の利用状況は、OpenRouterのプラットフォームからは見えないため、フロンティアモデルの使用状況を過小評価している可能性はあります。これらの企業は主にハイパースケーラーやフロンティアモデルプロバイダーのAPIを直接利用しているため、OpenRouterのルーティングを経由しません。

しかし、Atallah氏は、時間とともに「他のモデルも使う必要がある」というマルチモデルのテーゼがより一般的になるにつれて、OpenRouterのデータは市場をより代表するものになると期待しています。プラットフォームがスケールアップするにつれて、データ全体の代表性も向上するでしょう。彼の希望は、OpenRouterのデータが時間の経過とともにますます「優れたデータ」となることです。

そして、そのデータが現在示している最も重要なトレンドの一つが、中国製オープンモデルの驚くべき台頭です。Atallah氏は、「GLM 5.2はオープンウェイトモデルにとって本当に大きな一歩だった」と評価します。また、Kimiモデルも非常に優れており、特に執筆能力が高いと指摘します。彼は、アメリカが依然として中国に「非常に、非常に遅れている」と危機感を表明し、中国製オープンモデルの品質と開発速度には懸念を抱くべきだと主張します。

これは、米国がオープンソースAIモデルの分野で中国に後れを取っているという議論に直結します。Atallah氏は、Poolside、Thinking Machines、RCといったアメリカのNeoLabsが台頭しつつあることに希望を見出しつつも、現状認識として中国モデルの進歩を重視しています。OpenRouterのデータは、特定の市場セグメントにおける中国モデルの強力な競争力と、グローバルなLLMエコシステムにおけるその影響力を明確に示しているのです。

企業がフロンティアモデルと中国モデルに抱く懸念

PalantirのAlex Karp氏がCNBCで「企業はフロンティアモデルプロバイダーとの協業を恐れている」と発言したことについて、Alex Atallah氏は顧客との対話から得られた見解を語ります。彼は、Karp氏が指摘するような「恐怖」を直接的に経験したことは少ないとしながらも、特にAnthropicの「Claude design」のような垂直統合型製品が登場した際に、企業に「とまどい」が生じたことを認めます。

企業の懸念の根源は、モデルプロバイダーが単にモデルを提供するだけでなく、その上にアプリケーションレイヤーまで展開し、顧客企業の市場を侵食する可能性にあります。もしスタートアップ企業が、既存のモデルの上に薄い「ゴー・トゥ・マーケット・ラッパー」を構築しているだけであれば、モデルプロバイダーがその市場に関心を示さない限りは問題ありません。しかし、モデルプロバイダーが特定の業界やチーム(例えば、Figmaと競合するClaude designの場合の「デザインチーム」)を戦略的に重要視し、彼らを自社モデルに依存させようと動き出した場合、状況は一変します。このようなシナリオは、顧客企業にとってモデルプロバイダーとの直接的な競合を意味し、大きな脅威となり得ます。Atallah氏自身は、Claude designがFigmaのビジネスに決定的な影響を与えているという繰り返し聞く話はないと述べつつも、垂直統合の戦略的意図は理解できると指摘します。

一方で、OpenRouterは、**「安全なアクセス」**を提供することに強い責任を感じています。顧客の信頼が最優先であり、一般的に安全でないと判断されたモデルはプラットフォームから排除されます。全てのモデルは安全でない方法で使用される可能性がありますが、OpenRouterは技術を使ってそれを安全にし、モデルラボと協力して最新の安全対策を講じています。例えば、プロンプトインジェクション保護、PII(個人識別情報)削減といった機能をワンクリックで有効にでき、企業が安心して新しいモデルを導入し、従業員がそれらを試せるようにしています。Atallah氏はモデルをインターネットに例え、有害なコンテンツがあるからといってインターネット全体を禁止できないのと同じように、AIもガードレールを設けて安全に活用すべきだと主張します。

米国企業がフロンティアモデルと中国モデルのどちらに神経質になっているかという問いに対して、Atallah氏は一般的にフロンティアモデルであると答えます。その理由として、データポリシーに関する不透明性と、自社インフラや選択したプロバイダーでの実行ができない点が挙げられます。企業は、自分たちのプロンプトデータがどのように扱われ、どこに保存され、誰が見ているのかについて、フロンティアモデルの場合にはより多くの不確実性を感じます。これは、自社のオンプレミスインフラやVPC(仮想プライベートクラウド)でデータを管理することと比較され、企業のセキュリティ担当者にとっては大きな懸念材料となります。たとえフロンティアモデルプロバイダーが最高のサイバーセキュリティ対策を講じていたとしても、その透明性の欠如が不安を煽るのです。一方で、中国モデルに対する懸念も存在するものの、データの主権と管理に関する直接的なコントロールの欠如という点では、フロンティアモデルの方がより多くの企業に共通の懸念をもたらしているようです。

モデル開発の加速と中国の脅威

AIモデル開発のペースは、まさに驚異的と言えます。Alex Atallah氏は、「7月に我々は70モデルをローンチしました。これは約10時間に1モデルのペースです」と語り、その速度が今後も継続すると見ています。この加速を牽引しているのは、既存のモデルラボだけでなく、GoogleのJeff Dean氏が立ち上げたようなエージェントラボの存在も大きいと指摘します。エージェントを構築する企業は、そのエージェントを通じてモデルを配布することに明確なインセンティブを持つため、いずれ独自のモデルを開発するでしょう。CognitionやCursorのような企業は既にモデルをリリースしており、このトレンドはさらに加速すると予測されます。

この猛烈な開発競争の中で、Alex Atallah氏は特に中国製オープンモデルの品質と速度について、米国が「非常に、非常に遅れている」と強い懸念を表明します。GLM 5.2やKimiといった中国のモデルは、オープンウェイトモデルとして大きな進歩を遂げており、その性能は侮れません。Kimiは特に優れた執筆能力を持つと評価されています。

Atallah氏の懸念の根底には、中国政府によるAI開発への集中投資と、それがもたらす競争上の優位性があります。彼は、「DeepSeekが中国のナショナルチャンピオンとなり、習近平国家主席が『これが我々のAIの主力だ。これに全ての資金と努力を集中させる』と号令をかけるような状況が想像できる」と述べます。このようなトップダウンの支援体制は、規制や政策の障壁を取り払い、莫大な資金とリソースを特定のプロジェクトに集中させることを可能にします。

一方で、米国におけるオープンソースモデルの開発は、資金調達の困難さ、OpenAIやAnthropicといった既存のフロンティアモデルプロバイダーとの競争、そしてビジネスモデルの確立といった課題に直面しています。この比較が示すのは、中国のオープンソースプロバイダーが本質的に有利な立場にあるというAtallah氏の危惧です。

ただし、興味深いことに、中国モデルの能力には国内と国外で顕著な乖離があるとも指摘されます。中国国内では、厳格な検閲とガードレールによってモデルの能力が意図的に制限されており、基本的な情報検索(例:スターバックスの開店時間)すら困難な場合があります。これは、中国政府がモデルを国内の情報統制に利用しようとする意図の表れであり、長期的に見て、モデルの自由な発展を妨げる要因となる可能性も示唆しています。

いずれにせよ、AIモデル開発の速度は衰えることなく、特に中国のオープンモデルは無視できない存在として台頭しています。米国がこの競争に打ち勝つためには、計算資源へのアクセス改善や、中国モデルの「蒸留」といった戦略的なアプローチが不可欠であると、Atallah氏は考えています。米中間のAI競争は、今後数年間でさらに激化し、その結果がグローバルなテクノロジーの未来を大きく左右することになるでしょう。

開発者のロイヤリティとモデルの記憶

AIエコシステムにおいて、開発者は特定のモデルに対してロイヤリティを持つのでしょうか?そして、モデルの「記憶(Memory)」は、このロイヤリティとどのように関係するのでしょうか?Alex Atallah氏は、これらの問いに対して深い洞察を提供します。

OpenRouterは、モデル間の切り替えコストをゼロに近づけることで、開発者が新しいモデルを簡単に試せるようにしています。しかし、そのデータからは、開発者が特定のモデルに継続的にこだわり続ける傾向が見られるといいます。これは、たとえより良いモデルが存在する状況であっても発生します。このロイヤリティの背景には、主に以下の3つの要因があるとAtallah氏は分析します。

  1. 安定性と既知の動作: 「自分のアプリは動作しており、壊したくない」という心理です。モデルを切り替えることで、サポートボットが予期せぬ応答をしたり、既存の最適化やガードレールが機能しなくなったりするリスクを避けたいと考えます。
  2. 価格以外の要因: 新しいモデルへの移行が必ずしもコスト削減につながるとは限りません。一般的には、既存モデルの価格が時間とともに下がる傾向があるため、最新モデルへの切り替えが最も費用対効果が高いとは限らないのです。
  3. 出力への信頼と個人的な評価: 開発者は、自分が慣れ親しんだモデルの出力に信頼を置きます。多くの開発者は、モデルの性能を測るための個人的なテストを持っており、新しいモデルがそのテストで期待通りの結果を出さなければ、たとえベンチマークスコアが高くても、使い慣れたモデルを使い続ける傾向があります。

次に、モデルの「記憶」についてです。以前は、モデルがユーザーの過去のプロンプトや好み(例:OpenAIがユーザーがロンドン在住でポッドキャストをしていることを知っている)を記憶することが、リテンション(維持)メカニズムになると考えられていました。しかしAtallah氏は、記憶がどこに「存在する」のかが重要な問いであると指摘します。

記憶は、モデル自体、インファレンスプロバイダー、アプリケーション、インフラプロバイダー(ルーター)といった、さまざまなレイヤーに存在し得ます。各レイヤーに記憶を持たせることには、それぞれ利点があります。例えば、アプリレイヤーに記憶を持たせれば、最もアプリに関連する文脈を保持でき、モデルに依存しない記憶となります。モデルに記憶を持たせれば、パーソナライズされたベンチマークで最高のパフォーマンスを発揮し、究極の知能を発揮する可能性があります。

Atallah氏は、最終的にはこれら全てのレイヤーが異なる形で記憶を所有しようとするだろうと予測します。そして、重要なのは、単一のレイヤーがすべての価値ある記憶を捕捉することは不可能であるということです。なぜなら、アプリケーションはモデルラボが持ち得ない「重要な文脈」を大量に所有しているからです。モデルラボがこの文脈を記憶に組み込むためには、アプリ側からその文脈を提供してもらうインセンティブを与える必要があります。記憶の管理は、AIエコシステムにおける複雑かつ重要な課題であり、各レイヤー間の連携と最適な分散管理が求められる分野となるでしょう。

エージェントフレームワークとハーネスの進化

LLMエコシステムの進化は、エージェントフレームワークと「ハーネス(Harness)」という新しい概念を生み出しています。OpenRouterのAlex Atallah氏は、これらのトレンドが、従来のアプリケーションのあり方や、ユーザーとモデルの関係性をどのように変えるかについて、深い見解を示します。

OpenRouterの初期の仮説の一つは、ほとんどのアプリが、ユーザーが「どのモデルを使いたいか」という欲求を過小評価している、というものでした。2023年や2024年の初期には、多くのアプリは裏でどのモデルが使われているかを隠していましたが、OpenRouterは「ユーザーは特定のモデルを使いたいと考えるだろう。誰と話しているのかを知りたいと思うだろう」と確信していました。この信念は、Notionのようなアプリがモデル選択の機能を提供し始めたことで、現実のものとなっています。

同様のことが「ハーネス」という新しい概念にも当てはまるとAtallah氏は指摘します。特に開発者の間で、異なるハーネスへの親和性が生まれています。ハーネスは、モデルの上にユーザーエクスペリエンスを構築する一つの方法であり、モデルラボではない開発者がユーザーとの関係性を所有するための手段です。Atallah氏は、この点がハーネスが今後も存続する最も強力な理由であると語ります。

「ハーネスとアプリの違いは何ですか?」という問いに対し、Atallah氏はハーネスの最大の特徴が「構成可能性(Composability)」にあると説明します。ハーネスは、別のハーネスを呼び出したり、クラウド上のサンドボックスで別のハーネスを起動したりすることができます。これは、アプリがAPIを通じて連携するのと似ていますが、ハーネスはUnixベースであり、モデルがUnixやBashコマンドに非常によく訓練されているため、より信頼性が高く、決定論的であり、ユーザーにとっても理解しやすいという利点があります。

アプリをオーケストレートする場合、認証、ブラウザの起動、APIドキュメントの検索など、多くの「未知の未知」が存在します。しかし、ハーネスを構成する場合、その未知の要素ははるかに少ないため、開発者により多くの柔軟性と検査可能性を提供します。APIコールが大量のコードの飛び交いを見るようなものであるのに対し、ハーネスは「ハーネスに飛び込んで、何が起こっているかを見たり、英語でそれについて話したりできる」ため、よりユーザーフレンドリーであるとAtallah氏は述べます。

また、モデルが進化し、より賢くなるにつれて、システムプロンプトに詰め込まれた冗長な情報はむしろ「ハンディキャップ」となるというAnthropicの研究成果にも言及します。現在の多くのハーネスは、最新のフロンティアモデルでより良いパフォーマンスを発揮するために、コードを削除する傾向にあります。これはハーネスが悪いことを意味するのではなく、むしろハーネスがモデルの上にユーザーエクスペリエンスを構築する上で不可欠なレイヤーであり続けることを示しています。開発者がユーザーとの関係を所有し、モデルの上に革新的な体験を構築するこの層は、経済全体にとって計り知れない価値を持つとAtallah氏は強調します。

Meta(Muse)の挑戦とアリーナ/OpenRouterのディスカバリ機能

LLM市場には、OpenAIやAnthropicといったフロンティアモデルプロバイダーだけでなく、Meta(Facebook)のような巨大テック企業も本格的に参入しています。MetaはMuseモデルの開発に注力しており、その動きはAlex Atallah氏も注目しています。

Atallah氏は、Metaが「良い仕事をしている」と評価し、一から新しいモデルラボを設立し、組織的な課題に対処するのに時間がかかることを理解しています。彼らは豊富なリソースを持っており、モデルラボが提供しにくい方法で人々を助けるような、競争力のある独自の強みを見出すことができるかもしれません。特に、Metaが持つソーシャルネットワークと人々に焦点を当てるというブランド特性は、GrokやX AIなどと同様に、彼らにとってのニッチとなる可能性があります。

現時点では、MetaのMuse Sparkが「何に使うべきか、その核となる強みは何か」がまだ明確ではないとAtallah氏は指摘します。彼らは現在、汎用的な能力を持つモデルを目指していますが、将来的には「我々は特定のことで圧倒的に優れている」と宣言する瞬間が訪れることを期待しています。その瞬間こそが、Metaにとって非常に重要な転換点となるでしょう。

ここでAtallah氏が紹介するのが、OpenRouterのホストを務めるHarry氏も個人的に利用しているArenaのようなディスカバリメカニズムの重要性です。Arenaでは、プロンプトを入力すると、複数の異なるモデルオプション(例えば、KimiとPergamon)が提案され、ユーザーはそれぞれの出力を比較して最適なものを選ぶことができます。Harry氏は、これにより「今まで使ったことのないモデル」に出会うことができると述べ、Museもその中で印象的な結果を示すことがあると語ります。

これは、モデルが単なる「ユーティリティ層」と化しているという重要なポイントを示唆しています。Harry氏は、「もはやモデルへのロイヤリティはない。ブランドへの愛着もない。Arenaに行って、何ができるかを見たいだけだ。KimiであろうとMuseであろうと、ClaudeであろうとSonicであろうと、気にしない。選択肢を見せてくれ、その中から最高のものを選ぶ」と述べます。これは、モデルそのもののブランドよりも、多様なモデルへのアクセスと、それらを比較・選択できるプラットフォームの価値が高まっていることを意味します。

OpenRouterもまた、このようなディスカバリメカニズムの重要な一部です。ユーザーはOpenRouterを通じて、様々なオープンモデルを探索し、その性能やコストを比較することができます。モデルのコモディティ化が進む中で、OpenRouterのようなプラットフォームは、ユーザーが最適なAIツールを見つけ、活用するための不可欠なゲートウェイとして機能し続けるでしょう。

複合モデルアーキテクチャの可能性

AIモデルの進化と多様化が進む中で、単一の強力なモデルに全てを依存するのではなく、複数のモデルを組み合わせて活用する「複合モデルアーキテクチャ」が注目されています。Alex Atallah氏は、このアプローチがAIの効率性と性能を最大化する上で「素晴らしいアーキテクチャ」であると強く支持しています。

OpenRouterは、多くの開発者がこの複合モデル戦略を採用できるよう、サブエージェントサーツールを提供しています。このツールは、モデルを一般的にうまく利用できるようにチューニングされており、オーケストレーターモデルが特定のタスクをサブエージェントに呼び出す際に利用されます。

このアーキテクチャの核となる考え方は、タスクの性質に応じて最適なモデルを使い分けるというものです。

  • 決定論的タスク: 出力の形状や解決すべき問題の種類が明確で、既に解決策が存在するようなタスク(例えば、テキストの分類など)には、低コストのオープンウェイトモデルをサブエージェントとして使用します。OpenRouterで利用可能なオープンウェイトモデルは、このような決定論的なタスクにおいて非常に優れた性能を発揮します。
  • 非決定論的タスク: 予測不能な要素が多く、創造性や複雑な推論を必要とするタスクには、より強力で高価なフロンティアモデルをオーケストレーターとして使用します。

この組み合わせにより、オーケストレーターモデルは、低コストのサブエージェントに決定論的なタスクを処理させ、その結果を読み取って、より複雑で非決定論的な主要タスクの作業を続行することができます。この戦略は、コスト効率最先端の性能の両方を同時に追求することを可能にします。

例えば、ある複雑な顧客対応エージェントを構築する場合、顧客の質問を分類する(決定論的タスク)には安価なオープンモデルを使い、その分類結果に基づいてパーソナライズされたクリエイティブな回答を生成する(非決定論的タスク)には強力なフロンティアモデルを使う、といった形で連携させることができます。

Atallah氏は、この複合モデルアーキテクチャが、開発者にとって「探索すべき素晴らしいアーキテクチャ」であり、OpenRouterがその実現を支援していることを強調します。モデルが進化するにつれて、それぞれのモデルの強みを最大限に活かし、弱点を補い合うこのようなインテリジェントな組み合わせが、AIアプリケーション開発の標準的なプラクティスとなっていくでしょう。

米国のオープンAIエコシステムを強化するための提言

中国のオープンモデルが急速に台頭する中で、米国のオープンAIエコシステムが競争力を高めるためには何が必要でしょうか?Alex Atallah氏は、この重要な問いに対し、自身がプログラムの責任者となった場合の具体的な戦略を提言します。

彼の最初の提言は、中国モデルの「蒸留(Distillation)」の有効性とその方法論について、現在のアメリカのラボとより深く対話することです。蒸留とは、より強力なモデル(ティーチャーモデル)の出力を利用して、新しいモデル(スチューデントモデル)をトレーニングする手法です。オープンウェイトモデル、特に中国のオープンモデルの多くは、この蒸留を許可しているため、アメリカのラボはこれらモデルの出力を利用して、自分たちのモデルに強化学習(RL)を施し、キャッチアップすることができます。このプロセスを通じて、モデルのアラインメント(整合性)を検査し、自社の憲法や声に合致しない要素があれば修正することが可能になります。Atallah氏は、この手法がオープンウェイトモデルに追いつくための一つの重要な方法であると考えています。

二つ目の提言は、計算資源(Compute)の問題を解決することです。Atallah氏は、計算資源が依然として米国が中国に対して持つ大きなアドバンテージであると指摘しますが、これは長く続くものではないかもしれません。DeepSeekやByteDanceといった中国企業が自社チップの開発を積極的に進めている現状を鑑みれば、この優位性は失われつつあります。彼が強調するのは、新しいAIラボ(NeoLabs)が計算資源にアクセスしやすくする必要があるということです。Nvidiaは素晴らしい仕事をしているものの、GoogleのTPUやAmazonのTraniumなど、多様なハードウェア企業や新しいチップ開発企業と連携し、適切な才能に計算資源が容易に供給される仕組みを構築することが不可欠であると彼は述べます。米中間のチップ戦争は、AI競争の勝敗を分ける上で極めて重要です。

「蒸留は間違っているのか?」という問いに対して、Atallah氏は、「それはモデルを構築するためのテクニックであり、クローズドモデルラボも行っている(例:SonnetはOpusの部分的に蒸留されたバージョン)」と答えます。蒸留は、より大きなモデルからより小さなモデルを作成したり、エコシステム内で有用な何かを見つけたときにモデルに新しいことを教えたりするための重要な方法です。ただし、彼は、モデルラボには利用規約で蒸留を禁止する権利があり、OpenRouterは両社の利用規約を尊重すると付け加えます。

要するに、Atallah氏は、米国のオープンAIエコシステムが中国に対抗するためには、単に自力でゼロから構築するだけでなく、既存の中国モデルの強みを戦略的に活用する「蒸留」や、イノベーションを阻害しない形での計算資源へのアクセス改善といった、多角的なアアプローチが必要であると考えています。

Alex Atallahの個人的な展望と社会貢献

OpenRouterのCEOとして、Alex Atallah氏はAIエコシステムの最前線でビジネスを牽引していますが、彼の個人的な関心は、ベンチャーキャピタルが通常投資しないような社会課題の解決にも向けられています。彼自身、もしOpenRouterがStripeに100億ドルで売却されるという報道が事実だったとしても、「あまり考えない」と語り、個人的な資産を社会貢献に充てたいという願望を明かします。

Atallah氏が最も関心を寄せているのは、**「ベンチャーキャピタルには適さない、解決すべきだが資金調達が難しい問題」**です。彼は、AIを活用することで、これまで不可能だった大量のデータをレビューできるようになり、非営利分野で「非常にクールなこと」ができるようになると考えています。具体的には、以下の二つの分野に大きな期待を寄せています。

  1. 稀少疾患研究: 稀少疾患の研究は、知能のボトルネック、あるいはインファレンスのボトルネックに直面してきた分野です。これは、多くのアイデアを試行し、それが機能するかどうかを検証するプロセスを伴います。AIは、この試行錯誤のプロセスを劇的に加速させ、これまで見過ごされてきた可能性のある治療法や診断法を発見する手助けとなるでしょう。
  2. 生産的な都市生活改善のクラウドソーシング: 例えば、アメリカやイギリスに存在するすべての鉛パイプを特定し、その除去に取り組むような課題を想像してみてください。このような問題は、解決策を成熟させ、ストレステストを行うために、途方もない努力とリソースが必要です。しかし、AIとクラウドソーシングを組み合わせることで、これまで誰もが諦めていたような奇妙な問題でも解決の糸口が見つかるかもしれません。Atallah氏は、「優れたアイデアは世界中に均等に分布している」と信じており、AIがそれらのアイデアを持つ人々に、実際にそれを実現するレバレッジを与えると考えています。都市や農村部の生活の質を向上させるような、広範な社会問題へのAIの応用可能性に彼は大きな興奮を覚えています。

彼はまだ公には話せないと前置きしつつも、研究者がこれらの問題に取り組むための助成金を得られるような仕組みを作りたいと語ります。これは、General Catalystの創設者であるDavid Fialkow氏が、政治的に敏感で資金調達が難しい映画プロジェクト(例:カショギ氏の物語を描いた『The Dissident』)に資金提供している例と似ていると述べ、同様のアプローチで社会に光を当てたいと考えています。

Alex Atallah氏のこのような展望は、AIが単なるビジネスツールとしてだけでなく、人類が直面する最も困難な課題を解決し、社会全体の幸福度を向上させるための強力な手段となり得るという、広範なビジョンを示しています。OpenRouterを通じてAIエコシステムを活性化させることと、AIを非営利の社会貢献に活用することは、彼の二つの柱として、未来を形作る重要な要素となるでしょう。

クイックファイアラウンドからの洞察

インタビューの最後に、Alex Atallah氏が答えたクイックファイアラウンドの質問と回答は、彼のAIエコシステムに対する率直な見解と、深い洞察を浮き彫りにします。

  1. OpenRouter上で最も過小評価されているモデルは? Poolsideのモデルを挙げました。特に、小型でありながら非常に効率的なコーディングモデルを構築しており、利用に役立つツールを多数開発している「新しいアメリカのラボ」として高く評価しています。

  2. ネオラボ(新しいAIラボ)の70%が3年以内に消滅するか? 「Disagree(反対)」と答えました。70%は高すぎるとし、買収による統合を含めても50%程度ではないかと予測しています。これは、AIイノベーションの勢いが非常に強く、多様なラボが存続する余地があると考えていることを示唆しています。

  3. AnthropicのCEO、Dario Amodei氏の悲観的な意見について? Atallah氏は、Dario氏のような「未来について非常に偏執的」な人物の存在は重要であると述べます。それは、誰もが楽観的であれば見落としてしまうリスクや課題に対して警鐘を鳴らす役割を果たすからです。彼は、AIエコシステムにおける「ニューロダイバーシティ(神経多様性)」の重要性を信じており、Anthropicの「偏執性」もその多様な声の一部として価値があると評価しています。

  4. OpenRouterのデータから見る、最もクレイジーなのにあまり話題にならないこと? **「AI時代の従業員コスト管理の課題」**を挙げました。企業は、従業員が使用するAIインファレンスにかかる費用を管理することに苦慮しており、その思考方法を根本的に変える必要があると指摘します。従来の給与制とは異なり、AIツールを使用する従業員のコストは「動的」になり、彼らが効率的に高価なモデルと安価なモデルを使い分けているかによって変動します。 Atallah氏は、将来的には従業員レベルでルーティングの選択が行われるようになり、各従業員が自らのAI利用によって会社にどれだけコストをかけているかを把握できるようになるべきだと提言します。そして、マネージャーは従業員の生産性とコスト効率を評価し、「高効率・低コスト」の従業員を称賛し、「低効率・高コスト」の従業員(「AI精神病」と表現)には懸念を持って対処する、というような新しい管理フレームワークが必要になると語ります。この動的なコスト評価は、従業員自身が自身のコストをコントロールできるという点で、従来の管理方法とは一線を画します。

  5. 現在のランドスケープで、Alex Atallah氏が最も興奮していることは? 繰り返しになりますが、**「稀少疾患研究」と、「生産的な都市生活改善のクラウドソーシング」**を挙げました。特に後者については、世界中に散らばる優れたアイデアを持つ人々に、AIがそのアイデアを実現するためのレバレッジを与え、これまで諦められていたような「奇妙な問題」を解決できる可能性に大きな期待を寄せています。

これらの回答は、Atallah氏が単なるビジネスリーダーであるだけでなく、AI技術が社会と個人に与える広範な影響、そしてその課題と可能性について深く考察している人物であることを示しています。特に、AI時代の従業員コスト管理に関する洞察は、多くの企業が今後直面するであろう新たな経営課題を浮き彫りにしています。

結論

OpenRouterのCEO、Alex Atallah氏へのインタビューは、現在のLLMエコシステムの複雑さと、その中でOpenRouterが果たす戦略的な役割を深く理解する上で貴重な洞察を与えてくれました。彼のOpenSeaでの経験は、予測不能な技術市場におけるスケーリングとインフラ構築の重要性をOpenRouterに深く刻み込みました。

私たちは、ハイパースケーラーがオープンモデルのホスティング市場を独占するという当初の予想とは異なり、FireworksやTogetherのような専門インファレンスプロバイダーが台頭し、独自の技術革新を推進している現実を知りました。Atallah氏が指摘するように、「トークンは単なるトークンではない」のです。OpenRouterは、プロバイダー間の性能差を検出し、最適なルーティングを行うことで、ユーザーに最高の体験を提供し、このインファレンスプロバイダー層の価値を最大限に引き出しています。

また、「マルチモデルの未来は不可避である」という彼のテーゼは、企業が独自の専門モデルを開発しつつも、OpenRouterのようなプラットフォームを通じて多様な外部モデルを活用するシナリオの合理性を示唆しています。これは、AI市場の巨大さと、誰もが全てを勝ち取ることができないという現実に基づいた、分散型で「ニューロダイバーシティ」に富んだエコシステムのビジョンです。

ルーティング技術のコモディティ化論に対し、OpenRouterは「勝つこと」への100%の集中と、ユーザーに「より多くの選択肢とレバレッジ」を与えるという哲学で差別化を図っています。トークン価格の下落が「Jevonsのパラドックス」によって使用量の爆発的な増加につながるという洞察は、OpenRouterのようなプラットフォームが市場の成長からどのように利益を得られるかを示すものでした。

OpenRouterのデータは、GLM 5.2やKimiといった中国製オープンモデルの驚くべき台頭という現実も浮き彫りにしています。これは、米国がオープンAIエコシステムで中国に追いつくための戦略(蒸留、計算資源へのアクセス改善)を真剣に考える必要があることを意味します。一方で、企業がフロンティアモデルに対してデータポリシーの不透明性から来る懸念を抱いていることも、OpenRouterが提供する安全対策と選択肢の重要性を再確認させます。

AI時代の従業員コスト管理の課題、そしてAIが稀少疾患研究や都市生活改善といった社会貢献分野で発揮し得る計り知れない可能性に関するAtallah氏の個人的な展望は、AIの未来が単なる技術革新に留まらない、より深い人間的価値と社会変革をもたらすものであることを示唆しています。

OpenRouterは、LLMエコシステムの中心に位置し、技術的課題を解決し、市場の変化に対応し、ユーザーに力を与え、そして社会のより良い未来に貢献しようとしています。その挑戦は、AI技術の発展とともに、私たちの世界をより豊かで効率的なものへと導く鍵となるでしょう。