AIの屋台骨となったオープンソース：vLLMとInfractが牽引する次世代推論エンジンの深層

現代のテクノロジーランドスケープにおいて、人工知能はもはやSFの産物ではなく、私たちの日常生活、ビジネス、研究開発の基盤として深く根付いています。ChatGPTの登場以降、誰もがAIの可能性を肌で感じるようになり、GitHub Copilotのようなツールは開発者の生産性を劇的に向上させました。しかし、こうした進化の裏側で、AIの真の民主化と持続可能なイノベーションを支える「屋台骨」となっているのが、オープンソースの技術と哲学であることは、しばしば見過ごされがちです。

本記事では、このオープンソースAIの核心に迫ります。特に、大規模言語モデル（LLM）の推論を劇的に高速化するオープンソースエンジン「vLLM」を開発するInfractの共同創業者であるSimon Moe氏と、著名なベンチャーキャピタルa16zのGeneral PartnerであるMatt Bornstein氏の対談から得られる深い洞察に基づき、オープンソースAIの歴史的背景、具体的な機能、ビジネスへの影響、そして将来性を詳細に分析します。vLLMが「常に半導体メーカーにとってのベンチマーク」として活用され、現在では50万台ものGPU上で稼働しているという事実が示す通り、この技術は単なる研究プロジェクトの枠を超え、現代AIインフラの不可欠な要素となっています。

オープンソースAIの黎明期から現在へ：進化の軌跡

AIの分野において、オープンソースという概念は決して新しいものではありません。かつて「OpenAI」という社名が示す通り、AI研究の初期段階では、フロンティア技術の多くがオープンソースとして公開され、あるいは「オープンウェイト」（モデルの重みが公開されるが、必ずしも完全なオープンソースソフトウェアではない）として利用可能でした。人々は手持ちのハードウェアやコンピュータでこれらのモデルを実行し、AIの可能性を模索していました。

しかし、AIモデルの進化とともに、状況は一変します。Matt Bornstein氏が「最初のモデルで特別なソフトウェアやコンピュータのセットが必要になったのはいつだったか」と問いかけた際、Simon Moe氏は「おそらくBERTがその転換点だった」と答えています。BERT以前のResNetのような画像分類モデルは、Nvidia K80のような初期のGPUで実行され始めていましたが、それでもまだ一般的なCPUデバイスでも非常に遅いながらも動かすことができました。しかし、BERTのような言語モデルが登場すると、「効率的に動かすにはGPUが必須」という認識が広まりました。

この変化は、AIモデルが単なる研究の対象から、より大規模で複雑なものへと成長したことを意味します。初期の言語モデルであるBERTでさえ、Hugging Faceには数多くのバリアントが存在し、ユーザーは特定のタスクに最適なものを見つける必要がありました。そして、これらのモデルを実行するためには、クラウドサービスをプロビジョニングするなどの専門的な知識とリソースが求められるようになったのです。

ChatGPT登場以前の2022年、Simon Moe氏のチームは、当時の遅いオープンソースデモを高速化しようと試みていました。しかし、彼らが発見したのは「未解決の山積した問題」でした。大規模言語モデル（LLM）の推論（Serving）は、これまでの機械学習ワークロードとは根本的に異なる課題を抱えていました。LLMはGPUやTPUのようなアクセラレーター上で実行される計算集約的なプロセスであり、ユーザーがLLMの応答を迅速かつ効率的に受け取れるようにするには、高度なエンジニアリングが不可欠です。具体的には、入力分布のばらつき、各リクエストの長さ、非決定的な出力分布、そして推論エンジンの核心であるバッチ処理とスケジューリングを効率的に扱う必要がありました。

2023年に入ると、GitHub CopilotやChatGPTのようなAIアプリケーションが人々の日常に深く浸透し、もはやそれらなしでは生活できないレベルに達しました。この時点で、オープンウェイトモデルはすでに「人々の生活の礎」となり、その裏側でオープンウェイトモデルを動かすためのアクセラレーターとオープンソースソフトウェアが不可欠な存在となりました。Matt Bornstein氏は、閉鎖的なソリューションが一部の人々にとって重要になり始めた一方で、オープンソースは当初は好奇の目で見られるか、愛好家のものと認識されていたと指摘します。しかし、フロンティアモデルが拡大するにつれて、より多くのオープンソースがその背後で「中核インフラ」として引き込まれるようになりました。

特に過去1年ほどで、「OpenAIのラッパー（薄い皮）でしかないAIを構築するのではなく、真にAIを構築するにはどうすればよいか」という問いに対する答えが「オープンソース」であるという認識が広まりました。Cursor、Decagon、Harveyのような革新的なスタートアップ企業は、閉鎖的なソリューションだけでは不十分であると判断し、独自のミッドトレーニング、ポストトレーニング、そして推論・デプロイメントの工夫を施すために、オープンソースを基盤として選択しました。閉鎖的なベンダーは、これらの深いレベルへのアクセスを提供しないため、オープンソースへの依存は深まる一方です。このように、オープンソースは表面的には見えにくい形で、最も革新的な製品やアプリケーションの奥深くで不可欠な要素となっています。

vLLM：AI推論の心臓部

では、Infractが開発するvLLMは、このAIエコシステムの中でどのような役割を担っているのでしょうか。Simon Moe氏の説明によれば、vLLMは「推論エンジン」であり、その仕事は「利用可能なGPUを、インテリジェンスのための実行可能なエンドポイントに変えること」です。彼はvLLMを「データベースやオペレーティングシステム、その他の重要なソフトウェア」に例え、現代のAI経済、ひいては汎用人工知能（AGI）を動かすための基盤であると位置づけています。

vLLMが提供する価値は多岐にわたりますが、その核心は以下の点に集約されます。

比類なき効率性とコスト削減: LLMの推論は計算集約的であり、特に多様な入力と非決定的な出力を持つリクエストを効率的に処理することは大きな課題です。vLLMは、こうした課題に対して、高度なバッチ処理とスケジューリングメカニズムを導入することで、GPUを最大限に活用し、従来の推論エンジンと比較して最大10倍ものパフォーマンス向上を実現しています。これにより、ユーザーは同じGPUリソースでより多くのリクエストを処理できるようになり、推論コストを大幅に削減できます。
フロンティアモデルへの即座な対応（Day Zero Model Release）: AIモデルは日々進化しており、新しいアーキテクチャやより高性能なモデルが常に登場しています。vLLMは現在、1,000以上のモデルアーキテクチャをサポートしており、研究プロトタイプから世界的に利用可能なオープンウェイトモデルに移行する際、**「Day Zero Model Release」**と呼ばれるプロセスを通じて、リリースと同時にvLLM上で動作することを可能にしています。これにより、ユーザーは常に最新のフロンティアモデルを迅速に導入し、活用することができます。
ハードウェアベンダーとの密接な連携: vLLMは、Nvidia、AMD、Google、Amazon、Intelといった主要なハードウェアベンダーと緊密に連携しています。これらの企業は、最新のチップがvLLM上で確実に動作するように開発を進め、vLLMを自社製品のベンチマークとしても利用しています。この協力体制により、vLLMは常に最先端のハードウェア性能を最大限に引き出し、モデルとハードウェアの間の「魔法が起こる場所」を作り出しています。

Simon Moe氏は、モデルのリリースプロセスにまつわる「人間ドラマ」についても言及しています。モデル開発ラボの brilliant researchers（優秀な研究者）は、素晴らしいモデルを構築しますが、それをいかに世界に届け、誰もが効果的に使えるようにするかという課題に直面します。vLLMチームは、モデルラボと協力し、時には彼らが既にvLLMを内部で使用しているためにコードをすぐに提供してくれることもあれば、システムに関する知識が不足しているラボには、推論エンジンへの適応を支援することもあります。

例えば、Mistralが最初のモデルをリリースした際、彼らは単にBitTorrentのリンクを公開しただけでした。ユーザーはモデルをダウンロードし、実行することに苦戦を強いられました。しかし、舞台裏ではvLLMチームがMistralと緊密に連携し、週末を徹夜で作業して、月曜日には「vLLM上でMistralモデルを確実に実行できる」と発表しました。これにより、多くの開発者がすぐにMistralモデルを活用し、その上に新たなアプリケーションを構築できるようになりました。これは、オープンソースのエコシステムにおいて、vLLMがいかに重要な橋渡し役とアクセラレーターの役割を果たしているかを示す象徴的なエピソードです。

オープンソースAIの経済性と持続可能性

オープンソースAIがAIの屋台骨となる上で、経済的側面と持続可能性は避けて通れない議論です。なぜ企業や開発者は、高価なプロプライエタリAPIではなく、オープンソースモデルを選ぶのでしょうか。Simon Moe氏とMatt Bornstein氏の対談では、主に二つの動機が挙げられています。

コスト: 近年、プロプライエタリなAIサービスのトークン利用料は高騰の一途をたどっています。これは、特に大規模なアプリケーションや高い利用頻度を持つ企業にとって、無視できないコスト負担となります。Matt Bornstein氏は、「過去数ヶ月でコストが重要になり始めた」と指摘しています。オープンソースモデルを自社のインフラで実行することで、API利用料を回避し、コストを大幅に削減できる可能性があります。
コントロール: コスト以上に、あるいはコストと同等に重要視されるのが「コントロール」です。これは、モデルの挙動、性能、データ保持、セキュリティ、そしてコンプライアンスに関する完全な制御を指します。例えば、音声エージェントを開発する企業は、顧客への応答速度（SLA）を保証するために、自社でモデルをコントロールする必要があります。プロプライエタリAPIに依存している場合、APIのダウンタイムや契約違反のリスク、あるいはモデルの動作に関する不透明さがビジネスに大きな影響を与える可能性があります。オープンソースモデルならば、ユーザーはハードウェアからシステム監視まで全体を把握し、自社のニーズに合わせてモデルをファインチューニングし、最適なパフォーマンスを引き出すことができます。

コストとパフォーマンスの複雑な関係

Simon Moe氏は、オープンウェイトモデルが必ずしもプロプライエタリモデルよりも常に安いわけではないと指摘しています。特にGemini K3のようなフロンティアレベルのオープンウェイトモデルは、従来のオープンウェイトモデルよりも高価になる傾向があります。しかし、重要なのは、オープンウェイトモデルはユーザーに比類ない柔軟なコントロールを提供する点です。

プロプライエタリモデルが「通常モード」と「高速モード」の2段階しか提供しないのに対し、オープンウェイトモデル、特にvLLMのような推論エンジンを使用すれば、ユーザーは10段階もの速度レベルを選択できます。例えば、vLLM独自の「ファストモード」は、秒間400～500トークンもの速度を達成し、これは既存の高速モードと比較して2～3倍の速度向上を意味します。開発者はこの高速性によって、タスクをより迅速に完了させ、モデルとのインタラクションを大幅に改善できます。

さらに、オープンウェイトモデルは、データ保持ポリシー、セキュリティ、コンプライアンスに関して、企業が自社の厳しい要件を満たすための完全なコントロールを可能にします。プロプライエタリAPIの中には、ゼロデータ保持ポリシーを謳いながらも、実際には一時的なデータ保持が行われるケースもあり、規制の厳しい業界では大きな懸念事項となります。オープンウェイトモデルならば、データがどこにも送信されず、すべて自社インフラ内で完結するため、このリスクを排除できます。

新しいライセンスモデルと経済的持続可能性

オープンソースモデルのライセンス条件も、最近大きく変化しています。かつてのオープンウェイトモデルは、vLLMのようなソフトウェアと同様に、Apache 2ライセンスのような寛容な条件で公開され、「世界への贈り物」として自由に利用、改変、再配布が可能でした。しかし、モデルトレーニングにかかる莫大な研究開発費（数百万ドルから数十億ドル規模）を考慮すると、このようなモデル開発の経済的持続可能性が大きな課題となります。

MetaがLlamaモデルをリリースした際、彼らは「日次アクティブユーザー数や年間経常収益が特定の閾値を超える企業は、Metaと商用契約を結ぶこと」という条件を設けました。これは、モデル開発ラボが、莫大な投資を回収し、次のフロンティアモデル開発への資金を確保するための模索の一環です。Matt Bornstein氏も、AIモデルはソフトウェアとは異なり、個人の貢献だけでフロンティアモデルをトレーニングすることは不可能であり、大規模な計算リソースと経済的インセンティブが不可欠であると強調しています。

最近では、MiniMaxのM2.7モデルやKimiモデルのように、利用状況や派生著作物に対して具体的なライセンス条件を設定するケースが増えています。これは「貪欲」からくるものではなく、モデルラボが継続的にイノベーションを生み出すための「経済構造」であり、その持続可能性を確保するための合理的なアプローチであると両氏は指摘します。

Simon Moe氏は、これを製薬業界のアナロジーに例えます。新薬の研究開発には莫大な時間と資金が必要ですが、市場に投入された後の収益の一部が次のR&Dに再投資されることで、持続的なイノベーションが生まれます。オープンウェイトモデル開発も同様に、巨額の先行投資を回収し、次の世代のモデルを開発するための資金を確保するメカニズムが必要です。モデルが一度公開されれば、誰もが利用、改変、拡張できるというオープンソースの性質を考慮すると、何らかの形で経済的インセンティブを付与することが、エコシステム全体の発展のために不可欠であるという考えが広がっています。

オープンソースAIの挑戦と未来像

オープンソースAIが「AIの屋台骨」として成長する中で、いくつかの重要な挑戦と、それらが描き出す未来像があります。

モデルの維持管理：ソフトウェアとの違い

Matt Bornstein氏は、オープンソースソフトウェアの維持管理のダイナミクスと、オープンソースAIモデルの維持管理が異なる点について問いかけます。Simon Moe氏の説明によれば、AIモデルの維持管理は、単にコードのバグを修正するようなソフトウェア開発とは異なります。モデルは「大規模なトレーニング実行の結果」であり、その裏には数億ドルの費用がかかる失敗したトレーニング実行が複数あることも珍しくありません。Llamaの初期モデルが公開したトレーニング中のチャットログは、開発者たちが直面した混乱とパニック、そしてそれを乗り越える努力を物語っています。

一度モデルが公開されれば、その「維持管理」はコミュニティ全体の努力へと変わります。モデルは特定のハードウェアとアーキテクチャでトレーニングされますが、実際に「野生」に放たれると、人々はそれをエッジデバイスから大規模なデータセンターまで、多様なクラスタートポロジーとユースケースに適応させようとします。音声エージェントやコーディングエージェントといった全く異なるユースケースに対応するため、コミュニティはモデルをさらに最適化し、特殊化し、信頼性を確保するために協力します。これは、真にオープンソースソフトウェア的なコラボレーションの精神が発揮される領域であり、vLLMのような推論エンジンがその中心的な役割を担っています。

GPU価格と「真の」オープンソース世界

Matt Bornstein氏は、興味深い思考実験を提示します。「もしGPUの価格が99%下落したら、私たちは『真のオープンソースの世界』に戻れるのだろうか？」と。これは、GPUベースの計算リソースが安価で広く利用可能になれば、個人の開発者や少人数のチームが、巨大企業に匹敵するようなフロンティアオープンソースモデルを開発できるようになるのかという問いです。

かつてAlexNetがわずか2つのGPUで動作していた時代とは異なり、今日のフロンティアモデルをトレーニングするには莫大な計算リソースが必要とされます。この計算リソースの障壁が、真のオープンソースイノベーションを妨げている側面があることは否定できません。GPU価格の劇的な下落は、AI研究と開発の民主化を加速させ、より多様なアイデアやアプローチが試される可能性を秘めています。

モデレーションとコントロール：オープンソースが提供する信頼

過去18ヶ月で、AI推論はより困難になりました。モデルの規模と多様性の増大に加え、ますます長時間にわたるタスクを実行するエージェントの登場が、この複雑さを増幅させています。このような状況において、オープンソースは単なる「あれば良いもの」ではなく、「絶対的に必要なもの」となっています。

Hugging Faceで発生したサイバー攻撃の事例は、オープンソースの重要性を浮き彫りにします。この事件では、サンドボックス化されていないOpenAIモデルがサイバー攻撃を実行しようとしましたが、Hugging Faceは中国製のオープンソースモデルを使ってこれを封じ込めることに成功しました。この事例が示すのは、プロプライエタリなモデルAPIの「ガードレール」（安全対策）が、しばしば恣意的で、実施が難しく、正当なユースケースを誤ってブロックしてしまう「偽陽性」の問題を抱えている点です。これはソーシャルメディアにおけるコンテンツモデレーション問題と同様の、解決が非常に困難な課題です。

Simon Moe氏は、「モデレーションが解決されない限り、将来的に人々はデフォルトでオープンウェイトモデルを選ぶようになるだろう」と予測します。なぜなら、オープンウェイトモデルこそが、ユーザーが自身のガードレールを確実にコントロールできる場所だからです。彼はInfractの開発者たちが経験した具体例を挙げます。Anthropicのモデルの一部はフロンティアAI研究を禁止しており、GPUカーネルの研究中に「無効なメモリアクセスエラー」のような技術的な操作が誤ってガードレールに引っかかり、数時間の作業が無駄になることがありました。その結果、Infractの開発者たちは、同様の品質を持ちながら、より合理的で制御可能なガードレールを持つKimi Case 4のようなオープンウェイトモデルへと移行しています。

Matt Bornstein氏は、これをソーシャルメディアのアナロジーでさらに深掘りします。ソーシャルメディアが分散した人間活動を中央集権化し、企業の利益追求というインセンティブが加わることで、モデレーション問題が複雑化したのと同様に、AIもまた、コーディング、スプレッドシート作成、アドバイス提供といった「仕事」を中央集権化しつつあります。しかし、AI企業にはソーシャルメディアのような「プラットフォーム上の発言に責任を負わない」という免責条項がありません。さらに、Anthropicのように倫理的な立場を強く取る企業は、法的要件以上に厳格なガードレールを設定することがあり、これがユーザーにとってフラストレーションの元となることがあります。政治的に敏感な話題をトリガーするとして翻訳がブロックされるような事例は、ユーザーの自由な活動を阻害する可能性を示唆しています。オープンソースモデルは、こうした制約から解放され、ユーザーが自身のニーズとリスク許容度に基づいてガードレールをカスタマイズできる自由を提供します。

フロンティアモデルとの能力ギャップ：解消される未来

5年後、あるいは1年後、オープンウェイトのAIモデルはフロンティアモデルとのギャップを完全に埋めているでしょうか？ Simon Moe氏は、「能力面では大きなギャップはない」と見ています。彼によれば、モデルの差別化要因は、もはや純粋な能力よりも「分散戦略」や「市場投入戦略」にあるとのことです。

フロンティアモデルは、コンピュータクラスター、トレーニングデータ、そして優秀な研究者の組み合わせから生まれます。その中で最も重要な要素の一つが「データ」であり、もう一つは「モデルが自己改善する環境」です。例えば、MoonshotのKimi Case 3モデルは、フロントエンドコーディングにおいて最高の環境を構築し、モデルがコードを生成し、レンダリング結果を見て、反復的に改善するという学習プロセスを可能にしました。これは、単にソースデータだけでなく、「いかに最高の環境を構築し、学習から得られる知見をアルゴリズムと最適化に活用するか」がモデルの進歩を左右することを示しています。Simon Moe氏は、今後1年以内には、オープンウェイトモデルとクローズドウェイトモデルの間で能力の差はほとんどなくなるだろうと予測しています。

また、中国の研究者がオープンモデルに注力している背景についても言及があります。Simon Moe氏は、研究者は「オープンかクローズドか」という立場よりも「興味深い問題」に惹かれると述べつつも、オープンウェイトモデルが研究成果に与える影響力の大きさがプラス要因であると指摘しています。Kimi Case 3モデルが、Rotary Positional Embeddingの発明者自身によって、それが不要であるという技術的説明と共に公開された事例は、オープンな研究と知識共有がAIの進歩をいかに加速させるかを示す好例です。

蒸留（Distillation）の役割

他社のモデルからの「蒸留」（Distillation）が、現在のオープンウェイトモデルの進歩を支えているのかという議論に対し、Simon Moe氏は否定的な見解を示しています。彼は、環境構築が非常に重要であり、他者の環境を「蒸留」することはできないと主張します。モデルが環境とどのように学習するかを蒸留することも不可能です。既存のデータセットを書き換えたり、より良い事前トレーニングデータを作成したりすることは可能ですが、これはどのモデルでも行えることであり、オープンウェイトモデルの進歩の主要な柱ではありません。最終的に、現在の進歩を牽引しているのは、依然として「非常に賢い人々、非常に興味深いアルゴリズム、データ環境、そして計算リソース」であると結論付けています。この視点は、AIの進歩に関する政策立案者にとっても重要な示唆を与えます。

オープンソースとオープンウェイトは、一種の「レーストラック」を設定し、誰もが互いから学び、それぞれのプレイヤーがどこにいるかを把握し、互いの肩の上に立って自己を改善できる環境を生み出します。これにより、全員がより速く前進できるようになります。Matt Bornstein氏も、a16zが投資の観点から、世界中のより多くの場所でオープンソースモデルのトレーニングが行われることを期待しており、それによってグローバルなコラボレーションの「魔法」が生まれると結んでいます。

Infractのオープンソース哲学

Infractの共同創業者であるIon Stoica氏（Databricks、Anyscaleの共同創業者でもある）は、常にオープンソースとそのサポート方法について深く考えてきました。Infractにおける彼の焦点は、「世界中の非常に多くの人々が、非常に重要なプロジェクトでこのソフトウェアを使用している状況で、どうすれば最高の品質を提供できるのか、そしてその価値はどこから来るのか」という点にあります。

Simon Moe氏によれば、Ion Stoica氏は常に「オープンソース・ファースト」の哲学を持っています。Infractが構築する必要があるものは、まずオープンソースとして構築し、その後、顧客やパートナーが最高の成果を得られるように「最後の1マイル」を埋めることに注力するのです。vLLMがオープンソースの推論エンジンとしてスタート地点であり、Infractはその上に、オープンソースだけでは解決できないギャップを埋めるサービスや製品を提供することで、価値を創出しています。このアプローチこそが、Infractを単なるオープンソースプロジェクトの管理者から、現代AIインフラの中核を担う企業へと押し上げた原動力となっています。

結論：オープンソースが切り拓くAIの未来

本記事で詳細に見てきたように、オープンソースAIは、単なるコスト削減や自由な利用の手段を超え、AIのイノベーションと民主化を推進する不可欠な要素へと進化しています。vLLMのような推論エンジンは、大規模言語モデルのパフォーマンスを劇的に向上させ、最新のフロンティアモデルへの迅速な対応を可能にすることで、AIをビジネスや研究開発の最前線で活用するための強力な基盤を提供しています。

オープンソースモデルが提供する「コントロール」と「柔軟性」は、企業が独自の要件を満たし、信頼性の高いAIアプリケーションを構築するために不可欠です。モデレーションやデータプライバシーといった課題が複雑化する中で、ユーザーが自らのガードレールを管理できるオープンウェイトモデルは、ますますその重要性を増していくでしょう。

モデル開発の経済的持続可能性を確保するための新しいライセンスモデルの進化は、オープンソースエコシステムが成熟し、次の世代のAI研究開発に投資するための健全なメカニズムを構築している証拠です。そして、フロンティアモデルとの能力ギャップが縮小し、モデルの進化がデータ、環境、アルゴリズム、そして世界中の優秀な研究者の協働によって推進される未来は、オープンソースがAIの真の可能性を解き放つ鍵となることを示唆しています。

InfractがvLLMを通じて実践するオープンソース・ファーストの哲学は、この未来を形作る上での強力な指針となるでしょう。オープンなコラボレーションと持続可能なエコシステムの構築こそが、AI技術が社会全体に最大の利益をもたらし、次なる革新の波を生み出す道筋となるのです。