Poolside AIが切り拓くAGIへの道：Laguna S、Model Factory、そしてオープンソースの未来

AI技術の進化は、私たちの想像をはるかに超えるスピードで進んでいます。その最前線で、独創的なアプローチと揺るぎない信念を胸に、人工汎用知能（AGI）への道を切り拓こうとしている企業があります。それがPoolside AIです。共同創業者であるEiso Kant氏は、AI開発における既存の常識を覆し、オープンソースとエンジニアリングの力を最大限に活用することで、次の時代の知能を創造しようとしています。

本記事では、Eiso Kant氏の深い洞察とPoolside AIの革新的な取り組みを紐解き、彼らがどのようにしてModel Factoryという独自の開発基盤を構築し、最新モデルLaguna Sで「知能より振る舞い」の重要性を示したのかを詳細に分析します。そして、AGIへのレースにおけるPoolside AIの戦略、オープンソースに対する揺るぎない哲学、そしてAI開発の未来に対する彼らのビジョンを深く掘り下げていきます。

Poolside AIの黎明：AGIへの飽くなき挑戦とオープンソースの哲学

Poolside AIの物語は、単なるスタートアップの成功譚ではありません。それは、AIの可能性に対する深い信念と、時には孤独な戦いの記録です。共同創業者であるEiso Kant氏がAIの世界に足を踏み入れたのは、2015年にAndre Karpathy氏が発表した画期的な論文「The Unreasonable Effectiveness of Recurrent Neural Networks」に感銘を受けたことがきっかけでした。この論文を読み、Kant氏は自身のスタートアップを一夜にして転換させ、RNN、LSTMs、そして後のTransformerモデルを用いたコード生成に取り組むことを決意します。

当時はまだ言語モデルが広く認知される前夜であり、コードベースの機械学習という概念はほとんど誰にも理解されませんでした。4年間にわたる試行錯誤と約1,200万ドルの投資家資金を費やした末、2019年末にはプロジェクトは一旦の失敗に終わります。当時は「最大の失敗」と表現するほどの挫折でしたが、Kant氏はこの経験を通じて、スケーリング法則の重要性を深く学びました。当時、GoogleやOpenAIといった一部の企業がこの信念を貫き、モデルをスケールアップし続けたことを、彼は今でも深く尊敬しています。

その後、2年間の雌伏を経てChatGPTの登場が訪れます。それはKant氏にとって、自身の初期のビジョンが間違っていなかったことの「弁明」であり、同時にAGIの実現が現実味を帯びてきた瞬間でもありました。この経験が、Poolside AIの創業へと繋がります。

オープンソースへの回帰：ディストピアを避け、多様な未来を創造する

Poolside AI創業当初、オープンソース化は彼らの主要な方針ではありませんでした。しかし、技術の進歩が加速し、AIが社会に与える影響の大きさを目の当たりにする中で、Kant氏は強い危機感を抱くようになります。彼は、もしAGIが数社によって独占的に開発される未来が訪れたとしたら、それはユートピア的なSFではなく、ディストピア的な物語になると感じました。

「私は5社しかない世界よりも、100社の基盤モデル企業が存在する世界に生きたい。たとえ私がその5社のうちの1社であったとしてもだ」とKant氏は語ります。この信念こそが、Poolside AIがその研究成果とモデルのウェイトをオープンソースとして公開するに至った原動力です。彼らは、より多くの企業がAI開発に参入し、競争と選択肢が生まれることが、人類にとってより良い未来を築く上で不可欠だと考えています。

もちろん、オープンソース化にはビジネスモデルの確立、モデルの悪用リスク、政府の規制といった未解決の課題が山積しています。しかし、Poolside AIは「現時点でフロンティアにいるわけではない」という自社の立ち位置を認識し、今この瞬間にオープンソースの選択をすることが、将来的にフロンティアに近づいた際に方向転換するよりも容易であると判断しました。彼らは、自社の行動が、より多様で豊かなAIエコシステムの形成に貢献することを願っています。

当初の信念：RLとモデルのスケーリング

Poolside AIの創業には、大きく二つの前提がありました。一つは、AI技術の能力が複利的に伸び続けるという確信です。3年前の時点では、多くの人々が言語モデルを「確率的なオウム（stochastic parrots）」に過ぎないと見ていましたが、Kant氏はその潜在能力を強く信じていました。

そしてもう一つは、強化学習（Reinforcement Learning, RL）がLLMの能力を飛躍的に向上させる最大のドライバーになるという見解です。この意見は、3年前の時点ではOpenAI、Google、Anthropicといった主要な研究機関の主流とは異なっていました。しかし、Poolside AIはこの信念に基づいて、最初からRLに注力し、独自の知識基盤をゼロから構築しました。彼らの先見の明は、現在のAI開発の潮流を鑑みれば明らかです。

「Model Factory」が切り拓く新時代：AI開発の産業化

Poolside AIが競争の激しいAI業界で急速な進歩を遂げている最大の要因は、彼らが「Model Factory」と呼ぶ独自の開発基盤にあります。Eiso Kant氏は、モデル構築の本質を「90%はエンジニアリングである」と断言します。研究者が日々時間を費やしているのは、結局のところコードを書き、データと向き合う作業だからです。

究極の目標：アイデアから結果までの「スピード」

3年前、AIモデルのトレーニングは、バッシュスクリプト、Slurm、そしてパッチワークのようなデータパイプラインによって支えられた、スパゲッティコードの混沌とした世界でした。Poolside AIはこの状況を改革し、モデル構築を「産業化されたエンドツーエンドのプロセス」と捉えました。彼らの究極の目標は、研究者のアイデアから信頼できる実験結果、そして次のモデルトレーニングへと繋がるまでの「スピード」を最適化することにあります。

この哲学に基づき、Poolside AIは世界でも有数の分散システムエンジニアを、研究プロセスの最初期からチームに組み込みました。彼らは、Model Factoryを構成する数千ものコンポーネントをゼロから構築しました。まるで初期のFoxconn工場で働き、その複雑な製造プロセスの意思決定の歴史を全て知っているエンジニアが、システム全体を再構築するかのようです。

Model Factoryの具体的な機能と特徴

Model Factoryは、以下の革新的な要素によって構成されています。

データストリーミングと動的なデータミキシング: 従来のAI開発では、トレーニングデータをパッケージ化し、クラスターにコピーして分散させてからトレーニングを開始していました。しかし、この方法はデータセットの変更があるたびに膨大な時間を要します。Poolside AIはこれを「無意味」とし、トレーニングクラスターにデータを直接ストリーミングする方式を導入しました。これにより、データセット全体が準備されるのを待つことなくトレーニングを開始でき、データソースの混合（例えば「Blender」と呼ばれるサービスで、このソースから20%、あのソースから10%といった混合比率を設定）もコンフィグレーション一つで可能になりました。
不変データ層と完全な再現性: Model Factoryの基盤は、不変なデータ層（immutable data layer）と常にバージョン管理されたコード（experiments as code）です。これにより、過去のあらゆる実験について、どのバージョンのコードで、どのデータが、どのカーソル位置で入力されたかまで正確に追跡・再現できます。この完璧な再現性は、厳密な科学的プロセスを可能にし、各実験が真に独立したアブレーションスタディとなることを保証します。
大規模な実験実行能力: Model Factoryは、Poolside AIのような小規模なチーム（研究者70名未満、エンジニア35名未満）でも、月に1万～2万回もの実験を実行できる能力を誇ります。これにより、迅速なアイデア検証とイテレーションが可能となり、日々の改善が即座に次のトレーニングに反映されます。
高い信頼性: このシステムの信頼性は特筆すべきものです。最新モデルであるLaguna Sの開発期間中、オンコールイベントはゼロでした。新しいモデルの立ち上げ時に一時的な設定ミスなどが発生することはあっても、それは勤務時間内の対応であり、夜間に呼び出されるような事態は発生していません。この信頼性が、開発サイクルの短縮と継続的なイノベーションを可能にしています。

開発サイクルの驚異的な短縮とエージェントの活用

Model Factoryの成果は、モデル開発サイクルの驚異的な短縮に現れています。Laguna XS2はプリトレーニング開始からリリースまで5週間、そして今回議論されている最新モデルは8週間で開発されました。さらに、次のモデルのトレーニングは、前モデルのポストトレーニングが完了した翌日には開始されます。

Kant氏は、この状況をSpaceXのロケット工場に例えます。初期のロケット製造は困難でしたが、工場が完成すればロケットは次々と生産され、次の打ち上げが特別なイベントではなくなります。Model FactoryはまさにAIモデルを連続的に生産する工場であり、モデルはプロセスの「成果物」として扱われます。

さらに驚くべきことに、Model Factoryはエージェントによってますます自律化されています。研究者のスクリーンでは、様々なエージェントがコードを書き、ジョブを起動し、モデルの実行結果を評価し、変更を加えています。データパイプラインのプリトレーニング、ポストトレーニング、合成データ生成といった側面では、エージェントがすでに深く関与しており、アーキテクチャ設計においてもその兆候が見え始めています。これは、AGIが自らAI開発を加速する未来の「輝き」だとKant氏は語ります。

Laguna Sが示す可能性：小型モデルの潜在能力と「知能より振る舞い」の重要性

Poolside AIがリリースした最新モデル「Laguna S」は、AI開発における新たな視点を提供する画期的な存在です。これは、単にベンチマークスコアが高いだけでなく、モデルの「振る舞い」の重要性を浮き彫りにしています。

Laguna Sのスペックと驚異的な能力

Laguna Sは、総パラメータ数1180億、アクティブパラメータ数80億というスパースモデルです。このサイズでありながら、DJX Spark上で30～40トークン/秒で動作するという高い効率性を誇ります。

しかし、その真価は能力の範囲にあります。Laguna Sは、以下のタスクを単独で解決できるとされています。

Erdos 397問題
複雑なプログラミングタスク
インターネットアクセスなしでMac用のWi-Fiスキャナーを外部ライブラリを使わずに作成するタスク（コアWLAN APIを粘り強く理解する）

Eiso Kant氏は、このモデルを過去10日間で1日8〜10時間も使い込み、その「軌跡とトレース」を分析しました。その結果、彼のApplied Research部門の共同責任者であるPeng氏の言葉を引用し、「Laguna Sの多くの進歩は、より高い知能からではなく、異なる振る舞い、すなわちより多くの検証、物事を当然としない姿勢、早期の勝利宣言をしないこと、そしてはるかに高い粘り強さから来ている」と強調しています。

「知能より振る舞い」：知識労働におけるモデルサイズの再考

この「粘り強さ（persistence）」という振る舞いの重要性は、Kant氏に知識労働におけるモデルサイズの最適点について再考を促しています。

科学の最前線における真のブレークスルーは、アインシュタインが一般相対性理論を考案したように、異なるアイデアを結びつける高い知能によってもたらされることが多々あります。大規模なモデルは、より多くのアイデアを結びつける能力において、確かに優位性を持っています。

しかし、ソフトウェア開発を含む知識労働の大部分において、人間を優秀にするのは、問題に直面した際に「粘り強く」バックトラックし、バグを特定し、調査し、ドキュメントを参照し、異なる解決策を試す能力です。これは、根本的に異なる分野から3つのアイデアを結びつけるような、純粋な知能とは少し異なる側面です。

Laguna Sは、比較的小規模なモデルでありながら、その「振る舞い」の改善によって、これまで予想されていたよりもはるかに高い能力、特にコーディングタスクにおいて、同規模またはそれ以上のモデルを凌駕する性能を示しました。

これによりKant氏は、知識労働におけるモデルの最適なサイズが、以前考えられていたよりも「はるかに小さい」可能性を示唆していると考えています。かつては兆、5兆、10兆といったパラメータを持つモデルがピークだと考えられていましたが、このピークはもっと早く訪れるかもしれません。

もしこの仮説が正しければ、それはモデルのコモディティ化を後押しし、オープンソースモデルが市場で成功するための強力な論拠となります。より小規模で効率的なモデルが知識労働の大部分をカバーできるようになれば、誰でも高度なAIを利用できるようになり、AGIへのレースにおいてオープンソースが重要な役割を果たすことができます。

もちろん、Kant氏はスケーリングの重要性を否定するわけではありません。あくまで「賢く、速く、より優れたモデル」を目指すことが第一であり、フロンティアモデルと同等にスケールアップする必要性も認識しています。しかし、Laguna Sは、パラメータ数だけでなく、モデルの「振る舞い」を最適化することによって、小型モデルからでも最大限の能力を引き出せるという「希望の兆候」を示したのです。

AI開発の未来：データ、コンピュート効率、そしてオープンリサーチ

Eiso Kant氏は、AIモデル構築の大部分が、究極的には「データの改善」か「コンピュート効率の改善」のいずれかに集約されると主張します。このシンプルな視点こそが、Poolside AIのイノベーションの方向性を決定づけています。

プリトレーニングの進化：RLの早期導入と「思考」するウェブ

現在のプリトレーニングは、主にウェブ上の膨大なデータを用いて「次のトークン予測」を学習させるという形で行われています。しかし、Kant氏はこれだけでは不十分だと考えています。彼は「強化学習がプリトレーニングのより早い段階で導入されるようになる」という、まだ一般的ではない見解を持っています。

これは、DeepSeek Zero論文などで示された、モデルが早期に言語を使用できるようになった段階で推論を誘発するというアプローチに通じます。ウェブには人類の知識の総体がエンコードされていますが、その品質は玉石混淆です。Poolside AIは、このウェブデータを単なる次のトークン予測の材料としてではなく、「モデルに思考を教える」ための方法として活用するための研究に何年も費やしてきました。彼らは、ウェブから得られる潜在的な価値を、まだごくわずかしか引き出せていないと考えており、ここに大きな可能性を見出しています。

ミッドトレーニングとカリキュラムの最適化

「ミッドトレーニング」という言葉は、実質的には「より良いデータを用いた第2段階のプリトレーニング」に過ぎないとKant氏は指摘します。これは、完璧なカリキュラムを最初から最後まで設計するだけのコンピュートリソースがないために、ウェブデータに後からカリキュラムを割り当てようとする試みです。

彼は、将来的にコンピュートコストが下がり、世代間のシステムが進化すれば、このプロセスはより連続的なスペクトラムになると予測しています。また、ミッドトレーニングが「ミッドトレーニングチーム」という組織的な区分を生み出している現状にも言及し、Model Factoryのようなエンジニアリングと実験のスキルが、より連続的な学習プロセスを可能にすると見ています。数年後には、現在のプリトレーニングデータ処理の「素朴さ」に驚くことになるだろうと彼は語ります。

オープンリサーチの重要性：恩恵を受け、還元する

Poolside AIは、他社のオープンリサーチから多大な恩恵を受けてきたことを率直に認めます。特に、DeepSeekやZhipu.aiといった中国のラボが研究成果を積極的に公開していることに対し、深い敬意を表しています。

Kant氏は、モデルのウェイト公開は重要ですが、それだけでは他者がPoolside AIのプロセスを完全に再現することはできないと指摘します。真に意味のある貢献は、何万もの実験とコンピュートを通じて得られた「教訓」や「方法論」を共有することです。Poolside AIは、フロンティアに近づき、自社のミッションにオープンソースを加えたことで、今後はより積極的に研究成果を公開し、他の「Neolab」の加速に貢献していく意向です。

コンピュートボトルネックの克服：低精度トレーニングへの期待

AI開発における主要なボトルネックの一つは、やはりコンピュートリソースです。Eiso Kant氏は、超低精度トレーニング（ターナリ、FP4、FP8など）が業界を変革する可能性を秘めていると非常に期待しています。

Laguna SはFP8でトレーニングされましたが、さらなる低精度化は、より大規模なモデルをより少ないリソースでトレーニングすることを可能にし、AIのアクセシビリティを劇的に向上させます。NVIDIAのNVFP4のような技術は、そのトレードオフを最適化する上で重要であり、Poolside AIも将来的にこれらを活用していく予定です。

これらのイノベーションは、モデルの能力向上だけでなく、AGIへの道のりにおけるコンピュートの壁を打ち破る鍵となります。

Poolside AIのオープンソース哲学と業界への提言

Eiso Kant氏のビジョンは、単に優れたAIモデルを開発することに留まりません。彼は、AGI時代におけるAIエコシステムのあり方について、強い哲学と提言を持っています。

集中化への警鐘：多様性と選択肢の必要性

「私は5社しかない世界よりも、100社の基盤モデル企業が存在する世界に生きたい。たとえ私がその5社のうちの1社であったとしてもだ」この言葉は、Poolside AIのオープンソース戦略の根底にある Kant氏の深い信念を象徴しています。

AIの能力が指数関数的に向上し、社会のあらゆる側面の基盤となるであろうAGIが、少数の企業によって独占される未来は、彼にとって「最もディストピア的なSF小説の第14章」のように映ります。知能の集中化は、チェック＆バランスが機能しない権力の集中を生み出し、歴史上決して良い結果をもたらしませんでした。

多様なオープンソースモデルが存在することで、企業、国、そして人々は、自らの価値観やニーズに最も合ったモデルを選択できるようになります。異なるバイアスや振る舞いを持つモデルが競争することで、技術は健全に発展し、より多くの選択肢が社会にもたらされます。Kant氏は、この数ヶ月間で多くの人々が、多様なAIの選択肢が必要であることに気づき始めていると感じています。

規制とイノベーションのバランス：政府の役割と産業の責任

AI技術がより強力になるにつれて、その規制や悪用リスクへの対応が重要な課題となります。Kant氏は、この問題について単一の企業が一方的な決定を下すことは危険であると主張します。より能力の高いテクノロジーについては、「民主主義に委ねるべきだ」という立場です。

政府は、悪用リスクと終末シナリオを区別し、何が真の脅威であるかを明確にする上で積極的な役割を果たすべきだと彼は考えます。そして、国際的な合意に基づいて、特定の能力に対する制限や利用不可能なモデルを検討することはあり得ると認めつつも、現段階でオープンモデル全般を制限することはイノベーションを阻害すると警鐘を鳴らします。過去、GPT-2のリリース時にも「世界が破滅する」とまで言われましたが、そうはなりませんでした。この経験から、私たちは悪用リスクの予測があまり得意ではないことを学ぶべきだと彼は語ります。

また、規制によってイノベーションの壁が高くなれば、それは「タバコ広告禁止」が結果的に既存のタバコ会社の寡占を強固にしたように、少数の巨大AI企業の独占を固定化する危険性があります。Kant氏は、AGIへの道のりにおいて、誰もがその道具を使えるような「公平な競争の場」を確保すべきだと強く訴えます。

NVIDIAへの敬意とハードウェアの共進化

AI産業の発展において、NVIDIAのようなハードウェア企業が果たしてきた役割について、Kant氏は深い敬意を示します。2015年に彼がRNNに取り組んでいた頃、民生用GPUをサーバーに組み込むことが可能であったからこそ、この分野の進歩が始まりました。

モデルの能力向上は、次世代のネットワークとシステムによってもたらされるステップワイズな進歩と密接に結びついています。Hopper世代のGPUでトレーニングできるモデルと、GB200のようなシステムでトレーニングできるモデルの間には、兆パラメータと5兆・6兆パラメータという決定的な違いがあります。

将来的には、モデルとハードウェアのコデザインがさらに進むことで、新たな能力が解放されると予測しています。資本主義は競争を促進する方向に働くため、NVIDIAのような存在は競争を可能にするものであると彼は見ています。政府によるAIモデル開発の規制が、実質的に少数の企業にしか許されない状況を生み出すこととは、本質的に異なる問題だと強調します。

「Neolab」の台頭とAGIへのレース

Kant氏は、AGIへのレースは「カレンダー時間」で測定されると繰り返し強調します。このレースを加速するためには、より多くの「Neolab」の参入が不可欠です。彼は、現在研究者としてAIに取り組んでいる人々に対し、Poolside AIの競争相手となるような基盤モデル企業を立ち上げることを積極的に奨励しています。なぜなら、彼が望む未来は、少数の勝者だけが存在する世界ではないからです。

技術的な洞察：ツールとエージェント、そしてマルチモダリティ

Eiso Kant氏のAI開発に対する視点は、既存のパラダイムに挑戦する鋭い技術的洞察にも満ちています。彼の発言の中でも特に挑発的だったのは、「MCP（Model Control Panel）とツールは愚かだ」という言葉でした。

「ツールは愚か」の真意：モデルによるコード生成と仮想マシンとの直接対話

Kant氏は、複雑なタスクや長期的なタスク（コーディングなど）を実行する際、モデルはデータソースや仮想マシンにインストールされたものと対話する必要があると指摘します。しかし、MCPやツール呼び出しといった層を間に挟むことは、モデルとシステム間の無駄な介在を生み出すと彼は考えます。

Poolside AIのLaguna Sやフロンティアモデルに見られるように、モデルはもはやシステムプロンプトに50個ものツールを詰め込むのではなく、より直接的に「コードを書き、システムと対話する」方向へと進化しています。モデルは、バイナリがインストールされ、特定のコードベースが利用可能な仮想マシンを与えられ、必要であれば自身のメモリを書き込むためのフォルダを与えられれば、コードを使って複雑なタスクを実行します。

この場合、モデルが生成するのは、1つや2つのツール呼び出しを連鎖させたものではありません。if文、forループ、条件分岐などを駆使した「小さなスクリプト」のようなコードです。これは、Pythonコードインタープリターでモデルが直接コードを書き、その場で実行するような挙動に似ています。

Kant氏は、強化学習によってトレーニングされたモデルは、最も効率的な方法でタスクをこなそうとする「自由」を求めるため、システムプロンプトに詰め込まれた多数のツールを呼び出すのではなく、自らコードを生成するようになる、と説明します。彼は、12ヶ月後には20～30個のツールが詰め込まれたシステムプロンプトを見ることはなくなるだろうと予測しています。Poolside AIは現行モデルでパラレルツール呼び出しをサポートしているものの、これはあくまで一時的なものという認識です。彼らは、モデルに最小限のハーネスを与え、APIキーやデータソース、ドキュメントにアクセスできるコードベースを持つコンテナを与え、あとは「自由にタスクを実行させる」ことが、AGIへの道だと考えています。

マルチモダリティ戦略：ビジョンは必須、オーディオは後回し

マルチモダリティ、特に画像や音声の理解は、AIの能力を拡張する上で重要な要素です。Poolside AIもこの重要性を認識していますが、戦略的な優先順位を明確にしています。

彼らは、ビジョン理解については「次のステップ」であり、モデルに組み込むことが非常に重要であると考えています。実際にPoolside AIは、ビジョン理解に関する取り組みを開始しています。これは、思考モデルが世界とより豊かに相互作用するために不可欠な要素だからです。

しかし、オーディオ理解については、当面の間、取り組む予定がないと明言しています。これは、オーディオがAGIへの直接的な道筋に貢献するとは考えていないためです。Poolside AIは、フロンティアに追いつくことを最優先とし、限られたリソースと人材を「モデルをより高い推論能力と長期的なタスク解決能力へと押し上げる」ことに集中させるべきだと考えています。

Eiso Kant氏は、言語の「密度の高さ」を重視します。物理学の論文のように、20〜30ページの中に膨大な知能と情報がエンコードされているように、言語は知識を圧縮して伝達する上で非常に効率的なモダリティです。ビデオや画像も素晴らしい情報源ですが、知識や推論の密度という点では、言語には及びません。リソースが限られている場合、言語に投資することがより効率的であるという考えです。これは、Anthropicがマルチモダリティに特化せず、言語モデルの能力向上に注力してきた姿勢とも共通しています。

組織と文化：高いエージェンシーと効率性

Model Factoryのような革新的な開発基盤と、Laguna Sのようなモデルの振る舞いに焦点を当てるという独特の哲学は、Poolside AIの組織文化と人材戦略から生まれています。

グローバルなタレント戦略とリモートファースト

Poolside AIは、創業当初からアメリカの企業でありながら、「シリコンバレーで研究者を雇わない」という意識的な決定を下しました。彼らは、世界中のあらゆる場所から最高の才能を見つけることに焦点を当て、中西部のアメリカからシアトル、セルビア、台湾、シンガポールに至るまで、グローバルなタレントハントを行ってきました。

これは、AI開発が激しい人材獲得競争になることを見越していたためであり、同時に、世界で最も有能で革新的なアイデアを持つ人材は、ベイエリアだけにいるわけではないという信念に基づいています。この戦略の結果、Poolside AIは完全にリモートワークを基本とした企業として成長し、パリやロンドンにもオフィスを構えながら、多様なチームを築き上げました。

既存のラボから派生したわけではないため、初期には情報不足による「とんでもないミス」も経験しました。例えば、トレーニングコードベースを完全にゼロから構築した際、オプティマイザのバグ解決に3週間を費やしたエピソードは、彼らの粘り強さを象徴しています。この困難を乗り越えた経験が、チームの「回復力と持続性」を育み、何事も「やればできる」という文化を醸成しました。

「最適化バグ」のエピソード：直感を鍛える重要性

Eiso Kant氏が特に印象に残っているという初期のバグの一つは、Adamオプティマイザのイプシロン（epsilon）値に関するものでした。当時のLlama論文などでは、イプシロンにかなり大きな値（例えばe-4）を設定することが一般的でした。しかし、Kant氏のチームには、分母のゼロ除算を避けるための値であるはずのイプシロンに、なぜそれほど大きな値を設定する必要があるのか、直感的に理解できませんでした。これは効果的にオプティマイザにノイズを加えているようなものでした。

3週間の格闘の末、彼らはこのバグを解決し、Llama論文ほど大きなイプシロン値を「水増し」する必要がないことを突き止めました。この経験は、「他者の論文を鵜呑みにせず、自らゼロから発見することで、より良い直感を築ける」という重要な教訓をチームにもたらしました。AIモデル構築は実験科学であり、初期の直感はすぐに打ち破られ、なぜ間違っていたのかを自ら探求する粘り強さが求められるからです。

エンジニアリング生産性の測定：「リードタイム」と「エージェンシー」

Eiso Kant氏は、AI時代のエンジニアリングチームの生産性について、次のように語ります。ソフトウェア開発の本質は、「エンドユーザーにとって価値のあるアイデアやバグ修正、機能を届け、その価値を実現すること」です。AIモデルの能力向上は、この価値提供までの「仲介者を排除し、時間を圧縮する」ことを可能にしています。

そのため、最終的な生産性指標は「リードタイム」であると彼は主張します。すなわち、「顧客にとって価値あることを見出して、それを実際に提供するまでの時間」です。コード量やPRレビューといった他の指標は、あくまでこのリードタイムを測る先行指標に過ぎません。

この新しい世界で特に重要視されるべきは、「一人の人間がどれだけ多くのことを成し遂げられるか」という点です。AIネイティブな企業では、巨大なエンジニアリング組織ではなく、顧客に近い「ビルダー」が一貫して開発を行う傾向があります。

Poolside AIが採用で重視する資質は「エージェンシー（主体性、能動性）」です。自ら物事を成し遂げようとする意志と能力を持つ人材は、AIがより有能になる時代において、最も重要な特性の一つとなります。高いエージェンシーを持つ人々を惹きつけ、共通の目標と明確な制約（例：マルチモダリティには注力しない、RLに集中するなど）を与えることで、彼らはその能力を最大限に発揮し、イノベーションを生み出します。実際、Poolside AIでは、エージェントを構築するエンジニアとして入社した人物が、6ヶ月で本格的な強化学習研究者へと成長した例もあります。

Poolside AIは、比較的少ないコンピュートリソースと資金で開発を進めてきましたが、Kant氏は、この「制約」がむしろチームを他の軸でより良くする原動力になったと振り返ります。例えば、外部データの購入を抑えたことが、自社のデータ改善能力を向上させました。制約はイノベーションの源泉となるのです。

まとめと展望：AGIへの飽くなき探求

Poolside AIは、単なる最新モデルを提供する企業ではありません。彼らは、AI開発のプロセスそのものを革新し、AGIの実現とその社会的な影響について深く考察する、先見的な存在です。

Model Factoryは、AI開発を産業化し、研究者のアイデアからモデルリリースまでのサイクルを劇的に短縮する、Poolside AIの競争力の核心です。そして、Laguna Sは、モデルのパラメータ数だけでなく、「粘り強さ」といった振る舞いの重要性を示すことで、小型モデルの潜在能力に新たな光を当てました。これは、AIモデルのコモディティ化と、オープンソースがAGI時代において成功しうる未来への希望です。

Eiso Kant氏の揺るぎないオープンソース哲学は、AIの知能が少数の企業に集中することを回避し、多様な選択肢と健全な競争を促進することで、よりユートピア的な未来を創造しようとしています。彼は、より多くの「Neolab」の参入を歓迎し、オープンリサーチを通じて得られた教訓を共有することで、業界全体の加速に貢献しようとしています。

Poolside AIのAGIへの道のりは、データとコンピュート効率の飽くなき追求、強化学習の革新的な活用、そしてモデルが直接コードを生成し仮想マシンと対話する「ツール不要」な未来へと向かっています。彼らは、この「レース」は時間との戦いであり、個々の研究者とエンジニアが持つ「エージェンシー」が最大の武器となると信じています。

Poolside AIの挑戦は始まったばかりです。彼らが次にどのような革新を私たちに見せてくれるのか、そのAGIへの探求の旅は、今後も目が離せません。