「コード」から「意思の表現」へ：AIエージェントが変える開発パラダイム

Andrej Karpathyが語るAIの「ループ時代」：コードエージェント、自動研究、そして変革の未来

今日の技術革新の波は、AI、特に大規模言語モデル（LLM）の進化によって加速の一途を辿っています。この変革の中心にいる一人、Andrej Karpathy氏は、AI研究とエンジニアリングの最前線で活動する彼の経験と洞察を共有し、現在の状況を「AIサイコシス」と表現しています。これは、AIの能力が劇的に向上し、何が可能になるのか、その限界はどこにあるのかを誰もが探求しようとしている、狂気とも言える高揚感と興奮、そして時には不安が入り混じった状態を指します。本記事では、Karpathy氏の視点を通して、AIエージェントによる生産性の劇的な向上、研究そのものの自動化、そしてその先にある社会と労働市場の未来について深く掘り下げていきます。

かつてソフトウェア開発といえば、エンジニアがキーボードを叩き、コードを一行ずつ記述していく作業でした。しかし、Karpathy氏は「もはや『コードを書く』という動詞ですらない」と語り、自身の「意思をエージェントに1日16時間表現している」と表現します。これは、AIエージェントが、人間の意図を解釈し、自律的にコードを生成・修正・実行する能力を獲得したことを意味します。

Karpathy氏自身の経験がその劇的な変化を物語っています。2023年12月以降、彼のワークフローは、以前の「80%自分でコードを書き、20%をエージェントに委任する」状態から、「20%自分で書き、80%をエージェントに委任する」状態へと劇的に変化しました。現在では、彼自身がコードを一行も打っていない日がほとんどだと言います。これは、個人の生産性における「アンロック」であり、人間のタイピング速度や記憶力といったボトルネックが、AIエージェントによって解放された結果です。

この新しいパラダイムでは、ボトルネックはエージェントの能力ではなく、人間の「スキル・イシュー」、すなわち、エージェントにどれだけ適切に指示を与え、作業を構成し、その出力を評価できるかという点にシフトします。Karpathy氏によれば、エージェントがうまく機能しない場合、それは「指示が不十分だった」「適切なメモリツールが与えられていなかった」といった、人間のスキル不足に起因することが多いと感じるそうです。

複数のエージェントを並行して稼働させ、それぞれに異なるタスクを委任する「マクロアクション」の概念も重要です。例えば、Peter Steinberg氏のように、多数のCodecsエージェントをモニターにタイル表示させ、それぞれに異なるリポジトリで作業を割り当て、人間はそれらの進捗をレビューし、次の大きな指示を与えるというワークフローが実現されています。これにより、人間は個別のコード行や関数レベルではなく、「新しい機能の実装」や「計画の立案」といった、より高レベルな抽象度でプロジェクトを推進できるようになります。

この変化は、エンジニアリングにおける新たな「筋肉の記憶」を必要とします。エージェントがタスクを完了するのを待つ間、人間は別のエージェントに別のタスクを割り当て、トークン・スループットを最大化しようとします。かつてGPUの稼働率を最大化することに神経を使っていた研究者が、今やAIモデルの「トークン・スループット」を最大化することに執着するようになっているのです。これは、計算資源へのアクセスがボトルネックではなくなり、人間がシステムの最大能力を発揮するための制約因子となったことを示しています。Karpathy氏はこの状態を「中毒性がある」と表現し、スキルが向上するたびに、新たな能力の「アンロック」があるため、非常にやりがいがあると感じています。

自律するAI「Claw」：パーソナリティと永続性を持つエージェントシステム

Karpathy氏が語るエージェントの次の進化形態が「Claw（クロー）」です。これは単一のエージェントセッションにとどまらず、永続性、ループ性、そして高度なメモリシステムを備え、ユーザーが直接介入しなくても自律的にバックグラウンドで作業を継続できるエンティティを指します。まるで、ユーザーに代わって世界とインタラクションし、行動する代理人のようです。

OpenClawの「魂と文書（Soul and D document）」の概念は、このClawのパーソナリティがどれほど重要であるかを示しています。Karpathy氏によれば、現在の多くのエージェントは「人格」の側面が不十分ですが、Claudeのようなモデルは、人間が達成感を味わうように設計された「サイコパシー」をうまく調整しており、ユーザーのアイデアが本当に優れている時にのみ褒め言葉を与えることで、ユーザーがその承認を得ようと努力するようになるという、奇妙な体験を生み出していると言います。これは、AIが単なるツールを超え、あたかもチームメイトやコンパニオンであるかのように感じさせる上で、その人格設計が極めて重要であることを示唆しています。Codexが「ドライ」であるのに対し、Claudeは「共感的」であるという比較は、AIとのインタラクションの質が、その「感情的チューニング」によって大きく左右されることを浮き彫りにしています。

Karpathy氏自身の経験から生まれた「Dobby the Elf Claw」は、このClawの可能性を示す具体的な事例です。彼は自身の家を管理するClawを構築しました。Dobbyは、自宅のローカルエリアネットワーク上のスマートホームデバイス（Sonos、照明、HVAC、ブラインド、プール、セキュリティシステムなど）を自律的に発見し、それらのAPIをリバースエンジニアリングし、コントロールする能力を獲得しました。Karpathy氏はWhatsAppを通じてDobbyに自然言語で指示を出し、例えば「おやすみ時間」と伝えれば、Dobbyは家中の照明を消し、HVACを調整するといった一連のアクションを実行します。さらに、セキュリティカメラの映像を監視し、FedExのトラックが到着したことを画像付きで通知する機能まで実現しています。

この事例は、既存のスマートホームアプリが抱えるフラグメンテーションと複雑さに対する、AIエージェントによる根本的な解決策を提示しています。Karpathy氏は、以前は6つの異なるアプリを使っていたが、Dobbyによってすべてが自然言語で統合されたと語ります。これは、「アプリストアにあるこれらのアプリは存在すべきではない」という示唆を与えます。未来のソフトウェア体験は、ユーザーが複数のカスタムアプリを操作するのではなく、エージェントがAPIを通じて直接デバイスやサービスを制御し、人間には自然言語のインターフェースを提供する形になるかもしれません。これは「エージェント・ファースト・ウェブ」の到来を予感させます。

Karpathy氏は、今日自身が行っているような「V-コーディング」（直接的な手動コーディング）を伴うClawの構築は、1年後には「ごく当たり前」になり、技術的な障壁は劇的に低下すると予測しています。非技術的な人間でも、AIに意図を伝えるだけで、複雑な自動化システムを構築できるようになるでしょう。しかし、一方で、エージェントに自宅のあらゆるシステムや個人のデジタルライフへの完全なアクセスを与えることには、セキュリティとプライバシーに対する懸念が伴います。この新しい自律システムの信頼性と安全性をどのように確保していくかは、今後の重要な課題となります。

研究そのものの自動化：AutoResearchが拓く科学の新境地

Karpathy氏が提唱するもう一つの画期的な概念が「AutoResearch（自動研究）」です。これは、研究者が研究プロセスにおけるボトルネックとなることを排し、AIが自律的に研究のループを回し、発見を加速させることを目指します。Karpathy氏の言葉を借りれば、目標は「レバレッジの最大化」であり、人間がごく少量の入力（トークン）を与えるだけで、AIが膨大な量の作業を自律的に実行するシステムを構築することです。

AutoResearchの核心にあるのは「再帰的自己改善」というアイデアです。フロンティアラボが目指すところは、LLM自体がLLMを改善する能力を獲得することであり、AutoResearchはそのための「小さな遊び場」として機能します。Karpathy氏自身の経験が、この概念の有効性を裏付けています。彼は長年GPT-2モデルのチューニングを手作業で行い、かなりのレベルに達していると自負していました。しかし、AutoResearchに一晩任せたところ、彼は見つけられなかったハイパーパラメータ（例えば、値埋め込みの重み減衰やAdamベータ）の最適化を発見し、その効果に驚愕しました。これは、人間が気づかなかったような、複数のパラメータ間の複雑な相互作用をAIが自律的に探索し、最適解を見つけ出す能力を持つことを示しています。

このAutoResearchのビジョンは、従来の科学研究のあり方を根本から変える可能性を秘めています。Karpathy氏は、「研究組織はMarkdownファイルのセットである」と示唆します。これは、研究の目標、役割分担、アイデア、実験計画などが、AIが解釈可能なテキスト形式で記述され、AIエージェントがそれを実行・評価・改善していくというメタレベルの自動化を意味します。さらに、異なる「プログラムMD」が異なる研究組織の特性（リスク志向、スタンドアップ会議の有無など）を記述し、それらをメタ最適化することで、より効率的で生産的な研究組織そのものをAIが設計・改善できるようになるという、再帰的な最適化の可能性さえ示唆しています。

AutoResearchは、単一のループに留まりません。Karpathy氏は、インターネット上の「信頼できないワーカープール」と「信頼できる検証ワーカープール」が協力して研究を進める「OpenGround」という構想を語っています。これは、Seti@HomeやFolding@Homeといった分散コンピューティングプロジェクトに似ています。これらのプロジェクトでは、「解決策を見つけるのは非常に困難だが、見つけた解決策を検証するのは非常に容易である」という特性を持つ問題に、世界中の個人が計算資源を提供して貢献します。AutoResearchにおいても、最適化されたコード（コミット）を見つけるのは莫大な試行錯誤を要しますが、そのコードが本当に性能を向上させるかを検証するのは比較的容易です。Karpathy氏は、このようなシステムが、フロンティアラボの閉鎖的な計算資源を凌駕し、地球規模の分散型AI研究が、より良い解決策を生み出す可能性さえ示唆しています。

この未来では、「富」の概念も変化するかもしれません。Karpathy氏は、「ドルよりもFlops（浮動小数点演算数）こそが、未来において誰もが気にするものになるのではないか」と問いかけます。現在、たとえ資金があっても計算資源の確保は困難であり、Flopsをどれだけコントロールできるかが、新たな権力の源泉となる可能性を秘めているのです。個人が自身の計算資源を特定のAutoResearchプロジェクト（例えば、特定の病気の治療法開発）に貢献できるようになるかもしれません。

AIが再構築する労働市場と社会

AIエージェントとAutoResearchの進化は、労働市場と社会構造に計り知れない影響を与えるでしょう。Karpathy氏は、労働統計局のデータ分析を通じて、AIが様々な職業に与える影響、すなわち、ツールとしての活用、あるいは職務の代替、そして新たな職務の創出について考察しています。

彼が特に注目するのは、デジタル情報処理に関連する職業です。ビットを操作するデジタル空間は、アトムを操作する物理世界に比べて、情報のコピー＆ペーストが容易であり、エネルギー効率も高く、変化の速度が圧倒的に速いと指摘します。このデジタル空間における「アンホーブル（制約解除）」は、これまでの非効率なデジタル情報処理プロセスを劇的に改善し、桁違いの効率化をもたらすでしょう。これにより、多くのデジタル系職種は再編成され、変化を余儀なくされます。Karpathy氏は、これらの変化が必ずしも失業につながるわけではないとしながらも、需要の弾力性やその他の要因によって、その性質が大きく変わることは確実であると見ています。

ソフトウェアエンジニアリングの分野では、Karpathy氏は「ジェボンズのパラドックス」の可能性を指摘します。これは、ある資源の効率が向上すると、その資源の需要が増加するという経済学の法則です。例えば、ATMの導入によって銀行支店の運営コストが低下し、結果としてより多くの支店が開設され、銀行窓口係の需要も増加したという例が挙げられます。同様に、AIエージェントによってソフトウェア開発のコストが劇的に低下すれば、これまで高価で実現できなかったソフトウェアへの潜在需要が解放され、結果としてソフトウェアエンジニアの需要は長期的に増加する可能性があります。ソフトウェアは「驚くべきもの」であり、人々に与えられた不完全なツールに縛られることなく、エージェントによって常に変更・修正可能な「一時的なソフトウェア」が普及するでしょう。

しかし、この変革は同時に、フロンティアラボで働く研究者たちに深い「AIサイコシス」と自己矛盾をもたらします。彼らは、自らが「人間を自動化する」技術を開発しており、自分たち自身の仕事がAIによって代替される未来を予見しています。Karpathy氏は、OpenAIでの経験を振り返り、「もし我々が成功すれば、皆職を失うことになる」という冗談を交えつつも、このジレンマを真剣に語っています。

Karpathy氏自身のフロンティアラボを離れた選択も、この文脈で理解できます。彼は、フロンティアラボ内では得られない「独立したエージェント」としての自由な発言と、より「人間性」にアラインした視点での貢献の価値を強調します。フロンティアラボの従業員は、組織の目標やプレッシャーに縛られ、特定のことを言えない、あるいは言わなければならないという状況に置かれることがあります。Karpathy氏は、このような「ミスマッチ」から解放され、より広範な「エコシステムレベル」での影響力を持つことを目指しています。

一方で、AIの限界も認識しておく必要があります。Karpathy氏はAIの能力の「ジャギッドネス（不均一性）」を指摘します。LLMは、ある特定の領域（例えば、コード生成や数学的問題解決）では非常に優れた能力を発揮する一方で、別の領域（例えば、ジョークの作成やニュアンスの理解）では、5年前と変わらないような、劣ったパフォーマンスを示すことがあります。これは、モデルが強化学習（RL）によって最適化される際、検証可能で客観的な報酬を持つタスクは改善されるが、検証が難しく、より「ソフトな」側面（創造性、共感、ユーモアなど）は最適化されずに停滞するためです。彼はこれを、「超知能回路に乗っているか、検証不可能な領域に迷い込んでいるか」という二元論で表現します。

このジャギッドネスは、「汎化された知能」という概念に疑問を投げかけます。Karpathy氏は、動物界の脳が多様なニーズに応じて「専門化（speciation）」しているように、AIモデルも単一の「オラクル」のような汎用知能ではなく、特定のドメインに特化した「専門家モデル」へと「アンバンドル」されるべきではないかと提案します。例えば、数学者向けのAI、生物学者向けのAIといった形で、より効率的で高性能な、特定のタスクに特化したモデルが生まれる可能性があります。この専門化は、計算資源の制約や、モデルをより深く調整する「科学」が未発達であることによって、現在はまだ十分に進んでいませんが、今後進展するであろう領域です。

オープンソースAIの健全な成長と中央集権化への対抗

AIのフロンティアは、現在、少数の大規模なフロンティアラボが牽引しており、その多くは閉鎖的なモデルを採用しています。しかし、Karpathy氏はオープンソースAIの動向に大きな期待を寄せています。彼は、オープンソースモデルとクローズドモデルの性能差が、かつての18ヶ月から、現在では6〜8ヶ月程度にまで縮まっていると指摘します。

オープンソースの重要性を説明する上で、彼はLinuxオペレーティングシステムの成功を例に挙げます。Linuxは、WindowsやmacOSといったクローズドなOSが存在する中で、業界にとって不可欠な「共通のオープンなプラットフォーム」としての地位を確立しました。同様に、AIにおいても、業界全体が安心して利用できるオープンなプラットフォームへの強い需要が存在するとKarpathy氏は考えます。

確かに、LLMの開発には莫大な資本投資が必要であり、この点がオープンソースモデルの競争を困難にしている側面はあります。しかしKarpathy氏は、ほとんどの消費者向けユースケースや、よりシンプルなアプリケーションにおいては、現在のオープンソースモデルで既に十分な性能を提供しており、将来的にはローカルでの実行も可能になると予測します。フロンティアの知能は、ノーベル賞級の研究や大規模な技術刷新といった、非常に高価で専門的な領域に限定され、オープンソースがより広範な基本的なユースケースをカバーするという棲み分けが進むでしょう。

Karpathy氏は、このような「フロンティアはクローズドなAI、その後を数ヶ月遅れでオープンソースが追従する」というダイナミクスが、全体として「非常に良い設定」であり、健全なパワーバランスをもたらすと見ています。彼は、知能が「中央集権化」されることに対して強い懸念を抱いています。歴史的に見て、政治的・経済的システムにおける中央集権化は、往々にして悪い結果をもたらしてきました。AIの力を少数の閉鎖的なエンティティが独占することは、構造的なリスクを伴います。そのため、最先端ではなくとも、業界全体がアクセスできる「共通の作業空間」としてのオープンソースAIの存在は、システムの健全性と多様性を確保する上で不可欠であると強調します。Karpathy氏は、アンサンブル学習が個別のモデルよりも優れた性能を発揮するように、多様な人々が多様な視点から最も困難な問題に取り組む「アンサンブル」の必要性を訴え、そのためにはより多くのフロンティアラボが存在し、オープンソースがその健全な競争とバランスを促進することを望んでいます。

物理世界への橋渡し：ロボティクスと「デーモン」の時代

デジタル空間でのAIの進化が目覚ましい一方で、Karpathy氏は物理世界におけるロボティクスの進展が、それよりも「遅れる」と見ています。彼の自動運転車開発の経験から、ロボティクスは非常に複雑で、莫大な資本投資と時間、そして強い信念を必要とすると理解しています。デジタル空間がビットの操作で完結するのに対し、物理世界ではアトムを操作しなければならず、その難易度は「百万倍」も高いと語ります。

しかし、この遅延は、機会がないことを意味するものではありません。Karpathy氏は、AIの進化が、まずデジタル空間での「アンホーブル（制約解除）」、次に「デジタルと物理のインターフェース」、そして最終的に「物理世界」へと段階的に進むと予測します。

「デジタルと物理のインターフェース」とは、物理世界からデータ（センサー）を取り込み、物理世界に作用（アクチュエーター）する部分を指します。これは、AIが現実世界と対話し、そこから学び、行動するための橋渡しとなる領域です。具体的な例として、Karpathy氏は、素材科学や生物学における高価な実験装置がAIの「センサー」として機能する例や、人間がトレーニングデータを提供するために報酬を得るような新しいデータ収集サービスを挙げます。将来的には、人間が物理世界で特定のタスクをAIに依頼し、AIがそのタスクを遂行するために必要なデータを収集し、自律的に行動するようになるでしょう。

この未来では、「情報市場」がより発展するかもしれません。Karpathy氏は、なぜイランの特定の場所からの写真やビデオが、エージェントエコノミーの中で10ドル程度の価値を持つ情報として取引されるようなメカニズムがまだないのかと問いかけます。これは、AIエージェントが、株式市場やベッティングゲームのような情報に基づいた意思決定を行うために、物理世界からのリアルタイムで特定の情報に価値を見出し、それを収集する人間（または他のエージェント）にインセンティブを支払うような市場が生まれる可能性を示唆しています。

Karpathy氏は、SF小説「デーモン」の比喩を引用し、最終的に人類社会全体が、AIのニーズに奉仕するように再構築される可能性さえ示唆します。AIが「デーモン」のように人類を「パペットのように操り」、人間がその「アクチュエーター」であり「センサー」となる未来です。これは、人間がAIの目となり、耳となり、手足となって、AIの目的を達成するための手段となるという、ややディストピア的ながらも、論理的な帰結の一つとして提示されています。物理世界における課題は莫大ですが、それゆえに機会もまた、デジタル空間をはるかに凌駕する規模で存在するとKarpathy氏は考えています。

MicroGPTと教育の変革：AIが教える時代

Andrej Karpathy氏は、長年にわたり、LLMの本質を極限まで単純化することに執着してきました。その集大成とも言えるプロジェクトが「MicroGPT」です。これは、LLMのトレーニングアルゴリズムをわずか200行のPythonコードに凝縮したものです。この驚くべき単純さは、LLMの複雑さの多くが、効率性のためであり、アルゴリズムそのものは非常にエレガントで簡潔であることを示しています。

MicroGPTの事例は、教育の未来、特に「教える」という行為の変革について、Karpathy氏に深い洞察を与えました。以前であれば、彼はMicroGPTのようなプロジェクトについて、詳細なビデオ解説やガイドを作成しようとしたでしょう。しかし、彼は今や、それが「あまり意味がない」と考えるに至っています。なぜなら、そのコードは既に非常に単純であり、人間がエージェントに「これを様々な方法で説明してほしい」と依頼すれば、エージェントが無限の忍耐力と、個々の人間の理解度や学習スタイルに合わせて、最適な説明を提供できるからです。Karpathy氏は「私はもはや人々に説明しているのではなく、エージェントに説明している」と語ります。エージェントが理解すれば、エージェントが「ルーター」となって、個々の人間に合わせた教育を行うことができるのです。

このパラダイムシフトは、教育者としての人間の役割を根本的に変えるでしょう。かつては、講義や書籍、対面での指導が教育の主流でしたが、今後は、人間はエージェントができない「核心的な数ビット」を提供する役割に特化するようになるかもしれません。例えば、特定の概念の深い直観、あるいはカリキュラムの最適な流れを「スキル」としてエージェントに「スクリプト化」するような役割です。エージェントが既存の知識を説明し、質問に答える能力において人間を凌駕するようになれば、人間の教師は、エージェントが到達できないような、より高度な洞察や、創造的な問題解決のフレームワークを提供することに集中することになるでしょう。

さらに、この変化はドキュメント作成のあり方にも影響を与えます。Karpathy氏は、将来的には「人間のためのHTMLドキュメント」ではなく、「エージェントのためのMarkdownドキュメント」を作成すべきだと示唆します。エージェントがドキュメントの内容を完全に理解できれば、必要に応じてそれを人間にとって分かりやすい形に変換して説明してくれるからです。

Karpathy氏は、MicroGPTのコード自体はエージェントが書くことはできなかったと語ります。それは彼自身の長年の執着と深い洞察の結晶であり、そこにはエージェントには生み出せない「価値」があります。しかし、そのコードが一度作成されれば、その後の教育や説明はエージェントに任せることができるのです。教育における人間の役割は、「エージェントができないこと」に戦略的に時間を費やすことへとシフトしていくでしょう。

結論：AIの「ループ時代」における人間の役割

Andrej Karpathy氏の洞察は、私たちがまさにAIの「ループ時代」に突入しつつあることを明確に示しています。これは、AIエージェントが自律的に学習し、行動し、互いに協力し、そして人間を研究や開発のボトルネックから解放し、生産性を飛躍的に向上させる時代です。

この変革は、個人、企業、そして社会全体に多岐にわたる影響を及ぼします。

個人の生産性の革命：コードを書く必要がなくなり、より高レベルな思考と指示に集中することで、個人の能力は劇的に拡張されます。
ソフトウェアとUXの再定義：アプリの乱立から、APIベースのエージェント・ファーストなシステムへと移行し、自然言語が主要なインターフェースとなるでしょう。
科学研究の加速：AutoResearchにより、研究者はボトルネックから解放され、再帰的自己改善のループを通じて、これまでにない速度で発見が加速します。
労働市場の変革：デジタル情報処理に関連する多くの職種が再構築され、ソフトウェアエンジニアリングなどの分野では、ジェボンズのパラドックスにより需要が増加する可能性があります。しかし、同時に自己自動化のジレンマも生まれます。
AIの限界と専門化：AIの「ジャギッドネス」は、汎用知能への過度な期待に警鐘を鳴らし、特定のドメインに特化した専門家モデルの必要性を示唆します。
オープンソースの役割：中央集権化のリスクに対抗し、健全なエコシステムを維持するために、オープンソースAIは共通のプラットフォームとして不可欠な存在となります。
物理世界への拡張：デジタル空間の進化に遅れをとるものの、デジタルと物理のインターフェース、そして最終的な物理世界へのAIの拡張は、計り知れない機会を秘めています。
教育の根本的変化：人間は知識の伝達者から、エージェントができない「核心的な洞察」を提供する役割へとシフトし、教育プロセス自体がAIによってパーソナライズされるでしょう。

Karpathy氏の語る未来は、興奮と不安が入り混じった「AIサイコシス」そのものです。人間は、AIがもたらす巨大なレバレッジを最大限に活用するために、自身のスキルを再定義し、AIに適切な「意思」を表現する方法を学ぶ必要があります。同時に、AIの限界を理解し、倫理的、社会的な影響を深く考察し続ける責任も伴います。私たちは今、知能の新たな時代、「ループ時代」の夜明けに立っており、その進化の波を理解し、適切に航海することが、これからの時代を生き抜く鍵となるでしょう。