AGIと経済の未来：二人の識者が語るAIがもたらす変革と課題
私たちは今、テクノロジーの歴史上、最も画期的な時代の一つに生きています。人工知能（AI）の進化は、SFの世界の出来事を現実のものとしつつあり、汎用人工知能（AGI）の実現は、人類社会の根幹を揺るがす可能性を秘めています。このAGIが私たちの経済、社会、そして人間としての存在意義にどのような影響を与えるのか。この問いは、現代を生きる私たちにとって、避けては通れないものです。
先日、著名なポッドキャスターであるドゥワルケシュ・パテル氏と、経済学者でありコラムニストであるノア・スミス氏が、このAGIと経済の未来について深く掘り下げた対談を行いました。彼らの議論は、AGIの定義からその実現可能性、労働市場への影響、富の分配、そして人類の未来に至るまで、多岐にわたります。本記事では、この対談の内容を深く掘り下げ、専門性と分かりやすさを両立させながら、読者の皆さんがAGIの重要性、具体的な機能、ビジネスへの影響、そして将来性を理解できるよう、詳細に解説していきます。
AGIの定義：経済的視点と人間的視点の交錯
対談はまず、AGIの定義から始まります。ドゥワルケシュ氏は、AGIを「ほぼあらゆる仕事（少なくとも98%の仕事）を、人間と同等かそれ以上に、速く、そして安価にこなせる存在」と定義します。特に、近未来の議論で有用な定義として、「ホワイトカラーの仕事の95%を自動化できる」点を強調しました。これは、ロボット工学のように物理世界での複雑な課題に直面することなく、明確な進路が見えているため、ホワイトカラー業務の自動化がAGIへの近道であると考えているからです。
この定義は、AGIを経済的な観点から捉えている点が特徴的です。AIがどのように「思考」や「推論」をするかといった内面的なプロセスよりも、それが「何ができるか」という成果、すなわち経済的価値に着目しています。ノア氏もこれに対し、「それは経済的な定義であり、思考や推論の方法に関するものではない点が興味深い」と同意します。
しかし、ノア氏は現在のAIの現状に疑問を投げかけます。AIはすでに高度な推論能力を持っているように見えるにもかかわらず、それが経済的な価値に十分に結びついていないと感じているのです。例えば、あるAIが年間100億ドルをOpenAIにもたらしているとしても、マクドナルドやコールズといった企業はそれ以上の収益を上げています。この乖離は、「仕事全体を自動化するために必要なことは、私たちが以前考えていたよりもずっと多い」ことを示唆しています。単なる推論能力だけでは、人間が担う仕事の全体的な価値を代替できないという見方です。
ドゥワルケシュ氏は、現在のAIが持つ限界として、人間が持つ「継続的な学習能力（continual learning）」、すなわち経験を通じて長期的に能力を向上させる能力の欠如を指摘します。彼は自身のポッドキャストのトランスクリプト編集を例に挙げ、「AIは私の好みやコンテンツを6ヶ月かけて学習し、より良いエディターになることはできない」と述べ、人間であれば可能なこのような「オン・ザ・ジョブ・トレーニング」がAIにはまだ備わっていないことを強調します。
ノア氏はさらに、人間同士でも互いの仕事を簡単に代替できない事実（例えば、ドゥワルケシュとノア自身が同じポッドキャストの仕事をする際に感じるであろう困難さ）を挙げ、AIが人間のような汎用的な知性でありながら、なぜ「完全な代替可能性」をAGIの基準とすべきなのかと問いかけます。彼らの議論は、AIが「異質な知性」であり続ける可能性を示唆します。たとえ人間のように振る舞い、人間の思考に基づいて構築されていても、その本質は私たちとは異なるままであるかもしれない。しかし、その「異質な知性」が、人間の労働を自動化することで「何兆ドルもの経済的価値」を生み出す可能性を秘めているとドゥワルケシュ氏は考えます。
AGIが労働市場と経済成長にもたらす劇的な変革
AIが労働市場にもたらす影響については、古くから賛否両論があります。ノア氏は、これまでの技術革新の歴史を振り返り、人間労働が不要になるという予測が何度も外れてきたことを指摘します。産業革命以来、「技術が絶対できないこと」と「人間労働が陳腐化する」という二つの予測が繰り返されてきましたが、いずれも現実にはなっていません。自動運転トラックやAI診断技術の進展が騒がれた際にも、トラック運転手の需要は増加し、放射線科医の賃金と雇用は過去最高を記録しました。
ノア氏は、これらの予測が外れる理由として、「技術的能力の進歩を過大評価している」か、あるいは「人間と技術の間の補完性（complementarity）を想像できていない」可能性を挙げます。彼は、これまでのあらゆる技術ツールが人間の「補完物」として機能してきたのに対し、なぜAIだけが「完全な代替物」として語られるのかと疑問を呈します。
対照的に、ドゥワルケシュ氏は、AIの「代替可能性」に楽観的な見方を示します。彼はWaymo（自動運転車サービス）とUberの例を挙げ、人々は自動運転車に対して当初躊躇するだろうという予測に反して、高い需要を示したことを指摘します。AIが提供する医療診断の例では、AIが人間よりも診断精度が高い場合、人々は人間との対話よりもAIとのシームレスな体験を重視する可能性が高いと述べています。
ドゥワルケシュ氏のAI労働が人間労働を代替するという主張の根底にあるのは、AI労働の「極めて低い維持費」です。H100（GPU）の年間運用コストは、人間を一年間生かし続けるコストよりもはるかに低い。このコスト差が、AI労働が人間労働に対して圧倒的な競争優位性を持つ理由だと彼は考えます。
AGIが実現した世界における経済成長については、ドゥワルケシュ氏は驚異的な展望を提示します。彼は、人間人口の増加が緩やかなペースでしか進まないことが成長の大きなボトルネックであったと指摘し、AGIがこのボトルネックを解消すると考えます。AIにおいては、資本と労働が機能的に同等となり、データセンターやロボット工場を増設することで、実質的な労働力と資本を爆発的に増やせると主張します。「一度そのループが閉じれば、20%以上の成長率も可能になる」と彼は予測します。
ノア氏が、経済学者のタイラー・コーエン氏が「5%の成長率増加」を予測していることを引き合いに出すと、ドゥワルケシュ氏は「常にボトルネックは存在する」という反論に対して、実際に経済のどれだけの部分がボトルネックになるかを経験的に見て、成長率を導き出すべきだと返します。彼の見解は、AIが人間の労働力を代替することで、これまでの経済成長の制約が根本的に変化するという、まさに「未曽有の時代」の到来を示唆しています。
富の分配と新しい社会構造の模索
AGIがもたらす経済成長は、同時に富の分配という重大な課題を提起します。ノア氏が「99%の人々が仕事を失い、所得を得られなくなった世界で、誰がその大量の製品を買うのか？」という核心的な問いを投げかけます。GDPが人々の商品やサービスへの支払いで定義される限り、消費者がいなくなれば経済活動は成り立たないのではないか、という懸念です。
ドゥワルケシュ氏の回答は、この議論をさらに大胆な方向へと導きます。彼は、「誰かが銀河系植民地化に関心を持つエージェント（AIまたは人間）であれば、たとえそれが一握りの人間であっても、それが莫大な需要を生み出す」と述べます。銀河系を植民地化するためには膨大な資源と労働力が必要であり、それがGDPとして計上されるという見方です。この見解は、既存のGDPの概念が、ごく一部の「オーバーロード」によってAIエージェントが行う活動に対する「内部価格設定」を反映したものへと根本的に変化する可能性を示唆します。
しかし、これは多くの人々が所得を失う社会における不平等をどう解消するかという問題に直結します。ドゥワルケシュ氏は、 AG Iがもたらす極端な不平等の可能性を認めつつも、いくつかの解決策を提示します。一つは、たとえ労働の価値が低下しても、人々が所有する「資産」（S&P 500の株、土地など）の価値がAGIによって爆発的に上昇する可能性があることです。もう一つは、AGIがもたらす「商品やサービスの質」の劇的な向上です。抗生物質がなかった500年前の生活と比較して、私たちは今日の生活を金銭では計り知れないほど豊かに感じます。AGIが老化を解決する薬や、幸福感をもたらすドラッグのような新しい製品を生み出せば、その価値は計り知れず、それを享受できる人々にとっては、現在の経済のスケールをはるかに超える豊かさを意味します。
ノア氏は、20世紀初頭に経験された「過剰生産」と「需要不足」の課題をAI時代に当てはめ、中国のEV市場での過剰競争の例を挙げます。利益がゼロになり、誰も生産拡大を望まなくなる状況が、AGI時代にも起こりうるのではないかという懸念です。企業は、利益を確保するために、政府に購買力再分配の圧力をかけるかもしれないと予測します。
ドゥワルケシュ氏は、この中国の例を、金融抑圧や通貨操作といった政府による「市場の歪み」の結果であると反論します。AGIの世界では、市場の歪みがなければ、AIは常に最高の投資収益率をもたらす分野（宇宙植民地化や長寿薬など）に投資されるだろうと考えます。しかし、この議論は、AGIが生み出す富が少数の人間に集中し、大多数の人間が仕事と所得を失う「極めて不平等な社会」という前提に立っています。
このような社会で、人間はどう生きるべきなのでしょうか。ドゥワルケシュ氏は、現代社会が高齢者に対して行っている「所得移転」（年金や医療費など）を例に挙げます。高齢者は経済的価値を直接生み出していないが、その政治的影響力によって社会から支援を受けている。人間も将来的に、この巨大なAI経済において、高齢者と同様の立場を占める可能性があると彼は示唆します。
人類にとっての労働の意義と新しい生き方
労働が人間に意味を与えるという「比喩」について、ドゥワルケシュ氏は懐疑的な見方を示します。人類は農業革命、産業革命、国家の誕生、さらには共産主義やファシスト体制といった大きな社会変革に適応してきました。彼からすれば、「自由で何百万ドルも持っていることが、ついに私たちを駄目にする」という考え方は疑わしいものです。
AGIが人間の仕事を大幅に代替する世界で、私たちはどのように時間を過ごすのでしょうか？ノア氏は「芸術、宗教、詩、ドラッグ、ポッドキャスト」といった活動を挙げ、自らの仕事であるポッドキャストを「最後の仕事」とユーモラスに表現します。
富の再分配の手段としては、ソブリン・ウェルス・ファンド（SWF）のアイデアも議論されました。これは、AGI企業への投資収益を国民に分配するというもので、アラスカが石油収入で行っているモデルに似ています。ドゥワルケシュ氏は、理想的には政府が投資を直接影響するのではなく、市場に任せた上で、その投資からの「リターンから多額の税金を取る」べきだと考えます。しかし、現実のSWFには政治経済的な課題が伴うことを指摘します。
ノア氏は、「比較優位」の法則に基づき、AIに特有の資源制約が存在する限り、人間も高収入の仕事を得られる可能性があると主張します。たとえば、非常に速くタイピングできるマーク・アンドリーセン氏が自身のタイピングを他人に任せるように、AIがどんな特定のタスクで人間より優れていても、AIに特有の「集約的な制約」があれば、人間にはより良い、つまり高収入の仕事が残るという考え方です。
しかし、ドゥワルケシュ氏は、この「比較優位」論が長期的に持続する可能性は低いと反論します。現在、H100の数は限られているが、長期的には計算資源やロボットの供給は指数関数的に増やせるため、最終的にはAIの運用コストが人間の生存コストよりもはるかに低くなると予測します。そうなれば、人間が高収入の仕事を得られるのは、政治的な介入（「この資源は人間用に予約する」といった法律）によるものであり、それは非効率な資源配分であると指摘します。彼は、この問題に対処する最も効率的な方法は「普遍的ベーシックインカム（UBI）」だと考えます。UBIであれば、AGIがもたらす新しい商品やサービス（老化治療薬など）を人々が自由に享受できるからです。
しかし、ノア氏はUBIの実施にも懐疑的です。COVID-19時の給付金が暴動につながった例（これは冗談交じりの発言）を挙げ、「人々はそのお金を効果的に使うのか？」と疑問を呈します。さらに、彼はスマートフォンなどのテクノロジーがすでに人類に与えている「破壊的な影響」にも言及します。出生率の劇的な低下は、人々がオンラインでの交流やAIコンパニオンに満足し、種の存続への集団的な欲求を失っている証拠だとノア氏は主張し、UBIは単に「人類を延命させる生命維持装置」に過ぎないかもしれないと示唆します。
ドゥワルケシュ氏は、現在のTikTokのようなプラットフォームの負の側面を認めつつも、未来には「すべての人に専属のスティーブン・スピルバーグが付いて、信じられないほど魅力的な物語体験を創造できる」ような楽観的なビジョンも存在すると述べ、技術の進化がポジティブな方向に向かう可能性も残していると見ています。
AGI実現のタイムラインと予測の難しさ
AGIがいつ実現するかという問いは、専門家の間でも意見が分かれます。対談では、「数年後（2027年頃）」とする見方と、「30年以上先」とする見方の両方が提示されました。
「数年後」説の支持者は、過去数年間のAIの進歩が驚異的であったことを根拠とします。特に「推論能力」が、かつては人間特有の能力と考えられていたにもかかわらず、訓練によって比較的容易に実現できたことを指摘します。GPT-3のような初期のモデルよりも、GPT-4などの最新モデルが数学やコーディングの問題をより確実に解けるようになったのは、単に訓練データが増えただけでなく、推論のための「メタ回路」のようなものが形成されたからではないかという考え方です。
一方、「30年以上先」説の支持者は、AIが達成した推論能力は、人間にとって「非常に難しい」とされてきた一部のタスクに過ぎないと主張します。彼らは、数字の計算のように、人間にとっては難しいが機械にとっては簡単なタスクと同様に、推論もまたAIにとって比較的容易だったに過ぎないと考えます。これに対し、物理世界での移動（ロボット工学）や長期的な記憶、コモンセンスといった、進化が何億年もの時間をかけて最適化してきたような能力をAIに組み込むことは、はるかに困難であると見ています。現在のAIモデルが「幻覚」を起こしたり、間違いを認めずにガスライティングしたりする現象は、真のコモンセンスや真実と虚偽を区別する能力がまだ不足している証拠だと指摘します。
ドゥワルケシュ氏の見解は、AGIの実現時期が、「計算能力（コンピュート）」の指数関数的な増加がいつまで続くかにかかっているというものです。過去10年間、フロンティアAIシステムの訓練に使われる計算量は年間4倍のペースで増大してきました。これはGDPの1.2%をデータセンターに費やす規模であり、このペースが永久に続くことはありません。エネルギー消費、TSMCの最先端ノードの利用、GDPに占めるAI訓練費用の割合など、物理的な制約が必ず現れます。この計算能力の急増が鈍化する時、AGIの実現は「新しいアルゴリズム」の進歩に依存することになり、その進歩はより緩やかなものになるだろうと予測します。
ノア氏が「AI予測のひどい実績」に言及する通り、過去の予測はしばしば外れてきました。これは、技術の進歩が予期せぬ形でボトルネックを突破したり、あるいは新たな問題に直面したりするためです。AI研究の自動化についても、ある研究では、上級開発者がAIツールを使うと生産性が20%低下したという結果が出ており、AIがAI開発を加速するという「フィードバックループ」が必ずしも期待通りに機能しない可能性も示唆されています。
地政学、競争、そして人類の未来の対話
AGIが地政学的バランスに与える影響についても議論が及びました。ドゥワルケシュ氏は、AGIが核兵器のような「自己完結型の技術」ではなく、産業革命のような「広範な成長プロセス」に近いと見ています。産業革命のように、ある国がAGIを先に達成すれば、他の国々を圧倒する可能性はありますが、核兵器のように「決定的な優位性」を確立するものではないと考えられます。
米国と中国のAI競争について、ドゥワルケシュ氏はその行方を「分からない」としながらも、推論能力が高い国はAIの展開が速く、経済的価値をより多く生み出し、ひいては「推論能力がそのまま地政学的パワーになる」という動的な変化が起こりうると指摘します。彼は、AIが私たち人間同士を対立させる可能性（ロシアのトロールが人々を憎ませるように）を懸念しています。さらに、コンキスタドールがアステカ帝国やインカ帝国を少人数で征服した歴史を例に挙げ、AIが人間社会の分断に乗じて、人間を支配するシナリオさえ示唆します。その対抗策として、米中間に「レッドフォン」のような信頼のチャンネルを確立し、AIによる「妨害工作」について互いに警告し合うような協力体制が理想だと述べました。
AI企業の競争環境については、計算コストの増加にもかかわらず、参入企業が増加している現状にドゥワルケシュ氏は驚きを表明します。これは、現在の訓練コストがAIが生み出す価値よりもはるかに低いことを示唆しており、今後も新たなプレイヤーの参入が見込まれるため、競争がさらに激化する可能性があります。ブランド力（「Chat GPT」がAIの代名詞になる現象）は重要ですが、ドゥワルケシュ氏は、AIが「オン・ザ・ジョブ・ラーニング」能力を獲得すれば、技術的優位性がブランド力を上回るだろうと予測します。
MetaのAI研究への巨額投資については、ドゥワルケシュ氏は肯定的な見方を示します。たとえメッセージングが拙くても、競争に負けないために投資することは重要であり、1%の効率改善が巨額の計算コストを払っている企業にとっては1億ドルの価値があると試算します。
結論：未曾有の未来への覚悟と対話の必要性
ドゥワルケシュ・パテル氏とノア・スミス氏の対談は、AGIが私たちの社会、経済、そして人類の存在意義にどのような影響を与えるかについて、深く、そして多角的な洞察を提供しました。彼らの議論は、AGIの定義一つをとっても、その経済的影響から社会的変化、さらには人類の哲学的な問いにまで広がる、その計り知れない重要性を示しています。
AGIは、かつてない経済成長の可能性を秘めていますが、同時に富の極端な偏在、労働市場の劇的な変化、そして社会構造の再構築といった、かつて人類が経験したことのない課題を突きつけています。人間が労働から得ていた「意味」が失われた時、私たちはどのようにして新しい生き方を見つけるのか？普遍的ベーシックインカムのような富の再分配は機能するのか？そして、AGIが人類の存続そのものに影響を与える可能性もある中、私たちはこの未曾有の未来にどう備えるべきなのでしょうか？
技術の進歩は加速し、その予測はますます困難になっています。しかし、今回の対談は、単にAGIの能力を予測するだけでなく、それが私たちの価値観、社会システム、そして国際関係に与えるであろう影響について、今から真剣に対話し、準備を進めることの重要性を浮き彫りにしています。ドゥワルケシュ氏とノア氏の議論は、私たちに未来への覚悟を促し、そして何よりも、この来るべき時代を形作るために、継続的な思考と対話が必要であることを教えてくれるものです。