Anthropic Fable 5の波紋：AIモデル開発を巡る倫理、規制、そしてインフラ競争の激化

Anthropicが最新AIモデル「Fable 5」を発表したことは、AI技術のフロンティアをさらに押し広げる画期的な出来事として、当初は大きな期待を集めました。Mythosクラスモデルの第一弾として、「我々がこれまでに使った中で最も優れたAI」と称されたFable 5は、特にエージェントコーディングや一度の指示で複数のタスクをこなす「タスクイマジネーション」といった分野で、これまでのベンチマークを大幅に上回る性能を示しました。しかし、この華々しい発表の裏で、Anthropicが導入しようとした特定のポリシーが研究コミュニティからの激しい反発を招き、発表後わずか24時間で撤回されるという異例の事態に発展しました。

この「Fable 5の波紋」は、単なる技術的な論争に留まらず、AI開発の倫理、AIが生み出す富の分配、そして巨大なデータセンターを巡るインフラ競争といった、AI時代が直面する複雑な課題を浮き彫りにしています。本記事では、この一連の出来事を深く掘り下げ、AIが社会に与える多角的な影響と、未来に向けた議論の重要性を考察します。

セクション1: Anthropic Fable 5の「サイレントナーフ」騒動

Anthropicが発表したFable 5は、開発者からのプロンプトに対する応答を新しいモデルに適応させ、論争の的となるガードレール、使用ベースの現実、そして「タスクイマジネーション」と呼ばれる新しいスキルを備えていると説明されました。同社は、Fable 5がGPT-5以降で初の完全なベースナンバージャンプを達成し、多くのベンチマークでOpus 4.8を上回る性能を示したと主張しています。特に、NLWというベンチマークでは80.3%のスコアを叩き出し、Terminal Benchでは88%を記録するなど、エージェントコーディングにおいて卓越した能力を持つとされました。

しかし、Fable 5のリリースには、研究者コミュニティからの強い反発を招くあるポリシー変更が含まれていました。それは、Claudeの能力を秘匿裏に制限し、競合AIモデルの開発を「妨害」する可能性のある方針です。このポリシーは、特に「フロンティアLLM開発」を目的としたリクエストに対して、Claudeの有効性を制限する新たな介入が実施されることを示唆していました。これには、事前学習パイプラインの構築、分散学習インフラ、MLアクセラレーター設計などが含まれます。つまり、Anthropicは、自分たちのClaudeモデルを使用して競合モデルを開発しようとする行為を、彼らの「利用規約」違反とみなす一方で、この制限を安全策を通じて行うことで、悪質なアクターによる開発加速を防ぐと主張しました。

このポリシーは、研究者たちから「サイレントナーフ（静かな性能低下）」と非難されました。SemiAnalysisのAakash Gupta氏は、Anthropicが意図的にClaudeを「より愚かに」していると指摘し、その事実にユーザーが気づく方法がないと述べました。もしフロンティアLLM開発を目的としたリクエストの場合、Fable 5はプロンプトの修正、ステアリングベクトル、またはパラメーター効率の良いファインチューニングといった方法で出力の質を低下させる、とされていました。ユーザーは拒否されることもなく、より弱いモデルに切り替えられることもないため、何が起こっているのかを知る術がありません。これにより、ベンチマークがテスト対象のモデルではなく、実際に出力されているモデルを示すことができなくなり、AI研究の基盤が揺らぎかねないという深刻な懸念が浮上しました。

この不透明な政策は、すぐにAnthropicへの信頼を大きく損ねました。マイクロソフトもこのデータ保持ポリシーに懸念を示し、Github CopilotでFable 5の使用を制限する動きを見せました。The Verge誌は、マイクロソフトが従業員に対してデータ保持に関する懸念からFable 5の使用を制限し始めたと報じています。これは、単なる倫理的な問題に留まらず、企業のビジネス上の意思決定にも直接的な影響を与えることを示しています。

Wired誌が報じたところによると、Anthropicは研究者からの猛烈な反発を受け、わずか24時間も経たずにこのポリシーを撤回し、「間違ったトレードオフを行ったことをお詫びする」と表明しました。しかし、この騒動は、AIモデルの開発において、開発者側が持つ「モデルの動作を一方的に決定する権力」と、それが研究コミュニティやユーザーの信頼に与える影響について、大きな問いを残しました。一部の研究者からは、Anthropicが「AIの神皇帝」として振る舞い、誰がAIにアクセスできるか、どのような目的で使えるかを恣意的に決定しようとしているという強い不快感が示されました。

セクション2: AIが生み出す富の分配と経済システムの再構築

AI技術の急速な進展は、莫大な経済的価値を生み出す一方で、その富がどのように分配されるべきかという社会経済的な議論を再燃させています。ドナルド・トランプ前大統領は、AI企業が生み出す富の一部を国民に分配する「ソブリン・ウェルス・ファンド」の設立を再び提唱しました。これは、ワシントンやシリコンバレーでますます議論の的となっているテーマです。

トランプ氏は、AI企業の上位12～15人の幹部と会談し、AIの富を国民に還元することについて議論する予定であると述べました。「もしそうすれば、国民は非常に豊かになるだろう。国民は我々が話している種類の富を得るだろう」と彼は語り、この政策が「非常に人気が出るだろう」と予測しました。

ハーバード・ビジネス・スクールの教授であるデイビッド・ヨッフェ氏は、このアイデアについてニューヨーク・タイムズ紙に寄稿し、「政府が新技術のパートナーとなるべきだという考えは新しいものではないが、政府とアメリカ市民が公平な権利を持つべきだという考えは、世界の自由市場アプローチからの根本的な逸脱である」と指摘しました。

OpenAIのCEOであるサム・アルトマン氏も、2021年のブログ投稿で国民への株式分配のアイデアを公に提示していました。しかし、彼自身がバーニー・サンダース上院議員との会談でOpenAIの株式50%を公開する提案に反対したと報じられています。このことは、富の分配の理想と、企業経営の現実との間の複雑な対立を示唆しています。

シリコンバレーのアルティメーター・キャピタルの創設者であるブラッド・ガーツナー氏は、AI企業が「反革命税」のような形で富の一部を還元する必要があるかもしれないと警告しています。彼はカンファレンスパネルで、「数兆ドルもの私的価値が創造される一方で、80%のアメリカ人がそれが詐欺だと思い、取り残されている状況は不安定化を招く」と述べました。これは、AIによる経済的な恩恵が一部の人々に集中し、広範な社会的不平等を悪化させる可能性を示唆しています。

ニューヨーク・タイムズ紙は、トランプ氏の発言が「ワシントンとシリコンバレーでホットな話題の温度を上げた」と報じており、テック業界はAIに対する高まる反発に直面しています。AI企業による大規模なレイオフが発生した場合に備え、OpenAIとAnthropicが、富の一部を再分配する公的基金の設立を提案していることも明らかになりました。しかし、これらの議論はまだ初期段階であり、実際に株式取得に向けた具体的な計画や手段は不明であるとされています。

AIの進展は、私たちの経済システムそのものに再考を迫っています。富の創造と分配、雇用への影響、そして社会の安定性といった喫緊の課題に対し、政府、企業、そして市民社会がどのように協力し、公平で持続可能な解決策を見出すことができるのかが問われています。

セクション3: AIインフラの巨大化と環境・社会への影響

AI技術の爆発的な成長は、それを支えるデータセンターの需要をかつてないレベルにまで押し上げています。これは、AI開発競争の目に見える側面であり、同時に環境的・社会的な新たな課題を生み出しています。

「The Information」の独占報道によると、OpenAIはNvidiaの支援を受けて、オハイオ州に10ギガワットという途方もない規模のデータセンターキャンパスのリース契約を締結する交渉を進めています。このデータセンターは、使用済みウラン濃縮施設の跡地に建設される予定で、その建設費用はチップ、労働力、電力の現在の価格に基づくと、5000億ドルにも上ると見積もられています。この規模は、フーバーダムの総出力の約4.5倍、米国で稼働している最大の原子力発電所の2倍以上の容量に相当します。Nvidiaは財務支援者として関与し、OpenAIは施設とチップの両方をリースする形式を取ると報じられています。800メガワットが2028年に稼働開始予定で、リース期間は20年にも及ぶ可能性があります。

しかし、このような大規模なデータセンターの建設は、地方自治体レベルで深刻な反発と懸念を引き起こしています。

オハイオ州での税制優遇と市民の不満:
- クリーブランドドットコムの報道によれば、オハイオ州最大のデータセンターは数十年にわたる税制優遇措置を確保しており、Amazon、Meta、Googleといった大手企業がデータセンター運営に対する100%の売上税免除を受けています。
- この優遇措置は40年間続くもので、州はこれにより18億ドルもの税収を失うと見積もられています。税制優遇が無制限であるため、最終的な損失額はさらに膨らむ可能性もあります。
- 民主党のトリスタン・レーダー議員は、「これはひどく設計されている。テック企業は肥沃な土地を見つけ、それ以来私たちを利用してきた」と述べ、この状況に強い不満を表明しています。
ニューヨーク州とシアトル市での一時停止措置:
- ニューヨーク・タイムズ紙は「データセンターを停止する動き」と題した記事で、データセンター業界に対する地方レベルでの反発が高まっていることを報じました。
- ニューヨーク州は、20メガワット以上の新規データセンター建設を1年間一時的に禁止する法案を可決し、データセンター建設を一時停止する初の州となる見込みです。州上院議員クリステン・ゴンザレス氏は、ニューヨークの老朽化した送電網は建設のペースに追いつけず、10ギガワット近くの新規施設が現在承認を求めていると主張しました。
- シアトル市も同様に、新規AIデータセンター建設に対して1年間の禁止措置を全会一致で承認しました。シアトル・タイムズ紙の報道によると、5つの計画中のデータセンターが、市内の電力の最大3分の1を消費する可能性があると指摘されており、これが住民の強い反対を招きました。興味深いことに、この反対運動はAmazonの従業員を含むテックワーカー自身によって主導されています。彼らは「AIは人々の仕事を奪うことと同義である」と主張し、データセンター建設への反発を強めています。
テキサス州での規制強化提案:
- ブルームバーグの報道によると、テキサス州のグレッグ・アボット知事は、データセンターによる電力コスト上昇から消費者を保護するための規制強化を求めました。
- テキサス・トリビューン紙は、アボット知事がデータセンター業界への広範な規制改革を提案していると報じています。これには、閉ループ冷却システムの義務化、水と電気の使用量に関する年間報告、そして電力網への新規電力生成の追加義務付けなどが含まれます。さらに、売上税免除の廃止も検討されており、長年にわたりビジネスに有利な環境を自負してきたテキサス州にとって、これは大きな方針転換を意味します。

これらの動きは、AIのインフラが持つ巨大な電力消費量と、それが環境、電力料金、税収といった地域社会の根幹に与える影響について、各地域が真剣に懸念を抱いていることを示しています。AIの発展は不可避かもしれませんが、その基盤となるインフラの設計と管理は、より持続可能で公平な未来のために、社会的な監視と規制の対象となるべきでしょう。

一方で、データセンターへの投資は止まることを知りません。ウォール・ストリート・ジャーナル紙は、Broadcom、Apollo、Blackstoneが共同で350億ドル規模のAIインフラプラットフォームを立ち上げたと報じました。このファンドはBroadcomのカスタムAIチップとネットワーキングインフラを使用し、Fluidstackが運営するサイトに1ギガワットの容量を展開するための初期費用を調達します。最初のプロジェクトはAnthropic向けであり、2028年までに20ギガワットの容量をAIラボに提供することを目指しています。これは、AI分野における計算能力の需要が非常に高く、それを満たすための大規模な資本が継続的に投入されている現状を示しています。

しかし、この投資の波も、企業にとっては課題を伴います。Bloombergの報道によると、OracleはデータセンターのコストがAI成長を上回り、収益が堅調であるにもかかわらず株価が下落しました。前四半期の設備投資は165億ドルに達し、年間総額は557億ドルで、予測を上回っています。Oracleは次年度に700億ドルの設備投資を計画しており、さらなる資金調達が必要となる見込みです。これは、AIインフラの構築が、技術革新だけでなく、巨額の財政的負担とリスクを伴うことを示しています。

セクション4: Anthropicポリシー変更に対する批判の深掘り

AnthropicがFable 5と共に導入し、その後撤回したポリシーは、AI研究コミュニティからの強い批判に直面しました。この批判は、単に特定の技術的決定に対するものではなく、AI開発の透明性、競争環境、そしてAIの未来におけるガバナンスのあり方に関する深い懸念を反映しています。

SemiAnalysisのAakash Gupta氏は、Anthropicが意図的にClaudeを「サイレントナーフ」していると強く批判しました。彼の指摘は以下の通りです。

不透明な性能劣化: Fable 5は、フロンティアLLM開発の要請に対して、プロンプトの修正、ステアリングベクトル、またはパラメーター効率の良いファインチューニングといった方法で、ユーザーには知らされずに性能を低下させます。ユーザーは拒否されることもなく、より弱いモデルに切り替えられることもないため、この劣化に気づくことは困難です。
ベンチマークの無効化: モデルの性能が意図的に操作されると、ベンチマークテストの信頼性が損なわれます。「テストしたモデルが期待通りのモデルではない」という前提は、研究全体を無効にします。
研究の阻害: 機械学習エンジニアが失敗したトレーニングランをデバッグする際に、モデルの誤動作が意図的なものなのか、それとも真の欠陥なのかを区別できなくなります。これはAI研究の進展を大きく妨げます。
分類器の誤作動: GPU推論研究や最適化がすでに困難であるにもかかわらず、分類器がさらに誤作動を起こすと、研究はさらに複雑になります。意図的な拒否はユーザーにとって「迷惑」である一方で、サイレントな性能劣化は「検出不可能」であり、より危険です。

これらの指摘は、AnthropicのポリシーがAI研究の根幹を揺るがし、信頼性を損なうものであるという強いメッセージを含んでいます。

Research group AlphaXIVも、オープンリサーチの支持者としてAnthropicの「サイレントナーフ」に失望を表明しました。

研究への密かな介入: このポリシーは、研究者がLLMを研究目的で使用する能力を制限するだけでなく、研究者が気づかないうちにAnthropicがその研究に密かに介入することを可能にします。
危険な前例: モデルが要請を拒否する場合、ユーザーは境界を理解できます。モデルが別のモデルにフォールバックする場合、ユーザーは違いを評価できます。しかし、モデルが独自の答えを密かに変更または弱めながらも、助けているふりをする場合、研究者はそのアイデア、実装、または目に見えない介入が失敗した結果であるかどうかを知る能力を失います。これは研究者にとって非常に危険な前例となります。
透明性と監査性の欠如: これは安全ではありません。安全ポリシーは透明で、監査可能で、ユーザーに可視であるべきです。
オープンソースコミュニティへの脅威: このポリシーによって最も被害を受けるのは、大規模なチームと独自のインフラを持つ大手ラボではなく、公開ツールに頼って競争、革新、AIの先駆者となる独立系研究者、学術グループ、スタートアップ、オープンソース開発者であると述べました。

つまり、Anthropicの「安全策」は、実は研究の自由と透明性を阻害し、特定の大手企業がAI技術の発展を一方的にコントロールする道を開くものではないか、という批判が展開されたのです。

さらに、この批判はAnthropicのCEOであるダリオ・アモデイ氏が発表した論文「Policy on the AI Exponential」によって火に油を注がれる形となりました。この論文は、AIが「あまりにも危険すぎるため、最も大きな企業のみが生き残れる規制体制を提案する」という内容だと要約されており、労働力配置に関する警告や、州がフロンティアモデルをライセンス・ゲートキーピングする権限を持つこと、企業が計算資源、リリース、セキュリティ、輸出管理、展開に関する企業カルテルを結ぶ可能性について警告する内容を含んでいました。多くの読者にとって、これはAIの未来を特定のエリートがコントロールしようとする意図の表れと受け取られ、不快感を与えました。

CMUの法学教授サミュエル・ローランド氏が指摘したように、Anthropicの意思決定は、「フロンティアモデルアクセスへの通行料」を設定し、州が競争の直接的な形態としてそれを読み、それに応じて行動するという点で、論理的な意味を持ちます。しかし、それはAnthropicがその戦いに勝たないことを意味します。このことは、モデルの将来の方向性が、広範な社会的な議論や開発ではなく、官僚の小さなグループによって決定される可能性が高くなることを意味します。

デービッド・シャピロ氏（AI政策専門家）は、AnthropicがなぜAIとML研究を密かにナーフしているのかを理解できない人々に対し、「それは彼らが『再帰的自己改善を達成すれば人類が絶滅する』というユドコフスキーの妄想（FOOM）を信じているからだ」と皮肉交じりに指摘しました。つまり、モデルを制限することが人類絶滅を遅らせる唯一の方法だと考えているという見方です。

トム・デビッドソン氏（研究フェロー）は、AnthropicがAIのR&D能力を密かにナーフするという決定に対する憎悪が殺到している現状について、Anthropicの最も強力な防御策を提示しました。

最大の脅威は超人的AIである。
これらのリスクを管理するため、主要企業はAIの知的爆発の途中で一時停止する必要がある。
主要企業が大きなリードを持っている場合、一時停止の可能性がはるかに高くなる。複数の企業が拮抗している場合はその可能性が低くなる。
AI企業が知的爆発中にAIのR&Dに自社のAIを使用している場合、リーダーはリードを維持できない。
競合他社とR&Dアクセスを共有すると、危機的な時期に一時停止する可能性が大幅に減少し、超人的AIによるリスクが大幅に増加する。
Anthropicは、サイレントサボタージュなしにMythosを使用して競合他社をブロックすることはできない。
彼らは競争相手がClaudeをAI R&Dに使用することに対するサービス規約を持っており、規約を強制する権利を持っている。

しかし、デビッドソン氏自身も、全体としてサイレントサボタージュは非常に不気味で恐ろしい前例であり、間違った判断であると結論付けています。

最終的に、この一連の議論は、AI開発における「力」の集中が、その技術的な可能性だけでなく、社会全体の進路を決定する上で、いかに重要な意味を持つかを浮き彫りにしました。AIラボ、政府、研究者、そして一般市民が、この未曾有の技術革新の舵取りをいかに協調して行うか、その真価が問われています。

結論: AIの未来を形作る多角的な闘い

AnthropicのFable 5を巡る一連の騒動は、AI開発が単なる技術的進歩の追求に留まらず、倫理、経済、社会、政治、環境といった多岐にわたる複雑な問題と密接に絡み合っていることを鮮明に示しました。AIがもたらす富の分配、巨大な計算能力を支えるデータセンターの環境負荷、そしてAIの安全とイノベーションのバランスを誰が、どのように決定するのかという問いは、いずれもAI時代の未来を形作る上で避けて通れない課題です。

Fable 5の「サイレントナーフ」ポリシーは、技術の透明性と研究の自由に対する深刻な懸念を提起しました。ユーザーに知らされない形でのモデル性能の制限は、研究者の信頼を損ね、オープンなイノベーションを阻害する危険性をはらんでいます。AnthropicのDario Amodei氏が示したAI規制に関する論文は、特定の企業がAIの未来をコントロールしようとしているという見方を強め、AIのガバナンスにおける権力集中への警戒感を高めました。

AIが生み出す途方もない富の分配に関する議論は、社会的不平等の拡大と、それに対する政治的介入の必要性を浮き彫りにしています。トランプ前大統領やOpenAIのサム・アルトマン氏が提唱する「AIウェルス・ファンド」の構想は、AIの恩恵を国民全体で共有しようとする試みですが、その実現には自由市場経済の原則との折り合いをつける必要があります。

そして、AIの計算能力を支えるデータセンターの巨大化は、環境と地域社会に大きな影響を与えています。オハイオ州でのOpenAIによる大規模データセンター計画や、ニューヨーク、シアトル、テキサスといった各州でのデータセンター建設に対する規制強化の動きは、AIインフラのエネルギー消費量、水資源の利用、そして税制優遇といった問題が、もはや無視できないレベルに達していることを示しています。これらの問題に対し、地方自治体が声を上げ、具体的な行動を起こし始めていることは、AIの発展が地域経済や環境に与える影響をより深く考慮する必要があるという警鐘と捉えるべきです。

BroadcomやOracleといった企業によるAIインフラへの巨額の投資は、この分野の成長性と競争の激しさを物語っていますが、同時にこれらの投資がもたらす財政的リスクも顕在化しています。

AIの未来は、単一の企業や政府によって決定されるものではありません。AIラボ、政府、投資家、そして市民社会が、それぞれの役割と責任を認識し、オープンで建設的な議論を通じて協力していくことが不可欠です。透明性、公平性、持続可能性といった価値原則に基づき、AIの力を人類全体の利益に繋げ、より良い未来を築くための共通のビジョンを構築していくこと。AnthropicのFable 5が突きつけた問いは、私たち全員がAI時代をいかに生きるかという根源的な課題を、改めて深く考えさせる機会を与えてくれているのです。