Fable 5危機が問いかけるAI開発の未来：国家安全保障、イノベーション、そしてガバナンスの狭間で

AI技術の進化が目覚ましい現代において、その開発と展開を巡る議論は常に複雑な様相を呈しています。特に、国家安全保障、技術イノベーションの推進、そして倫理的な安全性という三つの極が絡み合うとき、その対立は時に深刻な危機へと発展しかねません。最近Anthropic社のFable 5モデルが突如として運用停止に追い込まれた「Fable 5危機」は、まさにこの複雑な力学を象徴する出来事として、AI業界に大きな衝撃を与えました。

本記事では、このFable 5危機を巡る一連の出来事を深く掘り下げ、その背景にある技術的な論争、政治的な思惑、そして関係者それぞれの立場を詳細に分析します。なぜAnthropicの主力モデルが停止に追い込まれたのか、米国政府の真の意図は何だったのか、そしてこの一件がAI開発の未来、特に国家間の競争やガバナンスのあり方にどのような影響を及ぼすのかを考察します。専門的な知見と分かりやすさを両立させながら、この混沌とした状況の全体像を読者の皆様に提示し、AIの未来を巡る重要な問いかけを投げかけたいと思います。

危機の発端：Fable 5停止までの経緯

物語は、AI研究企業のAnthropicが、その最新鋭の大規模言語モデル（LLM）であるMythosクラスモデルを「Fable」という商用名で公開したことから始まります。FableはMythosに「ガードレール」（安全対策）を組み込んだモデルとして宣伝され、その高度な機能性と安全性への配慮が注目されていました。しかし、この期待に満ちたスタートは、突如として暗転します。

週が明けても解決の糸口が見えない中、この「Fable 5危機」はAI業界の注目を集め続けました。事の発端は、週末金曜日の夜に米国政府が発令した輸出管理指令でした。この指令は、Fable 5およびMythos 5への外国籍からのアクセスを停止するというもので、その広範な適用範囲ゆえに、Anthropicはモデル全体を一時的に停止せざるを得ないという判断を下しました。

当初、この突然の停止に対して、業界関係者は驚きと非難の声を上げました。情報が不足していたこともあり、責任の所在を巡って憶測が飛び交い、Anthropic側を擁護する声と、政府の措置を支持する声が分かれました。しかし、土曜日以降、事態の背景に関する情報が少しずつ明らかになり始めます。

元AI諮問委員のデイビッド・サックス氏は、政府内外の関係者との複数の会話に基づき、自身の見解を表明しました。サックス氏によると、AnthropicはMythosモデルを「サイバー兵器」と位置付け、その規制の必要性を自ら提唱していました。そして、Fableにはガードレールが組み込まれたものの、もしそのガードレールが破られれば、Mythosの高度なサイバー能力が不適切な人々に悪用される危険性があると指摘しました。

実際に、Anthropicと米国政府の双方から「非常に信頼できるパートナー」とみなされるテスト機関が、Fableのガードレールを「ジェイルブレイク」（AIの制限を迂回する行為）することに成功し、この脆弱性を政府に報告しました。政府はこの報告を受け、AnthropicのCEOであるダリオ・アモデイ氏に対し、このジェイルブレイクを修正するか、モデルを再デプロイするよう求めました。しかし、アモデイ氏はこの要求を拒否したとサックス氏は述べています。

Anthropicはその後、公式ブログで、報告されたジェイルブレイクは「深刻ではない」と主張して自社の決定を擁護しました。しかし、サックス氏はこの主張に異議を唱え、サイバー兵器としての機能を持つモデルのジェイルブレイクが「深刻ではない」と定義されることは理解しがたいと述べました。過去、Anthropicは常に安全性を最優先事項として掲げてきた企業であり、今回の対応は、そのブランドイメージや倫理観と矛盾すると指摘しました。

サックス氏はまた、政府の輸出規制は「不本意な措置」であったと述べ、Anthropicが合理的な安全性に関する要求、すなわちジェイルブレイク問題の修正に協力しようとしないことに「非常に驚いている」としました。政府の希望は、Anthropicが安全性の問題を解決し、輸出規制が解除され、Fableが一般公開に戻ることであるとし、政府がこの事態の早期解決を望んでいることを強調しました。そして、「ボールはAnthropicのコートにある」と締めくくり、解決の鍵がAnthropicの対応にあることを示唆しました。

このサックス氏の投稿は瞬く間に拡散され、様々な議論を巻き起こしました。サックス氏の言葉を額面通りに受け取る人々がいる一方で、多くの人々はこれを、政府側による「物語構築」の一環と見なし、懐疑的な目を向けました。AI起業家のエリック・フォーヒーズ氏は、サックス氏とは異なる見方を示しました。彼は、ジェイルブレイクが「それほど深刻ではなかった」可能性を指摘し、バグ報告を受けた経験のある者なら誰でもこの状況は理解できると述べました。そして、Anthropicはモデルの停止要求を「不合理」だと考え、連邦政府が過去の「不服従」を罰し、屈辱を与えるためにこの機会を利用した可能性が高いと主張しました。フォーヒーズ氏は、「このような話題に関して、ワシントンよりもAnthropicの方が信頼性が高い」と、政府の動機に疑問を投げかけました。

サックス氏の投稿が現代のプレスリリースに匹敵するとすれば、いくつかの注目すべき点があります。まず、サックス氏はAnthropicを「偽善的」と描いています。安全性を謳う企業が安全性の問題を真剣に受け止めず、自ら「サイバー兵器」として宣伝したMythosの規制が必要とされたことに驚いたかのように振る舞っていると指摘したのです。一方で、サックス氏は政権を、Anthropicを「潰す」ことに躊躇していると描写し、この状況から抜け出す二つの方法を提示しました。一つは、「この問題は深刻ではあるものの、簡単に解決できるはずだ」という言葉に表されており、「ボールはAnthropicのコートにある」というメッセージです。もう一つは、サックス氏がAnthropic全体ではなく、ダリオ・アモデイ氏個人に焦点を当て始めた点にあります。「政権はダリオにジェイルブレイクを修正するか、モデルを再デプロイするよう求めたが、ダリオは拒否した」という記述は、アモデイ氏を潜在的な「生贄」として位置づけようとしている可能性を示唆しています。現時点ではアモデイ氏の辞任を求める声は政権からは上がっていませんが、一部の投資家の会話やインターネット上の議論ではそのような見方も浮上していました。

論争の核心：ガードレールの脆弱性とその解釈

Fable 5危機の中心にあるのは、AnthropicのFableモデルに組み込まれた「ガードレール」の脆弱性、すなわち「ジェイルブレイク」の深刻度に関する根本的な解釈の相違です。Anthropicは金曜日のブログ投稿で、ジェイルブレイクの詳細には触れないものの、共有されたジェイルブレイクは「具体的で個別的」であり、「普遍的」なものではないと主張しました。そして、本当に重要なのは普遍的なジェイルブレイクであると強調しました。

この主張をさらに補強するかのように、Anthropicは「完璧なジェイルブレイク耐性は今日不可能である」という声明を発表しました。これは状況を好転させるどころか、さらに議論を複雑化させるものでした。Anthropicの基本的な主張は、「すべてのジェイルブレイクが同じレベルのリスクを意味するわけではない」というものです。つまり、特定の狭い範囲でのジェイルブレイクが成功したからといって、すべてのガードレールを解除できるわけではない、という論理です。

このガードレールの機能を具体的に考えてみましょう。Fableのガードレールは、ミトコンドリアに関する基本的な質問から、「癌」という言葉を含むあらゆるプロンプトまで、広範な情報をブロックするように設定されていました。もしモデルに「ミトコンドリアは細胞の発電所だ」と答えさせることができたとすれば、それは技術的にはジェイルブレイクです。しかし、これがモデルを使って生物兵器を開発できることとは全く異なるリスクレベルにあることは明らかです。Anthropicは、自分たちが発見したジェイルブレイクは、後者のような重大な脅威には至らない、という認識だったのでしょう。

しかし、米国政府側は、この「信頼できるパートナー」からの報告をどのように受け止めたのでしょうか？ 土曜日の朝には、その「信頼できるパートナー」がAmazonであるという情報が流れ始め、その日一日で詳細が明らかになりました。複数のメディアが、Amazonが匿名で政府にジェイルブレイクを報告した当事者であると報じました。Axiosによると、Amazonは木曜日の夜に政権当局者に連絡を取り、この問題を共有したとされています。Axiosが報じた情報源の言葉を引用すると、Amazonは「Anthropicの強力な新しいMythosモデルの一部をジェイルブレイクし、国家安全保障上の脅威となる部分にアクセスできた方法」を示したとのことです。

Anthropicの情報源は、6月9日のモデルリリース前に政府に複数回通知しており、異議はなかったと述べています。しかし、Axiosは、政権高官が木曜日の夜から金曜日の朝にかけて、少なくとも5つの他の企業からの電話を受けていたと報じています。これらの情報が当局にFableの停止を決定させ、金曜日の午後1時にAnthropicに連絡を取るに至ったとされています。Anthropicの情報源によると、同社は「国家安全保障上の脅威」を理由にFableとMythosを90分以内に停止するよう通知を受けたものの、その時点で脅威の性質に関する詳細な説明はなかったとされています。午後5時30分には、FableとMythosが外国籍からのアクセスを禁じる輸出規制の対象となるという正式な通知を受け、午後10時頃にAnthropicは両モデルを停止しました。

Anthropicの情報源によれば、ダリオ・アモデイCEOを含む幹部が、この5時半の通知後に政権と会談したとされています。Axiosに提供された説明では、彼らはジェイルブレイクが「かなり単純」であり、他のモデルでも達成可能であること、そしてFableのガードレールに欠陥があることを示していないと説明しました。

Axiosは政権が他にも多数の電話を受けていたと報じていましたが、これまでのところ、輸出規制を課す決定は、ほぼAmazonの報告のみに基づいてなされたように見えます。複数のハイテク企業が政権に連絡したにもかかわらず、AmazonのCEOアンディ・ジャシー氏が中心人物であったようです。ウォール・ストリート・ジャーナルは、Fable 5の停止決定が、ジャシー氏とスコット・ベッセント財務長官を含む主要な政府関係者との会話の後になされたと報じました。

Amazonは、広報担当者が「多数の民間および公共部門の顧客にサービスを提供する主要なクラウドプロバイダーとして、政府が潜在的なセキュリティリスクについて助言を求めることは珍しくありません。そのような場合、私たちはこれらの議論の詳細を共有しません」と述べるに留まり、多くを語っていません。しかし、ウォール・ストリート・ジャーナルは、サイバーセキュリティ企業GreyNoise Intelligenceの創設者アンドリュー・モリス氏を情報源として、Amazonの報告内容に関する詳細を報じました。

報告によれば、Amazonの研究者はジェイルブレイクを利用して、Fableに少なくとも4つのソフトウェアプラットフォームにおけるセキュリティバグについて議論させることに成功したとのことです。モリス氏は、これは通常ガードレールによってブロックされる情報ではあるものの、「危険なサイバーセキュリティ情報からはまだ遠い」とコメントしました。彼は、他の多くのAIモデルも同様の情報を表面化させることが可能であると指摘しました。Mythosがユニークなセキュリティリスクをもたらすとされた決定的な違いは、これらの脆弱性を「機能的なエクスプロイトコード」に変換する能力にあるとされていましたが、モリス氏によると、Amazonの研究者は、ガードレールによってブロックされるこの種のエクスプロイトコードをFableに生成させた証拠を提示していなかったとのことです。

ウォール・ストリート・ジャーナルは、政権が問題の深刻度を誤解していた可能性も示唆しています。ジャシー氏から政権当局者への電話は、一部では一般的な警告と見なされていましたが、それが急速に外国ユーザーのMythosおよびFableへのアクセスを禁止する商務省による広範な禁止令へとエスカレートしたと報じられています。

Politicoは、意思決定プロセスに参加した具体的な人物に関する詳細を加えました。彼らによると、スコット・ベッセント財務長官、スージー・ワイルズホワイトハウス首席補佐官、そしてショーン・ケアーンクロスホワイトハウスサイバーディレクターが、決定が下された会議を主導した主要な政権幹部であったとされています。ベッセント長官はAI政策の決定に非常に重要であったため、ヒューストンでのイベントに向かう途中にリモートで会議に参加したとのことです。

会議後、ホワイトハウスの情報源は、ダリオ・アモデイ氏に連絡を試みたが、「ウェルネスリトリート」に参加しているため連絡が取れないと伝えられたと述べました。しかし、この点については多くの議論があります。ホワイトハウスの情報源は、アモデイ氏が午後1時頃にホワイトハウスに電話をかけたと述べましたが、Anthropicはこの説明を「全くの誤りである」として否定しました。Anthropicは、アモデイ氏への最初の連絡は正午頃に行われ、彼は1時間15分以内に電話に応じたと述べました。その間、同社は他の上級幹部を対応させました。アモデイ氏が利用可能になると、彼は約半ダースの政府関係者との3回の電話会議に参加しました。ベッセント、ワイルズ、ケアーンクロス氏に加え、ハワード・ラットニック商務長官も、数人の商務省およびホワイトハウスの幹部とともにこれらの電話に参加しました。

この時点では、トランプ大統領の名前は意思決定者リストには挙がっていません。トランプ大統領の関与についての唯一の言及はウォール・ストリート・ジャーナルによるもので、「トランプ大統領は後に、イノベーションを妨げるという懸念にもかかわらず、この行動を承認した」と報じられています。この時点では、トランプ大統領自身が、ホワイトハウス内でイノベーションを最優先する唯一の人物であったと見られます。

Politicoによると、電話会議中、アモデイ氏は自身の誤解を解消しようと試みました。彼は政権の懸念を押し返し、ガードレールを擁護し、発生したバイパスの種類は特定のものであり、Anthropicが導入したガードレールなしでモデルを使用できるような広範なジェイルブレイクとは異なるリスクをもたらすものではないと主張しました。しかし、ケアーンクロス氏とベッセント氏はその主張に納得しなかったと報じられています。あるホワイトハウス当局者は、Amazonの調査結果がNSAにも提出され、ケアーンクロス氏とベッセント氏が「証拠」を握っていると感じた、と述べました。

政府関係者はAnthropicに対し、モデルを自主的に撤回し、政府と協力して脆弱性に対処するよう強く促しました。アモデイ氏はさらに時間と情報を要求したものの、モデルの停止には言質を与えなかったと報じられています。ベッセント氏はある段階でアモデイ氏に対し、彼が「悪い決断」をしていると警告しました。Politicoに引用された声明の中で、あるホワイトハウス高官は、「輸出規制は、何時間も我々と協力するよう懇願した後の最終手段だった。これは我々が望んだことではなかったが、我々の手は縛られていた」と述べました。

しかし、Anthropicはこの説明を再び否定しました。同社に近い情報源は、「ホワイトハウスは、実際の脅威に関する詳細を一切提供せず、モデルを90分以内に停止するよう命じた。懇願や協力要請など一切なく、ただ90分の期限が宣告されただけだった」とコメントしました。

この話についてコメントした3人のホワイトハウス当局者は、Amazonだけが懸念を表明した唯一の企業ではなかったと述べましたが、他の企業名は明らかにしませんでした。Politicoの情報源によると、実際にはAnthropicの姿勢が決定的な要因であったようです。ある情報源は、「問題の核心は、Anthropicがこの問題に真剣に取り組んでいなかったことだ。もしAnthropicが真剣に受け止め、孤立した動きとして却下するのではなく、修正するかアクセスを一時停止するかに動いていれば、こんなことにはならなかっただろう」とコメントしています。

この状況において、明らかに技術的な理解に関する課題が存在していました。Luta Securityのケイティ・ムスーリス氏は、具体的な脅威についてブログ記事を書き、Anthropicの主張を実質的に擁護しました。彼女は、それが大した問題ではないだけでなく、バグ修正やパッチ検証の性能を低下させることなく対処することはできないと主張しました。ソフトウェアエンジニアのコーリー・ウォード氏も、「LLMがアクセスできるコードベースでバグを発見することをジェイルブレイクと呼ぶのはやめましょう。これはそうではありません。ガードレールはバグの発見や修正を防ぐことを意図したものではなく、モデルが新しいエクスプロイトを特定し、悪用するのを防ぐことを意図しています。この例によって示された安全性の問題はありません。これがガードレール違反であるという証拠もありません。これが安全対策の全面的なジェイルブレイクであると示唆するものは何もありません。したがって、Anthropicがモデルの動作で実際に解決すべきことは何もありません。すべては政治の問題です」と厳しく指摘しました。

AI政策研究者のマイルズ・ブランデージ氏も、「どうやらホワイトハウスの一部の関係者は、Fableがゼロ以上のサイバー能力を持っていることを知らず、驚くべきことではないことに驚いたようだ」と述べました。「ダリオはこのことを誤解だと思ったのは当然だ。何が起こっているかを知っている政府関係者は誰も巻き込まれておらず、止めることもできなかったし、外部の人々が煽った。問題の一部は、コリン・カメラ氏が言うように、『知識豊富なホワイトハウスの技術者が多く去っていたこと』にある。ダリオがホワイトハウス側で誰と電話に参加したかを指摘し、コリン氏は、ホワイトハウスは彼らの能力をはるかに超えていると主張している」。マイルズ・ブランデージ氏はさらに後になって、「CAISIやNSAの専門家が関与したことを示すものは何もない。すべての報道はホワイトハウスの上級幹部を指している」と書いています。

このような状況において、Anthropicが冷静で合理的な説明だと考えたものは、明らかに問題を真剣に受け止めていないと解釈されてしまったのでしょう。Politicoのホワイトハウス情報源の一人が、「問題の核心は、Anthropicがそれに真剣に取り組んでいなかったことだ」と述べたのを思い出してください。

金曜日の出来事については、ホワイトハウスとAnthropicから、明らかに二つの異なる見方が提示されています。最も食い違っていると思われる詳細の一つは、ダリオ・アモデイ氏が実際にウェルネスリトリートにいたかどうかです。テクノロジー記者のアシュリー・ヴァンス氏は、自身の見解を述べています。「これは数週間にわたるやり取りではなかった。私は金曜日にAnthropic本社にいて、これらすべてが展開されているのを報じていた。ダリオはウェルネスリトリートにはいない。連邦政府は再びAnthropicを見せしめにしようと躍起になっているようだ。これは技術的な問題ではなく、些細なことだ」。

アシュリー氏はさらに続けて、「連邦政府はダリオ・アモデイが彼らの言いなりにならないため、彼を嫌っている。そして今、ホワイトハウスがあらゆる記者に『ダリオはウェルネスリトリートにいて連絡が取れない』といった笑える主張を流布しているという、ソビエト式のプロパガンダ部分に突入した。まさか。米国がAIに関して自滅しないことを願う。なぜなら、それが米国が中国に対して持っている最後の希望の一つだからだ。だが、現実はこれだ」。

ウェルネスリトリートの点について、ジェフ・カフェ氏は、「ホワイトハウスが含めたこの一見些細な詳細は、スコット・アダムスが『言語的キルショット』と呼んだであろうものだ。このフレーズを聞いた誰もがすぐに視覚的なイメージを思い浮かべる、単純で印象的なアイデアだ。誰も、誰かがダリオにニュースを告げている間、彼がローブを着て目にキュウリを載せている姿を想像せずにこの話を考えることはできないだろう」と皮肉っています。

政治的背景と動機：見え隠れする思惑

ここから事態はさらに奇妙な展開を見せ始めます。土曜日の午後には、全く異なる説明が登場しました。ワシントン内部情報誌Semaforは、「ホワイトハウスは、Anthropicの強力なMythos AIモデルに輸出規制を課したのは、中国関連のグループがアクセスしたという疑念が一部の理由である」と報じました。しかし、この記事にはそれ以上の新たな詳細はほとんど含まれておらず、「ホワイトハウスがどのようにこの問題を把握したのか、どの組織がモデルにアクセスしたのか、そしてどのようにMythosにアクセスしたのかは不明である。しかし、もし中国政府がMythosにアクセスした場合、それは米国の国家安全保障上のリスクとなる可能性がある。中国はまた、『蒸留』として知られるプロセスでモデルをリバースエンジニアリングしてコピーしようと試みる可能性もある」と続けました。

Anthropicの広報担当者は、ホワイトハウスが議論中に中国に関する懸念を一切提起しなかったこと、そしてAnthropicのモデルはすでに中国ではブロックされていることをコメントしました。アシュリー・ヴァンス氏は再び、「急いで、誰か中国のせいだと言ってくれ。しかし、それは本当に信頼できる情報源に基づいているのだろう？ まあ、『関係者』が一人いた、ということだが」。

デイビッド・サックス氏がそうではないと述べていたにもかかわらず、この問題が実際には個人的なものであり、国防長官ピート・ヘグセス氏に対するホワイトハウスの反感に起因するという見方にさらに拍車をかけたのは、ヘグセス氏自身のツイートでした。「3ヶ月前、国防総省はAnthropicを永久に私たちの建物から追い出した。毎日がそれが正しい動きだったことを証明している」。

この時点では、政策を決定する上で、異なる政治的意見を持つ人々が互いに好き嫌いを持ち出すことは忌まわしく、不快なことだと感じられるかもしれません。しかし、現在の私たちが生きる世界では、そのような感情に浸っている余裕はありません。Anthropicも同様です。

Axiosは今朝、追跡記事を掲載しました。「彼らは私たちを裏切った」という政権関係者の言葉を引用し、記事のタイトルは「個人の衝突がAnthropicのモデルをオフラインに追い込んだ」とされていました。Axiosは、政権の考えを知る情報源の言葉を引用し、「Anthropicは、政権と対話し、イデオロギーの違いを理解しようとする点で良い仕事をしてこなかった。彼らは単に異なる言語で話しているのかもしれない」。政権に近い別の情報源は、政権がAnthropicの当初の姿勢を「いや、我々は何もするつもりはない。これは実際の問題ではない」と見ていたと主張しました。

一部の人々にとって、ここにある「リアルポリティーク（現実政治）」は非常に明白です。Buko Capital bloke氏は、「多くの技術コミュニティは、政治理論の絶対的な基本を理解していないことで自らを晒している。米国政府は武力の独占権を持っている。一私企業はダリオのような話し方はできない。彼はメッセージを変えるか、破壊されるだろう」と述べました。

Stratecheryのベン・トンプソン氏は今朝、「Anthropicの安全超能力」と題する長い投稿を公開しました。その中で、彼は今回の事態に関する重要な指摘をしています。彼は基本的に、過去1週間ほどの間、AnthropicのFable 4（Fable 5の前バージョンか、誤記か、あるいは総称的にFableシリーズを指している可能性あり）に対して人々が批判してきたことすべてが、Anthropicにとっては単に「安全性」に帰結するという考えを示しました。データ保持ポリシーの変更、ガードレール、すべての行動が安全性のためであったと。トンプソン氏は次のように書いています。「これらの安全性に関する正当化について、私が思うに、Anthropicにとってはそれは正当化ではないからこそ機能しているのだ。この会社は、自分たちだけが超知能を信じており、したがってその危険性について十分に懸念している唯一の存在だと本当に信じているのだ」。

この信念が、外部の人々には「皮肉とナイーブさの奇妙な組み合わせ」に見えるような、数々の決定、政策、そして対立を正当化しているのです。ベン・トンプソン氏は、「私はこのアライメントを尊敬し、そして恐れる。私が尊敬するのは、それが非常に明確に効果的だからだ。最も近いアナロジーはAppleだろう。Appleは、すべての自己中心的な行動を、ユーザーのためになるという名目で正当化してきたが、多くの場合それは事実だった。Anthropicも同様だ。しかし、私が恐れるのは、人々が自分たちが最善を知っていると確信しているスマートフォンを私が選んだり拒否したりできるのとは異なるということだ。国家や単なる巨大企業の力を凌駕する可能性のある超知能を彼らが構築しているとすれば、それはかなり懸念されることだ。人類が必要とするものを自分たちが知っていると確信した輝かしい人々の歴史は、散々なものだった」。

「彼らが自分たちの意図は善であると確信しているからこそ、そうではない行動を正当化するのだ」。トンプソン氏は、個人的にもこのような状況を間近で見てきたとし、もしベン氏が正しいとすれば、「人々が自分たちだけが何かについて十分に懸念しており、正しい解決策を知っている唯一の存在だと自分たちを納得させ始めたとき、事態は非常に急速に悪化する傾向がある」と述べています。そしてトンプソン氏が指摘するように、そのすべてが持つ意味合いは、この状況に内在する力によって根本的に増幅されるのです。

RSIの上級研究員アダム・ティアラー氏は、究極的には、この事態を招いた原因が何であれ、今回の政策は「破滅的」であると主張しています。

アダム氏は、「これがAnthropicに起こっているため、多くの人は『愚かなゲームをして、愚かな賞を得た』と言う誘惑に駆られるだろう。彼らはフロンティアモデルの広範な規制を招くことで、ワシントンの規制の温度を執拗に上げてきた。彼らはこの寝床を作り、今やそこに横たわらなければならない。しかし、このトランプ政権の決定は、報復政治への欲望に基づいて判断されるべきではなく、そのメリット、そして特にアメリカのより広範なAI目標にとって何を意味するかで判断されるべきだ。その点で、この行動は本当に言語道断だ」。

ティアラー氏は、政府がこの特定のモデルを使用するすべての人々をどのように検証し、コンプライアンスを確保するつもりなのか、と疑問を投げかけました。それだけでも大きな疑問符がつく、と。最新の大統領令がNSAにより多くの管理権限を移し、国家による準国有化や株式保有に関する最近の噂、そして今回の措置。私たちは、AIの政治化と、この国における高度な計算に対する統制の集中における「著しいエスカレーション」について話している、とティアラー氏は警告します。そしてこれらすべてが、かつては「偉大なAI競争に勝つための加速」を優先事項としてきた政権によって行われているのです。「私たちは今、後退している」。

補足ブログ記事の中で、アダム氏はさらに痛烈に批判しました。「主要な米国AI企業が、数人の政府高官の非公開で説明のない懸念に基づき、数百万人が使用していた製品を停止させられた。これはFDAの事務手続き上のリスクとは違う。これはまるでFDAが、突然何の理由も説明もなく、すべての人に牛乳を飲むのをやめるよう要求するようなものだ。もし牛乳が昨年の株式市場の利益の50%を占めていたとすれば、だが」。

政策への影響と将来への課題

このFable 5危機は、単なる一企業のモデル停止という事象に留まらず、AI開発、国家安全保障、イノベーション、そしてガバナンスの未来に広範かつ深刻な影響を及ぼす可能性を秘めています。

まず、技術イノベーションへの影響です。アダム・ティアラー氏が指摘するように、非公開かつ不明瞭な政府の懸念に基づいて、広範なユーザーが利用していた先進的なAIモデルが突然停止されるという前例は、AI企業が新しい技術を公開することへの大きな障壁となり得ます。開発企業は、いつ、どのような基準で政府の介入を受けるか予測できないため、リスクを避けるためにイノベーションのペースを緩めたり、公開範囲を限定したりするかもしれません。これは、米国がAI競争においてリーダーシップを維持しようとする戦略と矛盾する行動であり、「偉大なAIレースに勝つ」という目標から後退する可能性があります。

次に、国家安全保障と技術的理解のギャップの問題です。今回の危機では、政府関係者の間でFableの「サイバー能力」に対する技術的理解が不足していた可能性が指摘されています。専門家たちが指摘するように、LLMが既存のバグを発見できることと、新たな悪用可能なエクスプロイトコードを生成できることの間には大きな違いがあります。政府が技術的なニュアンスを十分に理解せずに性急な決定を下した場合、それは過剰な規制や不必要なイノベーションの阻害につながりかねません。国家安全保障上の懸念は確かに重要ですが、その判断には技術専門家による正確な評価と、開発コミュニティとの密接な連携が不可欠であることが浮き彫りになりました。

また、AIガバナンスのあり方も問われています。輸出規制という強硬な手段が「最終手段」として用いられたこと、そしてその決定プロセスが一部で不透明であったという批判は、AIの規制と監督に関するよりオープンで透明性の高いフレームワークの必要性を示唆しています。企業と政府の間のコミュニケーションの断絶、互いの意図に対する不信感は、AIのような急速に進化する分野において、建設的な対話と協力を困難にします。アレックス・スターモス氏らが署名した公開書簡が、将来のAIリスク評価において「オープンで科学的かつ透明なプロセス」を求めているのは、まさにこのガバナンスの欠如に対する懸念の表れです。

さらに、AIの政治化と国家による管理の強化というトレンドも見て取れます。今回の事件は、政府が国家安全保障の名の下に、民間企業のAI開発にどれほどの介入権を持つのか、という根本的な問いを投げかけました。ホワイトハウス内部でのAI政策の意思決定プロセス、特にトランプ大統領の「イノベーション阻害への懸念」という言及は、政府内部でもAIの推進と規制の間で綱引きがあることを示唆しています。また、NSAへの管理権限のシフトや「準国有化」の可能性に関する議論は、AI技術が戦略的資産として国家による統制が強化される方向に向かっていることを示しており、これが自由な研究開発の精神とどのように両立するのかが、今後の大きな課題となるでしょう。

そして、企業倫理と信頼性の問題です。Anthropicは自らを「AI安全企業」としてブランド化してきましたが、今回の危機における対応は、そのブランドイメージとの矛盾を指摘されています。安全性を最優先するという主張と、ジェイルブレイクの深刻度を軽視したとされる行動との間の乖離は、AI企業が公言する倫理原則と、実際のビジネス上の判断との間でいかにバランスを取るべきかという問いを突きつけます。ベン・トンプソン氏が指摘した「安全超能力」としての正当化が、結果的に政府との対立を深め、信頼を損なう結果となった可能性は、他のAI企業にとっても重要な教訓となるでしょう。

Semaforの「中国関連の懸念」という報道は、この危機にさらなる層を加えました。もし、中国のハッキングやモデルの「蒸留」のリスクが政府の決定に影響を与えたとすれば、それは国家間のAI競争が、技術開発の速度だけでなく、サプライチェーンのセキュリティやモデルの保護といった側面にも及んでいることを意味します。Anthropic側は中国関連の懸念は議論中に提起されなかったと反論していますが、このような疑念が政策決定の背後にある可能性は、AIを巡る地政学的緊張の深刻さを示しています。

現状と今後の展望

このブログ記事を執筆している時点（月曜日の午前9時東部時間）では、事態は依然として流動的であり、解決の糸口はまだ明確ではありません。ウォール・ストリート・ジャーナルが報じたところによると、Anthropicは問題を解決するため、最高セキュリティ研究者のニコラス・カーリーニ氏、リスク評価チームを率いるローガン・グラハム氏、ガードレール責任者のデビッド・オー氏を含む上級技術スタッフをワシントンDCに派遣しました。彼らは政府のセキュリティ専門家と会談し、事態の沈静化を図るものと見られています。

公の反応も出始めています。日曜日には、元Facebook最高セキュリティ責任者のアレックス・スターモス氏が率いるサイバーセキュリティリーダーのグループが、政府に宛てて公開書簡を発表しました。彼らは、AnthropicのFableとMythosに対する輸出規制指令の解除と、将来のAIリスク評価において「オープンで科学的かつ透明なプロセス」を確立することを求めました。彼らの主張は、他のモデルも同様の能力を持っていること、Anthropicの多層的な保護策は十分に優れていること、そして研究者が自社の防御を強化するためにはこれらのツールへのアクセスが不可欠であること、また中国のオープンウェイトモデルがわずか数ヶ月遅れで追いついている現状を鑑みると、米国のイノベーションを阻害するべきではない、というものでした。この書簡がどこまで影響力を持つかは未知数ですが、同様の反応が今後も続くかどうかが注目されます。

この危機を外部から見ている限り、その解決は主に「技術的」なものではなく、「対人関係的」なものになる可能性が高いと筆者は考えています。Anthropicはこれまで、ホワイトハウスと単純に「理屈で話せば」自分たちの見解を理解してもらえると考えていたかもしれません。しかし、今回の事態はそれが明確に誤りであったことを示しています。

Anthropicはもはや、立ち上げたばかりのベンチャースタートアップではありません。彼らは、経済において最も、そして世界全体にとっても極めて重要な産業における二つの主要なリーダーの一角を占めています。彼らは「自分たちが望む政府」ではなく、「そこにある政府」と協力関係を築かなければなりません。Anthropicの上級技術スタッフがワシントンに赴いたというニュースに対し、投資家のメリンダ・チュー氏は「ダリオ・アモデイが飛行機に乗っていなければ、何も変わらないだろう」とコメントしました。これは、最終的な解決には技術的な説明だけでなく、リーダーシップレベルでの信頼構築と、政府の懸念に対する真摯な理解と対応が不可欠であることを示唆しています。

結論

Fable 5危機は、AI開発の最前線が直面する多面的な課題を浮き彫りにしました。この事件は、AI技術の安全性、国家安全保障、イノベーションの推進、そして政府と企業の間の信頼とコミュニケーションの重要性に関する深い教訓を与えています。

第一に、AIの安全性とリスク評価に関する共通の理解と透明性の欠如が、不必要な対立を生み出すことを示しました。 「ジェイルブレイク」の深刻度に関する技術的解釈の相違、そしてそれを巡る情報共有の不足は、今回の危機の核心でした。将来のAIガバナンスにおいては、技術的な専門知識を政策決定プロセスに組み込み、リスク評価の基準とプロセスをよりオープンで透明性の高いものにすることが不可欠です。

第二に、政府とAI企業の関係は、単なる技術的な対話を超えた、より複雑な政治的力学に左右されることを示しました。 「ウェルネスリトリート」を巡る認識の食い違いや、政府側から示唆された「個人的な衝突」の可能性は、技術的なメリット・デメリットだけでなく、人間関係、信頼、そして政治的な思惑がいかに重要な役割を果たすかを物語っています。AI企業は、自社の技術が国家戦略上の重要性を増すにつれて、政府との関係構築、コミュニケーション戦略、そして政治的リアリティへの理解を深める必要があります。

第三に、今回の危機は、イノベーションの加速と国家安全保障のバランスをいかに取るかという、米国が直面する根本的なジレンマを浮き彫りにしました。 過剰な規制や性急な介入は、短期的な安全性の確保につながるかもしれませんが、長期的には米国のAI競争力を損ない、かえって国家安全保障上のリスクを高める可能性があります。この微妙なバランスを適切に保つためには、政府、企業、研究コミュニティが一体となって、包括的かつ長期的な視点から戦略を練り、実行していく必要があります。

Fable 5危機は、AI開発の未来を形作る上で避けられない、多くの困難な問いを私たちに突きつけました。技術の急速な進歩がもたらす変革期において、政府、企業、そして社会全体がどのように協力し、対話を通じてこれらの課題を乗り越えていくのか。この一件は、その道筋を模索するための重要な出発点となるでしょう。未来のAIが人類にとって真に有益なものとなるためには、今回の教訓を深く心に刻み、より賢明で建設的なアプローチを追求していくことが不可欠です。