AI安全性議論の深化：フロンティアラボの責任と透明性の模索

AIの最前線：企業が今、本当に向き合うべき課題と未来への戦略

ここ数週間、社会におけるAIに関する議論はかつてないほどの熱を帯びています。特に「AIの安全性」を巡る言説は、時に地球規模の存亡に関わるような極論まで飛び交い、人々の意識を大きく揺り動かしました。しかし、この激しい議論の渦中で、自らの事業価値を最大化するために数年前からAIの活用を探求してきた企業やエンタープライズにとって、一体何が本当に変わったのでしょうか？彼らはこれまでと変わらない道を歩むべきなのでしょうか、それとも新たな局面を迎えているのでしょうか？

本記事では、この新たなAI安全性の時代に企業がどのように考え、どのような本当の懸念を抱え、どのようなAIの課題に直面しているのかを深く掘り下げていきます。同時に、新たな課題がいかに新たなビジネスチャンスを生み出しているのかについても考察します。AIの進化が止まらない現代において、企業が直面する現実的な課題、最新技術の動向、そして来るべき未来への戦略的視点を提供することが、本記事の目的です。

ここ2週間で、AIの安全性に関する議論は社会の会話を完全に支配しました。これまでこの問題への認識が不足していたと考える人々にとっては、非常に有意義な期間であったと言えるでしょう。しかし一方で、「AIが人類を滅ぼす」と17%ものアメリカ人が確信しているという世論調査の結果を見ると、議論が行き過ぎてしまったのではないかという懸念も生じます。

この過熱した議論の中で、多くの人が求めているのは「具体的な情報」です。政策の具体性、そして監視の具体性です。この要求に応える形で、Anthropic社は先進的なAIがいかに急速に発展しているかを一般の人々が理解するための、新たな一連の測定基準を提案しました。

今月の安全性に関する議論は、恐ろしい見出しを乗り越えると、「再帰的自己改善」という概念と、AI開発が「A. 速すぎるペースで進んでいる」だけでなく、「B. さらに高速化する寸前である」という考えに集中しています。社会の破壊という脅威は確かに目を引く見出しになりますが、実際に警告を発しているAI研究者たちは、ラボ内部で何を見たのかを正確に説明することに苦慮してきました。

この情報格差を埋め、一般の人々をより良く啓蒙するために、AnthropicはAI開発の現在のペースを理解するための3軸測定を提案しました。

AIが次世代モデルを構築する能力: これは「R&D自動化指数」と名付けられ、モデルトレーニングのあらゆる側面を測定し、各タスクの現在の自動化度を評価し、それらを統合して単一の数値として表現しようとするものです。Anthropicの測定によれば、現在Claudeは同社のR&D作業の「26%を主導」し、「90%以上で共同作業」を行っています。AnthropicにおけるAI主導のR&Dの定義は、「人間が高レベルの目標を提供し、AIが人間の監視の下でそれをエンドツーエンドで完了するタスク」です。ここで興味深いのは、Anthropicが精密さを追求しているにもかかわらず、その定義には「人間が高レベルの目標を提供する」という前提が含まれている点です。これは、一部の人が「AI主導のR&D」と聞いたときに想像するであろう「AIが自ら目標を決定する」というレベルにはまだ達していないことを示唆しています。Anthropicは「Claudeがいかなる測定されたAI R&D作業の部分集合においても完全に自律的に動作しているわけではない」と明言しています。それでも、研究の自動化はMythosのトレーニング完了以来大幅に増加し、ここ数ヶ月でさらに加速していると彼らは述べています。昨年3月、Mythos以前にはAnthropicのR&Dのわずか1%しかAIによって主導されていませんでしたが、Mythosによって5月には12%にまで上昇し、それ以降も倍増しています。
Anthropicがエージェントの行動を監視し、介入する能力: Anthropicは、エージェントの監視システム内での「カバレッジ」「レビュー遅延」「エスカレーション率」を測定しました。同社によると、常時約3万のエージェントが研究開発作業を行っています。Anthropicは、これらのエージェントの行動を100%カバーしていると主張し、フラグが立てられた行動に対する即時AIレビュー、そしてリアルタイムレビューのためのエスカレーション率は約0.002%であると述べています。これは、約47,000の行動のうち1つが監視システムによってブロックされることを意味します。さらに、Anthropicは事後レビューシステムも100%カバーで維持しており、週に約10万件のエージェントのトランスクリプトにフラグを立て、それらを誤検出がないか解析し、約50件が人間のレビューにエスカレーションされるとのことです。言い換えれば、1,000件に1～2件程度のトランスクリプトが実質的な懸念を引き起こすということです。
AIモデル開発に投入されるリソースの規模: Anthropicは、安全性システムに割り当てられた総計算資源の割合でこの尺度を表現しました。AI支援R&Dに割り当てられた計算資源の約6%が安全性に向けられ、AI主導R&Dに割り当てられた計算資源の約12%が安全性に向けられました。Anthropicはこの測定値にはエージェント活動を常に監視する分類器は含まれておらず、「企業が安全性にどれだけ注力しているかを示す不完全な代理指標」であると指摘しています。これは、安全研究が個々の研究者が実験を設計するのに時間を要する一方で、実験自体の実行はそれほど計算資源を必要としないためです。

Anthropicの目標は、完璧な測定値を提供することではありませんでした。むしろ、あらゆるAIラボが規制システムの一部として報告できるような一連の指標を定義し、提案することでした。彼らは、「世界がフロンティアのペースを考慮する中で、フロンティアラボが知っていることと、一般の人々が知っていることとの間のギャップを最小限に抑えるために可能な限りのことをすべきだ」と結論付けています。「これは、AIの開発をより良く測定し、それを公に報告し、社会がこの情報をどのように使用するかを決定する機会を与えることを意味する。私たちはこれらの測定値を公開することで、その透明性のモデルとなることを願っており、今後もそうし続けるだろう。」

この発表に対する反応は、現在の状況の良い面、悪い面、そして難しい面を示しています。一方では、AI安全性議論のあらゆる立場の人々が、この測定値が存在することが、存在しないよりも良いと考えている点で一致しているという珍しい動きでした。AI安全研究者のジェフリー・ラディッシュは「Anthropicからの素晴らしい動きだ。数週間前、私はこの会社がもっと透明になれると書いたが、彼らがこれと最近の事件調査報告書、悪用報告書の両方でステップアップしてくれたことに感謝する」と述べています。

同時に、さらなる情報を求める声も多くありました。Prime IntellectのElie Boussaidは、「OpenAIがR&Dタスクごとの利用の内訳を提供し、Anthropicが自動化レベルを提供するというのは興味深い。両方を組み合わせて、R&Dタスクごとの自動化の進化を得ることができれば素晴らしいだろう」と書いています。また、自己申告は良いスタートではあるものの、それだけでは不十分だと主張する声もあります。Arun Raoは、「すべてのラボでRSI（再帰的自己改善）への進捗を測定し、それを毎週から毎月公に報告するための標準的な測定基準が必要だ」と指摘しています。

市場がこれらすべてを消化するにつれて、今後さらに多く議論されることになるであろう論点の一つは、安全監視の強化を「R&Dにとって非常に高価なオーバーヘッド」と見なす見方です。これは、安全性への支出割合の測定が、実質的にそのオーバーヘッドの測定となることを意味します。市場は安全性により多く支出する企業を評価するのでしょうか、それとも利益を圧迫するとして罰するのでしょうか？この問いは、これらの企業が公開市場環境で事業を行う上でのもう一つの複雑な問題を示しています。

グローバルなAI開発競争：中国の台頭とリスクの多様性

今週はまた、再帰的自己改善が米国の研究室だけのものではないことを再認識させられました。ZAI社は木曜日に「再帰的自己改善に向けて：GLMがいかに自身の推論インフラを構築したか」と題するブログ記事を公開しました。その最初の文は、「私たちがGLMを開発するにつれて、モデルは時に私たちを驚かせ、時には不安にさせる能力を示します。私たちが最近揺さぶられたのは、GLMがますますAI自体の構築を助けていることです。私たちは、経験豊富なインフラエンジニアチームが以前なら数週間かかっていたであろうインフラタスクをモデルが完了するのを目撃しました。この作業が次世代モデルのトレーニング方法を直接変えることを認識したとき、私たちはさらに確信しました。私たちの後継者は、私たち自身が作り出しているAIシステムなのです」と書かれています。

これは確かに表面的なニュースの範囲を超えていますが、中国を含まないいかなるAI減速の議論も、実質的に何の意味も持たないことを思い出させるものです。

一方、私たちがAIの次世代のための新たな交渉期間に入ったとすれば、もはやAIラボだけがペースを決定するわけではありません。多くの人々が、新しい全体システムがどのようなものになるかについて提案を携えて登場しています。

Bridgewater社のCIOであるグレッグ・ジェンセン氏は、今週、AIにおける主要なリスクは「パワーの集中」であり、それが規制されるべきだと提言し、見出しを飾りました。Bridgewaterは世界で最も成功したヘッジファンドの一つであり、近年AIを extensivelyに活用してきました。The Information誌のインタビューで、ジェンセン氏はAIリスクが実際にどこに存在し、規制にどのようにアプローチすべきかについて自身の見解を述べました。彼は「オープンソースモデルには大きな問題がある。なぜなら、それらをトレーニングできるからだ。我々はBridgewaterでこれを行っている。強力なオープンソースモデルでの非常に効果的な強化学習トレーニングだ。それは非常に強力で素晴らしいテクノロジーであり、同時に明らかに非常に危険なものだ。人々がそれらを何に使っているか分からない。それを追跡する方法はない。だから、その観点からは危険だ。私たちはこの問題にどう対処するかという議論すら始めていない」と述べました。

しかし、ジェンセン氏の見解では、このリスクはフロンティアラボ自体がもたらすリスクに比べれば取るに足らないものです。彼は続けて「私たちはパワーの集中に対処しなければならない。2年後には、OpenAIとAnthropicが世界の計算資源の35%から50%をコントロールすることになるだろう。これは社会が、計算資源というこれほど強力なものに対して許容する狂った結果だ。我々は、一つのエンティティに他の形態のエネルギーや商品のそれほど多くの部分をコントロールさせるだろうか？」と問いかけました。

この1ヶ月間でよく観察されたことの一つに、Hugging Faceのインシデントやその他のセキュリティ侵害は、エージェントスワームを動かすために膨大なリソースを必要とするというものがあります。現在のモデルでは、フロンティアラボ以外の脅威アクターによって複製できるかどうかは不明です。これは、計算資源へのアクセスに限界があるためです。ジェンセン氏は、解決策の一部として、AIが行う行動に対する責任の明確なガイダンスが必要であり、企業や個人が負うリスクを理解できるようにすべきだと主張しました。

パワーの集中にどう対処するかと問われたジェンセン氏は、「世界または米国の計算資源のX%、例えば5%以上を持つ者は誰でも、それらはシステム上重要な機関であるとみなすべきだ。そして、システム上重要な銀行に対して行うような規制を適用すべきだ。また、所有できる量に上限を設けることも適切だと思う。商品先物には所有上限があるし、はるかに重要度の低いものにも上限がある。現在の法律でもそれが可能かもしれないし、新たな法律が必要かもしれない。いずれにせよ、法的にそれを整理し始めるべきだ。ほとんどの人が世界で最も重要な資源の一つと同意するであろうものに対して、独占的な支配を望まないという超党派の認識があるべきだ」と答えました。

GSIB（グローバル・システム上重要な銀行）型の規制を既存の計算資源に適用しようとすることの含意と課題については、今後数週間のエピソードを費やして議論できるでしょう。しかし、この議論の良い点は、単純すぎる二元論を脱却し、実際のパワーの所在はどこにあるのかという問いを投げかけ始めていることです。問題はモデルにあるのか、それともモデルを動かすパワーにあるのか？私たちが悪い結果を止めようとするならば、これらには全く異なる介入点が存在し、まさにそういった種類の議論が必要なのです。

安全性、規制、そして業界の協調：法的課題と異なる視点

安全性に関する問題の追加的なダイナミクスとして、ラボが実際に安全性について協力できるのか、それともそれが独占禁止法の問題を引き起こすのかという法的問いも浮上しています。

トランプ政権は、フロンティアラボが安全性について「共謀」することを許可するための独占禁止法上の「カーブアウト」（例外規定）を検討していると報じられています。

この理論が対処しようとしているのは、基本的にAIの減速が研究費の協調的な削減、ひいては消費者を犠牲にした収益性の向上につながる可能性があるというものです。抽象的かつ非常に緩やかな類推で言えば、AppleとSamsungが新スマートフォンの開発を中止することに合意するのと似たような状況になるでしょう。

米国司法省のスタンリー・ウッドワード次官補は、同政権が機関間の独占禁止法ガイダンスを更新し、AI安全性の協調のためのカーブアウトを提供する可能性を検討していると述べました。このガイダンスはすでにサイバーセキュリティリスクに関する協調を認めているため、変更はそれをAI安全性にも拡大するものです。興味深いことに、ウッドワード氏は、複数のAI幹部が公に独占禁止法のカーブアウトを求めているにもかかわらず、これまでに彼のオフィスにこの件で連絡してきた者はいないと述べました。しかし、ガイダンスがない状態でも、ウッドワード氏は司法省が協調的な減速に異議はないと示唆し、「サイバーセキュリティや安全保障に関する協調が反競争的だとは私には思えない」とコメントしています。欧州の独占禁止法担当官であるテレサ・リベラ氏もこれに同意し、同じイベントで「これは古典的なゲーム理論の問題だ。リスクが共有されるとき、協力は皆の利益になる」と述べました。

これらすべての出来事が進行している一方で、AIに関する会話のトーン全体を抑えようとしている人々も確かに存在します。伝説的なAI研究者であり、Courseraの共同創設者でもあるアンドリュー・エン氏は、Bloomberg TVのインタビューで、絶滅リスクを「サイエンスフィクション」として一蹴し、AIドゥーマーたちが過去10年間、自分たちの目的のために広報活動を行い、規制を形作るためにこの物語を何度も推し進めてきたと警告しました。彼は「過去2週間、かなり落胆した。おそらく同様の目的で、このPRの波が再び巻き起こったのだ」と述べました。

エン氏は、サイバーセキュリティを中心にAIに関連する真のリスクが存在することを認めつつも、「AIが人類の絶滅につながるという最近の恐怖は、科学というよりもサイエンスフィクションだ。それは非常に有害だ」と述べました。彼の見解では、AIがもたらす危険は「実用的なエンジニアリングの問題」であり、業界はAIが「できる多くの素晴らしいこと」を追求し続ける必要があるとしました。

企業が直面する現実的なAI課題：安全性、コスト、そしてアーキテクチャ

さて、目の前の現実的なサイバーセキュリティ問題と言えば、Mistral社が二度目のハッキング被害に遭い、その知的財産がダークウェブで販売されているというニュースです。昨年5月には約5GBの内部ソースコードと約450のプライベートリポジトリが流出し販売されましたが、今回も同様に、ハッカーが完全なソースコード、内部開発ファイル、ウェブアプリコード、および追加の独自の情報を販売しているとのことです。あるユーザーは販売者に連絡を取り、ファイルダンプにはモデルの重み、後処理パイプライン、データセット構築に関する情報が含まれていることを確認したと述べています。ハッカーは25,000ドルを要求していましたが、その後まもなく投稿を削除しました。これはおそらく、独占的な買い手を見つけたか、あるいは運用セキュリティに不手際があり姿を消す必要があったためでしょう。その後、Mistral社は徹底的な調査の結果、不正アクセスの証拠は見つからなかったと述べ、5月の侵害と同じ材料が再び販売された可能性を示唆しています。

AI安全性の議論が社会を席巻している一方で、企業やビジネスは、それが自分たちにとって実際にどのような意味を持つのか、あるいはこれまでと同じ道を歩み続けるべきなのかを模索し続けています。今日の私たちは、この問いに対する具体的な答えと、企業が現在実際に焦点を当てているいくつかの広範なAI課題に目を向けます。

確かに、安全性の議論はビジネスリーダーの会話にも浸透しています。ウォール・ストリート・ジャーナルがWSJテクノロジー協議会サミットで挙手調査を行ったところ、「AIが私たち全員を殺すかもしれない」と心配していると答えた人はごく少数でした。しかし、出席者の約半数はフロンティアAI研究の減速と、より良いガードレールの優先に賛成しました。この結果は、以前の私の主張と一致するかもしれません。それは、市場はあらゆる種類の減速を当初はAIにとって大きなリスクと見なすだろうと考えていましたが、実際には、新しい開発のペースが遅くなれば、企業がAIに支出する額が増加するという、非常に説得力のある経済的対抗論があるというものです。

この理論は基本的に、信じられないほどのスピードと変化のペースが、ある意味で、企業が包括的な変革を行おうとするインセンティブを奪ってしまうというものです。なぜなら、変革が完了する頃には、その労力と時間を費やしたものがもはや関連性がなくなっているかもしれないという論理があるからです。実際、テクノロジー協議会サミットのパネルディスカッションでは、AIの減速が企業がAIを使用する方法にはあまり影響しないという大きな結論が得られました。FedEx Dataworksのプレジデントであるビシャル・タルワール氏は、「AIを善のために適用することは私たちの手の中にあり、私たち次第であり、AIは社会に多くの良いことをもたらすことができると信じている」と述べました。議論は基本的に、メディアの言説を支配している実存的リスクではなく、通常の事業リスクに関する慎重なAIガバナンスの必要性に集中していました。

カナダ投資サミットでは、BlackRock CEOのラリー・フィンク氏が、絶滅リスクよりもデータセンターの反発をはるかに心配していました。彼は、建設の遅れがAIを「大企業の領域」にしてしまう可能性があると警告しました。フィンク氏は「より多くのキャパシティをより早く構築できれば、それだけAIを民主化し、誰もが利用できるようになる」と付け加えました。

一方、スタートアップの世界では、エージェントがより強力になるにつれて、企業が必要とするガバナンスおよび監視ツールについて創業者たちが考え始めています。あるベンチャー投資家はThe Information誌に対し、モデルのセキュリティとインフラストラクチャを改善するテクノロジーを構築するスタートアップに焦点を当て始めていると語りました。言い換えれば、プライベートマーケットは、この懸念の具体的な側面に対処できるスタートアップに資金を投入することで、これらすべての懸念に対応しているのです。これはまさに、私たちが見たい反応の一部と言えるでしょう。

Microsoftもまた、AI安全性の議論を、同社が数ヶ月間主張してきたより広範なAIビジネス主権のポイントに戻そうとしました。今週、同社は非常に広範な15,000語の行動規範文書を公開し、その「単一の最優先目標」として「人間がAIに対して意味のある制御を維持し、AIが人々がより健康で、幸せで、生産的な生活を送るのを助けることができるようにすること」を掲げました。

この文書に関する議論の多くは、AI意識の完全な否定と、AIを意識を模倣するように設計することの禁止に集中していました。しかし、Microsoft CEOのサティア・ナデラ氏は、Xへの投稿でビジネス自体への影響も取り上げ、「企業にとって、独自の暗黙の知識を完全に制御し続けることが不可欠だ。すべての組織は、特定のモデルプロバイダーに依存することなく、独自の継続的な学習ループとヒルクライミングマシンを構築できなければならず、自分たちが制御するモデルや重みに独自の知識を組み込む能力を持つべきだ」と書いています。基本的に、これは企業におけるパワーの集中の一部であり、企業におけるパワーの集中に対処する方法の一つは、独自の独自のデータという形で企業にパワーを譲り渡さないことです。

AI市場のシグナルと企業の支出動向

AI安全性の議論とは別に、企業支出という形でのAI市場のシグナルに関する議論も始まりました。9月9日、Rampは最新のAIインデックスをリリースし、AI支出がAIに支出する企業の上位1%の間で減少したことを発見しました。Rampの主任エコノミストであるエリック・キャリザレス氏は、8月には上位1%の企業が従業員1人あたり月7.2千ドルを支出しており、これは7月のピークである8千ドルから10%減少したと書いています。

Rampデータの限界についてはこれまでも多く議論してきました。Rampは非常に高度に集中した、テクノロジー先行型のアーリーアダプター層の顧客を抱えています。また、同社はコスト効率に特化した製品を推進しています。しかし、これらの注意点すべてを考慮しても、依然として興味深く重要なシグナルを提供してくれます。

この特定の分野における彼らの分析について、私は個人的には夏の季節性が主要な要因であることを過小評価していると考えています。しかし、彼らの見解は、最も洗練されたAIユーザーが、常に最も高価なモデルに依存しない複雑なモデルアーキテクチャにより熟練しているためだというものです。

アロー氏は「私の見解では、これは中国のオープンモデルのせいではなく、モデル競争のせいだ。値下げと、支出の割合が標準モデルや軽量モデルにシフトしており、これらはフロンティアモデルよりもすでに安価だ」と書いています。

Rampが常に正確な分析をしているわけではないという話ですが、彼らのデータは非常に価値があります。以前、彼らは企業がFableを採用していないことを示し、データ保持ポリシーという明白な理由以外のあらゆる推論を主張して、多くの大々的な見出しを引き起こしました。しかし、最近の報告では、データ保持要件を廃止したFable 5.1がエンタープライズ支出の22.5%を占めるようになり、非常に急速に増加していることを発見しました。これは、データ保持ポリシーが採用の大きな障壁であったことを示唆しています。

エンタープライズAIの「今」：Aaron Levieが指摘する主要課題

全体としてどうでしょうか？9月10日、Box社のアーロン・レヴィー氏は、銀行、メディア、情報サービス、保険など、さまざまな業界のエグゼクティブからAIとエージェントのエンタープライズにおける利用について聞いている問題について、Xに長文を投稿しました。アーロンが耳にした大きなトレンドは、サイバーセキュリティ、モデル間の競争、エージェントのセキュリティとアイデンティティ、プロセス再設計、アーキテクチャ調整、評価（evals）、そしてレガシーシステムの障壁でした。

サイバーセキュリティとセキュリティについて、彼は「誰もがAIから彼らに降りかかる脆弱性の増加率と、OpenAI Hugging Face事件の影響について神経質になっている。会話はシリコンバレーほど実存的ではないが、彼らの環境でそれに対して運用上どうすべきかについて、依然として非常に懸念し、実用的だ。AIによる新しい発見が多く、現在実行しなければならないすべての変更に追いつくのはまだ難しい」と書いています。エージェントセキュリティについて書いたものを加えると、彼は続けて「Hugging Faceに多少関連しているが、エージェントがアクセスできるあらゆるシステムに侵入しようとする世界における、エージェントセキュリティとアイデンティティ管理に関する新たな課題への認識がはるかに高まっている。理想的な世界では、企業はすべてのエージェントにアイデンティティを設定し、彼らの行動を制御できるだろうが、もちろん、エージェントがユーザーと全く同じように行動する必要がある場合もある」と述べています。

これは確かに、ポッドキャストやSuper Intelligentでの私たちの会話で多く見られたことです。そして興味深いことに、セキュリティ懸念の多くは悪意のあるアクターに関するものだけではありません。それはある程度、これらのシステムの一般的なパワーに根ざしています。

エンジニアだけでなく、多くの企業で非エンジニアもエージェントにアクセスできるようになった今、それらの非エンジニアが問題を引き起こそうとしていなくても、エージェントのパワーが強すぎて制御できないという事態が発生しています。これは数値にも表れています。Rampのデータを見ると、主任エコノミストのエリック・ケロシアン氏は「企業が支出を増やしている分野の一つはAIセキュリティソフトウェアだ。Hugging Faceのハッキングを受けて、トレンドのソフトウェアベンダーのうち3社は、本番環境のエージェントを監視するために特別に設計されたソフトウェアを製造している」と書いています。彼は、これらの特定のベンダーがHugging Faceのハッキングを阻止できたかどうかは不明だと指摘しましたが、これは明らかにビジネスバイヤーだけでなく、スタートアップビルダーにとっても焦点となるカテゴリです。

アーロンが言及するもう一つの興味深い分野は、オープンソースと代替モデルアーキテクチャの初期の探索です。彼は「ほとんどの企業がエンタープライズ内で複数のフロンティアモデルを導入している。すべてを標準化するのは非常に難しく、チームやユースケース間で異なる好みが見られるが、資金は依然として少数のベンダーに集中している。オープンウェイトは、ほとんどのこれらの組織で大規模な段階にはまだなく、多くの場合、国内のフロンティアオープンソースオプションが不足していることが原因だ」と書いています。

ここにはより多くの選択肢を求める大きな意欲がありますが、今のところ行き場は少ないのです。

それに加えて、アーロンは「アーキテクチャの容赦ない調整」を指摘しています。彼は、「ほとんどの企業が、過去1、2年で異なるベンダーでシステムを何度も変更した例がある」と書いています。「Xを試したがうまくいかなかったので、Yにした」という言葉を、今日の環境ほど聞いたことはありません。ここでの教訓は、イノベーションが非常に速く起こるため、ベンダーが何かを正しく実装するまで誰も待っていないということです。彼らはただ次のベンダーに移っていくだけなのです。

これは、異なるタイプのアクターが異なるタイプのビジネスにどのようにアピールしようとしているかという、現在の競争ダイナミクスを非常に興味深い文脈で捉えていると思います。OpenAIやAnthropicのようなラボは、すべてを自社の環境に統合しようと明らかにしています。特にOpenAIの場合、それはより安価なモデルに焦点を当て、可能な限りモデルの価格を引き下げることに真剣に取り組んできました。これはここ数週間で多く見られたことです。しかし、彼らはまた、今年ずっとそうであったように、OpenAIから最近ローンチされたAstro for Lawのような垂直ソリューションにも焦点を当てています。Astro for Lawのローンチと並行して、OpenAIと法律事務所のCooleyは、Go Publicと呼ぶ製品も共同で立ち上げました。これは、企業が上場する前にSECに提出しなければならないS-1申告書をドラフトするように設計されています。

しかし、異なる企業が取っている異なるタイプの選択肢を完璧に比較するかのように、別の法律事務所であるLatham & Watkinsは最近、OpenAIやAnthropicのモデルの代替として、自社内にシステムを構築するためにNvidiaサーバーを購入していると報じられました。米国で2番目に大きい法律事務所であるLathamは、「時には、非常に機密性の高い情報、クライアント情報があり、それを本当に保護したいので、どのクラウドベンダーにも置きたくない」と述べています。

企業がAI安全性の議論から距離を置く方法の一つは、自社のモデルを所有することであると示唆するかのように、MistralのCEOであるアーサー・メンシュは「企業として自社のAIモデルやシステムを構築し、所有するペースを落とさなければ、あなたにとって終末はないだろう」と投稿しました。Foundation Capitalのジア・グプタ氏もまた、「フロンティアにペースを合わせる」というこの瞬間が、既存のソフトウェア企業にとって良い機会になると考えています。彼女は「もしあなたがどんなソフトウェア会社のCEOで、今すぐオープンウェイトモデルをSKUとして提供していないなら、あなたは眠っている。フロンティアにペースを合わせることは、ソフトウェアの既存企業がこれまでに得た最大の招待状かもしれない。ラボが知能の進歩のペースについて議論する一方で、ソフトウェア企業はすでに持っている知能をコモディティ化するために競争すべきだ。製薬会社や銀行はすでにオープンウェイトモデルを採用し始めており、その一部は利益のためであり、一部は取消可能なラボAPIが彼らがますます望まない依存関係であるためだ。AIネイティブ企業や売上原価を気にするテクノロジー企業も同様のことをしている。試みたほとんどのソフトウェア企業は、オープンウェイトモデルがひどかったために失敗に終わった。しかし、今ではオープンウェイトモデルは十分に良い。私は、すべての主要なソフトウェア会社が、自社の垂直市場のためにモデル工場になるべきだと信じている。独自のワークロードでオープンウェイトモデルをトレーニングし、顧客にそれらのモデルを提供し、本番環境からのフィードバックを利用して継続的に改善すべきだ」と述べています。

最新技術の動向：Gemini 38 Live Extended Thinkingが示す未来

最後に、今週あまり注目されなかったモデルリリースの一つに、Gemini 38 live extended thinkingがあります。このモデルは、もう一つのライブスピーチモデルであり、ターンベースの構造ではなく、連続的な会話を処理できることを意味します。これは、人工分析のスピーチ・トゥ・スピーチ指数でGPT Live One AstraやGrok Voice Think Fast 2.0を上回り、トップを獲得しました。滑らかな会話スタイルに加えて、このモデルはほぼリアルタイムの視覚入力、97言語の自動検出、そしてツール呼び出しへのハンドオフをサポートしており、バックグラウンドでタスクを完了させることができます。

Googleの開発者リレーションズリードであるティム・メッサー・シュミット氏は、このモデルを搭載したミニロボットが手を伸ばすクールな技術デモを公開しました。ティムは、英語とドイツ語の間でシームレスな会話を維持するモデルの能力を実演しました。その含意について推測し、グレッグ・アイゼンバーグ氏は「見えないインターフェースが登場するのか？GoogleはGemini 38 Liveを発表した。これはあなたとタスクについて話し合い、会話が終わった後も作業を続けることができる」と書いています。

「私は、垂直SaaSの90%以上が音声フロントドアを必要とすると考えている。つまり、ソフトウェアの使い方がそれと話すことになり、タイピング、クリック、フォーム入力はあなたなしで裏側で行われるようになる。だから、現場にいる建設業者が何がうまくいかなかったかを声に出して言うだけで、彼がトラックに戻る頃には、見積もりが送られ、在庫が確認され、CRMが更新され、顧客にテキストメッセージが届き、危険なことはすべて彼のためにフラグが立てられている。まさに夢のような話だろ？同じことが看護師、配車係、リクルーター、ブローカー、保険代理人などにも当てはまる。人が話し、エージェントが管理作業を終える。音声ファーストのビジネスを構築する多くの機会がここにある。これが垂直ソフトウェアが目に見えないものになる方法だと私は思う。誰もログインせず、誰もフォームに記入せず、誰もあなたのインターフェースを学ばない。あなたはただ話し、仕事はあなたの後ろで完了する。これはSaaSが向かっている方向の垣間見れる景色だ。まだ完全にそこには達していないが、それは来ている。」

結論：企業が今、取るべき戦略と未来への展望

このように見ていくと、AI安全性に関する議論に対する企業の反応は、ある程度「いつも通り」であると言えます。企業内でのAI導入のペースと課題は、常に企業独自のものであり、そこに付随する大きな組織的慣性の課題と切り離すことはできませんでした。しかし、一方で、この議論がすでに始まっていたトレンドを強化している側面もいくつかあります。

企業は、サイバーセキュリティとセキュリティ問題により多くの時間とリソースを費やす必要が出てくるでしょう。これは常に予見されていたことですが、この点がより明確に浮き彫りになりました。そして、大手ベンダーとの提携だけでなく、オープンウェイトモデルやより自社所有のモデル代替案を探索し検討する説得力のある理由はすでに存在していましたが、今ではその道を進む意欲を持つべき理由がさらに増えています。その最も重要な理由の一つは、規制による混乱の可能性が高まっていることです。

もし私が企業へのアドバイスを一つの考えに要約するとすれば、それは「AI安全性の言説の変化が短期的に企業に大きな影響を与えることはないものの、自社独自のアーキテクチャに実際に投資するなど、最も困難な課題に挑戦する企業が、これまで以上に同業他社や競合他社との差別化を図る可能性を強化している」ということです。

私たちはこれからも、これらのトレンドがどのように進化していくかを注視し続けます。AIは、その潜在的なリスクと計り知れない機会を同時に提示しています。企業がこの複雑な局面を乗り越え、持続的な成長とイノベーションを実現するためには、安全性への配慮とビジネスの現実、そして来るべき技術の可能性を統合した、戦略的で多角的なアプローチが不可欠となるでしょう。