T最新テックトレンド

YouTubeはGeminiでどう進化したか？AIが拓く動画レコメンデーションの未来

AI Engineer
0:00--:--

はい、承知いたしました。経験豊富なジャーナリストとして、ご指定の動画コンテンツを深く分析し、最新技術に関する専門性と分かりやすさを両立させたブログ記事を生成します。

生成AIの波が世界を席巻し、特に大規模言語モデル（LLM）は「検索」という情報探索のあり方を根底から覆す可能性を秘めていると話題です。しかし、実はその裏で、さらに大きな変革が、私たちの日常生活に深く根ざした「レコメンデーション」の領域で静かに、しかし確実に進行していることをご存知でしょうか？

本日、私はAI Engineer World's Fairでのプレゼンテーションから、YouTubeがGoogleの最新LLM「Gemini」をどのように活用し、そのレコメンデーションシステムを革新しているかについて深く掘り下げていきます。この取り組みは、単にユーザー体験を向上させるだけでなく、コンテンツ消費、そしてひいてはコンテンツ創造の未来を形作る可能性を秘めているのです。

YouTubeレコメンデーションの核心：視聴体験を司る見えない力

まず、なぜレコメンデーションがこれほどまでに重要なのかを考えてみましょう。動画のプレゼンターが問いかけたように、私たちの中で毎日YouTubeを見ない人はほとんどいないでしょう。YouTubeは世界最大級のコンシューマーアプリであり、その膨大な視聴時間の大部分は、実はレコメンデーションシステムによって提供される動画によって占められています。

あなたのホームフィード、次に視聴すべき動画（WatchNext）、Shorts、さらには検索結果でさえも、多かれ少なかれパーソナライズされた推薦が含まれています。このパーソナライズされたレコメンデーション問題とは、ユーザー（デモグラフィック、年齢、性別、所在地など）とコンテキスト（過去100件の視聴履歴、エンゲージメント、コメント、チャンネル登録など）を入力として、次に視聴するのに最適な動画のリストを出力する「関数」を学習することに他なりません。

これまでYouTubeでは、多層的なランカー、埋め込みモデル、シーケンス・トゥ・シーケンス、トランスフォーマーなど、様々なモデリング技術を試みてきました。しかし約2年前、Googleは「Gemini」というブレークスルーを果たした大規模言語モデルを、このYouTubeのレコメンデーションシステムにどう適応させるかという、新たな挑戦を開始しました。

LRM（大規模レコメンデーションモデル）：GeminiとYouTubeの融合

YouTubeのチームが構築したのは「LRM（Large Recommender Model）」と呼ばれるシステムです。これは、Geminiの汎用的な知能を基盤としつつ、YouTubeという特定のドメインの膨大なデータと、レコメンデーションという固有のタスクに特化させることで、その能力を最大限に引き出すことを目指しています。

LRMの構築プロセスは、Geminiのベースチェックポイントから始まります。これに大量のYouTube固有情報を学習させることで、動画の検索（Video Retrieval）やランキング（Video Ranking）といった、異なるレコメンデーション関連タスクに対応できるよう調整されています。プレゼンターは、LRMが既に検索システムとして本番環境に導入され、ランキングの側面でも活発に実験が行われていることを明らかにしました。

このGeminiベースのLRMは、これまでのモデルでは難しかった、ユーザーの深い嗜好や文脈を捉え、より精度の高い動画推薦を可能にする、まさに動画プラットフォームの未来を象徴する存在です。

SemanticID：YouTubeのコンテンツに「言語」を授ける革新

LLMをレコメンデーションに活用する上で、最も根本的かつ重要な課題の一つが「動画のトークン化」でした。LLMがテキストをトークンとして理解し、次の単語を予測するように、動画に対しても同様のメカニズムを適用したい――つまり、動画のリストを入力として与え、次に良い「動画トークン」を出力させたいのです。しかし、単に動画のタイトルや説明文だけをLLMに与えるだけでは、動画の豊かな情報を十分に捉えきれません。また、従来の動画IDは意味的な関連性を持たず、LLMが動画間の関係性を学習する上での障壁となっていました。

そこでYouTubeチームが開発したのが「SemanticID」という画期的なシステムです。これは昨年、RecSysで論文発表された技術であり、YouTubeの動画コンテンツに新たな「言語」を創り出すことを目的としています。

SemanticIDのプロセスは以下の通りです。

  1. 特徴抽出: YouTube動画から、タイトル、説明、トランスクリプト（文字起こし）、音声情報、さらには動画フレームレベルのデータなど、あらゆる特徴を抽出します。
  2. 埋め込み生成: これらの多種多様な特徴は、多次元の「埋め込み（Embedding）」として統合されます。
  3. 量子化とトークン化: この埋め込みは「Residual Vector Quantization (RVQ) モジュール」を通じて量子化され、最終的に各動画に一意の「トークン」が付与されます。

このSemanticIDによって、YouTube上の何百億もの動画は、意味的に関連性の高いトークン群として組織化されます。例えば、トークンの最初の部分で「音楽」「ゲーム」「スポーツ」といった大まかなトピックを表し、続くトークンで「バレーボール」「女子バレーボール」のように具体的な内容を掘り下げていくことが可能です。同じSemanticIDプレフィックスを持つ動画は、類似したコンテンツを持つことになり、LLMが動画間の意味的な関係性をより深く理解するための基盤となります。これは、単なるハッシュ値に基づく動画IDから、コンテンツの意味を内包する「言語」への転換を意味する、極めて重要なマイルストーンです。

継続的な事前学習：LRMが英語と動画の「バイリンガル」に

SemanticIDによって動画コンテンツがトークン化されたことで、次のステップとして、LRMにこの新たな「YouTubeの言語」を理解させることが可能になりました。YouTubeチームは、LLMが英語と動画トークンの両方を「話す」ようになるための「継続的な事前学習」プロセスを実施しました。

この学習は主に2つの要素から構成されます。

  1. テキストとSemanticIDの連携学習: モデルに特定の動画のSemanticIDを与え、「この動画のタイトルは？」と質問すると、モデルは動画のタイトルを英語で出力するように訓練されます。これにより、モデルは英語のテキストと動画トークンとの間の対応関係を学習し、動画の内容を英語で説明したり、英語のクエリから関連動画を特定したりできるようになります。
  2. ユーザー行動シーケンスからの学習: YouTubeは、ユーザーが視聴した動画のシーケンス（SemanticIDの連なり）という膨大なエンゲージメントデータを持っています。モデルにユーザーの過去の視聴履歴（動画トークンシーケンス）を与え、その中の一部をマスクし、マスクされた動画を予測するように訓練します。これにより、モデルはユーザーの視聴履歴やエンゲージメントパターンに基づいて、動画間の関係性やユーザーの嗜好を深く理解するようになります。

この継続的な事前学習の結果、LRMは英語の自然言語とYouTube動画のSemanticIDという、二つの異なるモダリティを横断して推論できる「バイリンガル」なモデルへと進化しました。プレゼンターが示した例では、テニス、F1、数学に関する動画の特性を英語で示し、新たなAIに関する動画の特性を尋ねると、モデルは「テクノロジーファンにとって興味深い」と予測しました。これは、LRMが単なるパターン認識を超え、動画の内容やユーザーの興味を高いレベルで抽象化し、理解していることを示唆しています。

生成型リトリーバル：LRMが拓くパーソナライズされた推薦の地平

LRMが動画の「言語」を理解し、英語と動画の間で推論できるようになったことで、YouTubeは「生成型リトリーバル」という新しいアプローチでレコメンデーションを実現しています。これは、ユーザーのデモグラフィック情報、現在視聴しているシード動画、そして過去の視聴履歴といった情報を組み合わせたプロンプトをLRMに与え、モデルに次の推薦動画のSemanticIDを生成させるというものです。

このアプローチの最大の強みは、LRMが特に難しかったレコメンデーション問題に対して、ユニークでパーソナライズされた推薦を発見できる点にあります。プレゼンターが示した例では、24歳女性のAndroidユーザーがオリンピックの男子陸上競技ハイライトを視聴している際、従来のシステムは「他の男子陸上競技」を推薦するに留まっていました。しかし、LRMはユーザーのデモグラフィックや過去の視聴履歴から、「関連性の高い女子陸上競技のレース」という、よりユニークでパーソナライズされた推薦を生成することに成功したのです。これは、ユーザーが明示的に求めていないにも関わらず、その潜在的な興味やニーズをLLMが汲み取り、新たなコンテンツとの出会いを創出できる可能性を示しています。

LRMは、これまで人間が気づかなかったようなコンテンツ間の微妙なつながりや、ユーザーの多様な興味の側面を捉え、それを推薦に活かすことで、ユーザー体験を劇的に向上させています。

LRMの課題と効率的なサービス提供への道

LRMは確かに強力なモデルですが、YouTubeという途方もないスケールで運用するためには、いくつかの大きな課題に直面しました。

LRMの強み:

  • 高速学習: LRMは非常に早く学習し、比較的少ない訓練データでプロダクションレベルのパフォーマンスに到達できます。
  • トレーニングデータの効率性: 必要なデータ量が少なく、効率的に学習を進めることが可能です。
  • 難解なレコメンデーションタスクへの対応: 特にユーザーについて情報が少ない場合でも、複雑な推薦タスクを処理できます。

LRMの限界:

  • 高コスト: Geminiのような大規模モデルは、YouTubeの毎日数十億人のユーザーにサービスを提供するには、現在のTPU（Tensor Processing Unit）のサービスコストが高すぎました。

この高コストという最大の課題を解決するため、YouTubeチームはLRMをオフラインで効率的にサービスする戦略を開発しました。

  1. オフライン推薦テーブルの構築:
    • YouTubeの数十億本の動画コーパスから、視聴時間の大部分を占める人気のある「ヘッド」動画を特定します。
    • これらの動画を「シード動画」として、LRMにオフラインでプロンプトを与え、それぞれのシード動画に対する推薦候補のSemanticIDを生成させます。
    • これにより、「シード動画A」に対して「候補動画B1, B2, B3」といった形の一対多の「オフライン動画推薦テーブル」が構築されます。
  2. 効率的なサービス提供:
    • ユーザーが動画を視聴する際、LRMのリアルタイム推論を行う代わりに、このオフラインで構築されたテーブルからシード動画に対応する推薦動画をシンプルにルックアップして提供します。

このオフライン化戦略により、TPUのサービスコストを95%以上削減することに成功し、YouTubeの巨大なスケールでのLRMの運用が可能になりました。これは、大規模なAIモデルを実用化する上で、モデルの最適化だけでなく、インフラストラクチャとサービスアーキテクチャの革新がいかに重要であるかを示す好例です。

YouTubeが直面する独自の挑戦：語彙、鮮度、スケール

YouTubeのレコメンデーションシステムは、一般的なLLMとは異なる独自の課題に直面しています。プレゼンターは、これを「語彙」「鮮度」「スケール」の3つの観点から説明しました。

  1. 語彙と言語コーパスのサイズ:
    • Geminiのような英語LLMの語彙は約10万語（オックスフォード辞書）で、毎年約1000語が追加されます。
    • 一方、YouTubeの「動画語彙」は、200億本以上の動画から構成され、毎日数百万本の新しい動画がアップロードされます。その規模は桁違いであり、動画コンテンツの「語彙」の多様性と膨大さは、英語のそれとは比較になりません。
  2. 鮮度（Freshness）:
    • LLMが「rizz（リズ）」（2023年のオックスフォード辞書ワード）を知らなくても、質問の99%には答えられます。一部のジョークやポップカルチャーのリファレンスを見逃す程度です。
    • しかし、YouTubeの世界では事情が異なります。もしテイラー・スウィフトが新しいミュージックビデオをリリースしたら、YouTubeはそれを数分から数時間以内にユーザーに推薦できなければなりません。さもなければ、多くのユーザーは不満を抱くでしょう。つまり、大規模なコーパスの中でも、リアルタイムで重要な動画を識別し、適切なユーザーに速やかに推薦する「鮮度」が極めて重要となります。このため、LRMは数日〜数時間単位で継続的に再学習を行う必要があります。
  3. スケール（Scale）:
    • Gemini Proのような素晴らしいモデルは存在しますが、毎日数十億のアクティブユーザーにサービスを提供するには、現在のところコストが高すぎます。
    • YouTubeでは、Flashのような、より小さく効率的なモデルや、さらに小さな最適化されたチェックポイントに注力することで、膨大なレイテンシーとスケールの要件を満たしています。

これらのYouTubeが直面する独自の課題は、LLMをレコメンデーションシステムに応用する上での複雑さと、それを克服するために必要な技術的工夫の深さを示しています。

LLM × RecSysの未来像：コンテンツがユーザーに寄り添う時代へ

プレゼンターは、LLMとレコメンデーションシステムの融合が今後どのような未来を切り開くかについて、3つのフェーズを提示しました。

  1. LLMによるレコメンデーションの増強 (LLMs augment recommendations):
    • これは現在私たちがいる段階です。LLMは推薦の質を向上させますが、その機能はユーザーにはほとんど「見えない」形で提供されます。まるで魔法のようにYouTubeのフィードが良くなったと感じるかもしれませんが、裏でGeminiが動いていることを意識することは少ないでしょう。プレゼンターは、この側面が「アンダーハイプ」されていると指摘しました。
  2. インタラクティブなレコメンデーション (Interactive Recommendations):
    • 近い将来、ユーザーはレコメンデーションシステムと自然言語で直接対話できるようになるでしょう。ユーザーは自分の視聴目標（例：「今日は新しい言語を学びたい」「特定のジャンルの映画を探している」）を明確に伝え、それに基づいて推薦を誘導できるようになります。
    • さらに、推薦されたコンテンツについて「なぜこれを推薦したの？」と尋ねれば、システムがその理由を説明してくれるようになるでしょう。これにより、ユーザーはより深いレベルで推薦を理解し、信頼できるようになります。この段階では、検索とレコメンデーションの境界線はさらに曖昧になるでしょう。
  3. レコメンデーションから生成コンテンツへ (Recommendation -> Generative Content):
    • これはより遠い未来の姿です。レコメンデーションシステムは、単に既存のコンテンツを推薦するだけでなく、個々のユーザーの嗜好に合わせてパーソナライズされた「N of 1コンテンツ」を生成し、それを推薦するようになるかもしれません。
    • 例えば、特定のユーザーのためにカスタマイズされたニュース要約、あるいはユーザーの好きなキャラクターやテーマが登場する短いアニメーションなど、AIがユーザーのためだけにコンテンツを創作する時代が訪れるかもしれません。

これらの未来はまだ完全には実現していませんが、AI技術の驚異的な進歩を鑑みると、私たちが予想するよりも早く現実のものとなる可能性を秘めています。

結論

YouTubeによるGeminiとLRMの活用は、動画レコメンデーションの分野における革新の最前線を走っています。SemanticIDによって動画コンテンツがLLMにとっての「言語」となり、継続的な事前学習によって英語と動画の間で推論が可能になったLRMは、私たちに、よりパーソナライズされ、予測不能なコンテンツとの出会いを提供し始めています。

確かに、YouTubeのような膨大なスケールとリアルタイム性が求められる環境でのLLMの運用には、コストや鮮度といった独自の課題が存在します。しかし、オフライン推論といった戦略的なアプローチと、継続的な技術開発によって、これらの課題は着実に克服されつつあります。

LLMがレコメンデーションを増強し、インタラクティブな対話を可能にし、最終的にはユーザーのためのコンテンツを生成する未来は、私たちのデジタル体験をより豊かで意味深いものに変えるでしょう。このYouTubeの取り組みは、AIが私たちの日々の生活にどのように浸透し、新たな価値を創造していくかを示す、刺激的なロードマップと言えるでしょう。私たちは今、AIが主導するコンテンツ発見の新たな黄金時代への入り口に立っているのかもしれません。

← 一覧に戻る