T最新テックトレンド

Vertex AIが拓くMLOps新時代：最先端のAIアプリケーションを迅速かつ確実にデリバリーする開発者ガイド

Google Cloud Tech
0:00--:--

今日のデジタル変革の最前線において、人工知能（AI）はもはや未来の技術ではなく、ビジネスの成長とイノベーションを推進する不可欠な要素となっています。特に、生成AIの急速な進化は、企業が顧客体験を再構築し、新たなサービスを創出する無限の可能性を秘めています。しかし、AIモデルを単に開発するだけでは不十分です。それらを本番環境に展開し、継続的に運用・改善していくプロセス、すなわちMLOps（Machine Learning Operations）が、AIプロジェクトの成功を左右する鍵となります。

MLOpsは単なるバズワードではありません。これは、AIの力を最大限に引き出し、ビジネス価値に変えるための生命線です。データパイプライン、機械学習エンジニアリングパイプライン、そしてアプリケーションエンジニアリングパイプラインの継続的インテグレーション（CI）と継続的デリバリー（CD）を通じて、MLアプリケーションを迅速かつ信頼性高く本番環境にデリバリーするための「人、プロセス、ツール」の集合体を指します。

本記事では、Google Cloudの最先端MLOpsプラットフォームであるVertex AIが、いかにしてこの複雑な課題を解決し、開発者が次世代のAIアプリケーション、特にエージェントを効率的に構築・運用・改善できるかについて、深い洞察と具体的なデモンストレーション、そして実際の顧客事例を交えて徹底的に解説します。Google Cloudの専門家であるチェイス・ライル氏とエリオット・アセティ氏、そしてBlock社のダミアン・ラムーノ・ジョンソン氏による発表を基に、Vertex AIの全貌と、それがもたらすビジネスへの影響、そして将来性を深掘りしていきます。

MLOpsの再定義：人、プロセス、ツールが織りなす生産性革命

MLOpsという言葉は広範な意味を持ちますが、Google CloudがMLOpsを語る上で重要視するのは、「人、プロセス、そしてツールを統合し、MLアプリケーションを本番環境に迅速かつ信頼性高くデリバリーすること」です。これは、データ、MLエンジニアリング、そしてアプリケーションの各パイプラインにおけるCI/CDの原則を徹底することに他なりません。

AIモデルのライフサイクルを、まるで人間の子どもの成長になぞらえることができます。子どもが学校で「教育」を受け、「評価」され、最終的に社会に「卒業」していくように、AIモデルもまた、構築され、包括的に評価され、そして本番環境へと「卒業」していく必要があります。この一連のプロセスを効率的かつ効果的に管理することが、MLOpsの核心です。

Vertex AIで加速するMLOpsライフサイクル

AIアプリケーション、特に生成AIを利用したエージェント開発においては、従来のMLOpsとは異なる新たな課題と機会が生まれています。Vertex AIは、これらの課題に対応し、開発者が円滑にモデルをデリバリーできるよう、ライフサイクルの各段階で強力なツールとサービスを提供します。

1. 発見（Discovery）：無限のモデルの中から最良を見つける

生成AIの分野は、Foundation Modelの爆発的な増加によって特徴づけられます。2024年だけでも58もの関連するFoundation Modelが発表されたというスタンフォード大学の論文が示すように、変化のペースは驚異的です。この膨大な選択肢の中から、自身のビジネスに最適なモデルを見つけ出すことは、それ自体が一つの課題です。

Vertex AIは、この「発見」のプロセスを大幅に簡素化します。

  • Vertex AI Model Garden: 最新かつ最も関連性の高いFoundation Modelへのアクセスを提供します。GoogleはMetaがLlama 3をリリースした同時間内に、Deepseek V3を24時間以内に提供するなど、最先端モデルへの迅速な対応力を誇ります。これにより、開発者は常に最前線の技術を自身のアプリケーションに組み込むことができます。
  • Agent Garden: 今年のGoogle Cloud Nextで発表されたAgent Gardenは、Googleおよびパートナー企業が提供する最新のエージェントにアクセスし、自身のプラクティスに組み込むことを可能にします。これは、単一のモデルだけでなく、特定のタスクを実行するために連携する複数のモデルやツールから構成される複雑なAIエージェントの開発を加速させます。

これらの「庭園」は、開発者が新たなインスピレーションを得て、イノベーションの出発点となる場所です。

2. データキュレーション（Data Curation）：Gen AI時代の新たなボトルネックを解消する

Foundation Modelは非常に高性能ですが、それでもビジネス特有の専門用語、タスク、トピックに対応するためには、独自のデータセットで評価し、必要に応じてファインチューニングする必要があります。ここでボトルネックとなるのが「データキュレーション」です。

予測AIの時代では、例えば「ホットドッグか否か」を分類するような比較的単純なラベル付け作業が主でした。しかし、生成AIにおいては事情が異なります。ビジネスの専門家として、多言語で顧客と自然に会話できるチャットボットを構築する場合、その「参照生成」に必要なプロンプトと生成ペアのキュレーションは、遥かに複雑で専門的な知識を要します。これは、多くの場合、最も時間と労力がかかるプロセスとなります。

Vertex AIは、このボトルネックを解消するための画期的なソリューションを提供します。

  • BigQuery Multimodal Tables: BigQueryは長年オブジェクトテーブルを提供してきましたが、Multimodal Tablesはさらに進化しました。これにより、画像や動画といった単一のオブジェクトだけでなく、テキスト、画像、動画などのマルチモーダルなデータをインラインで参照・管理できるようになります。大量のコンテキストを持つテキストデータや、関連する画像・動画を統合的に分析し、データキュレーションループにシームレスに組み込むことが可能になります。これは、複雑なビジネス環境における生成AIの評価やファインチューニングに必要な、リッチなデータセット作成を劇的に効率化します。

3. 開発と実験（Development & Experiment）：迅速なイテレーションと網羅的な評価

MLアプリケーション開発の「内側のループ」では、データは比較的安定している一方で、MLアプリケーション自体は急速に進化します。この段階の目的は、バッチ予測を生成し、包括的に評価し、ベースラインと比較することで、システムの改善度合いを測り、本番環境への投入準備が整っているかを判断することです。

モデル改善の最も一般的な方法は、RAG（Retrieval Augmented Generation）です。これにより、モデルはビジネスの最新情報にアクセスできるようになります。また、モデルをビジネスの具体的な名詞、動詞、トピック、タスクに合わせてさらにファインチューニングし、ビジネス独自の「パーソナリティ」を与えることも重要です。

しかし、多くの企業が犯しがちな一般的な間違いは、評価メトリクスが限定的すぎることです。一貫性、流暢性、接地性といった基本的な側面だけでなく、以下のような多角的な評価が不可欠です。

  • プレゼンテーション: モデルの応答が、ユーザーにとって適切に提示されているか。
  • デフレクション: モデルが回答できないネガティブなケースにどのように対応するか。これは、幻覚（Hallucination）への対処にも繋がります。

Vertex AIは、この複雑な評価プロセスをサポートします。

  • Vertex AI Evaluation: このオープンソースSDKは、モデルの応答だけでなく、エージェントの「思考の連鎖（chain of thoughts）」やツール呼び出しの「軌跡（trajectory）」までも評価できる点が特徴です。例えば、エージェントが目的の応答を生成するためにどのツールを何回呼び出したか、そのプロセスは最適だったか、といった詳細なインサイトを得ることができます。これにより、レイテンシや故障率といった運用メトリクスと併せて、エージェントの振る舞いを総合的に評価し、信頼性の高いAIシステムを構築するための確固たる自信を得ることが可能になります。
  • Vertex AI Experiments: 開発者が多数の実験を行う中で、どのモデルやエージェントが最良の結果をもたらすかを把握することは困難になりがちです。Vertex AI Experimentsは、すべての実験と関連するメトリクスを自動的に記録・管理し、異なるモデルやエージェントのパフォーマンスをサイドバイサイドで比較できる機能を提供します。これにより、データに基づいた意思決定を迅速に行い、開発サイクルを加速させることができます。

4. リリースとデプロイ（Release & Deployment）：本番環境への確実な移行

モデルの準備が整ったら、次はいよいよ本番環境へのデプロイです。この段階では、インフラの検証、セキュリティとプライバシーのレビュー、敵対的テスト、統合テスト、そしてシャドウデプロイやカナリアデプロイを実施し、レイテンシやコストといった運用指標を悪化させることなく、品質と安全性を確実に向上させる必要があります。

生成AIのモデルは、その入力と出力が「ハイパー次元（hyperdimensional）」であるため、評価ループが以前のモデルに過剰に適合してしまう（オーバーフィット）可能性があり、測定すべき側面を見落とすことがあります。このため、以下のアプローチが推奨されます。

  • 外部ユーザー向け: A/Bテストを実施し、新しいチャレンジャーモデルが既存のチャンピオンモデルよりも優れていることを統計的に検証します。
  • 内部ユーザー向け: サイドバイサイドデプロイメントを実施し、内部ビジネスユーザーが両方のモデルを比較し、リッチなフィードバックを提供できるようにします。

Vertex AIは、これらのデプロイメント戦略を強力にサポートします。

  • Vertex AI Agent Engine: エージェントのデプロイを容易にするためのマネージドサービスです。ツール利用、コンテキスト管理、メモリ管理といったエージェント開発に不可欠な機能を備えており、開発者はインフラの心配なく、数秒でエージェントをデプロイできます。
  • Cloud BuildとAgent Starter Pack: エージェントを本番環境にデプロイする際には、バージョン管理システム（Gitなど）と連携したCI/CDプロセスが不可欠です。Cloud Buildは、自動化されたテストとデプロイパイプラインを構築するためのマネージドCI/CDエンジンです。また、Googleが提供するAgent Starter Packは、エージェントのデプロイプロセスを迅速にブートストラップできるテンプレート集であり、ベストプラクティスに沿った形でエージェントをGoogle Cloudにデプロイすることを可能にします。これにより、ステージング環境での負荷テストや統合テストを経て、確信を持って本番環境へとリリースできます。

5. 運用と監視（Production & Monitoring）：継続的な最適化と改善サイクル

MLモデルが本番環境で稼働し始めたら、今度は「スケールでのサービス提供」の段階に入ります。ここでの主要なタスクは、適切なサービングインフラストラクチャの維持、ログ、メトリクス、トレースの収集と分析です。最も重要なのは、ビジネスパフォーマンス、モデルパフォーマンス、アプリケーションパフォーマンス、データの一貫性、インフラパフォーマンスなど、あらゆる懸念事項にわたってシステムが劣化していないかを理解するための「テレメトリー」の実装です。

生成AIアプリケーション、特にマルチターンチャットやRAGループは、その「温度（temperature）」設定により非決定論的な振る舞いをすることが多く、一つのRAGループ内に5〜10個ものモデルが関与することもあります。このような複雑なシステムでは、モデルやシステムを進化させるたびに、改善しているのか、それとも劣化しているのかを正確に把握するための堅牢なテレメトリーが不可欠です。

  • OpenTelemetry Semantic Conventions for Gen AI: オープンソースコミュニティは、生成AIイベントとトレースのロギング方法を標準化しています。Vertex AIは、この標準に準拠したテレメトリーを提供し、異なるツールや環境間での互換性を保証します。
  • Google Cloud Observability Tools (Cloud Logging, Cloud Monitoring, Cloud Trace): これらは、本番環境で稼働するエージェントの挙動を詳細に可視化します。
    • Cloud Trace: エージェントの「思考の連鎖」やツール呼び出しなど、リクエストのステップバイステップの実行を追跡し、パフォーマンスのボトルネックを特定します。特に生成AIに特化したダッシュボードは、システムプロンプト、モデルへの入力、出力、使用されたモデルなどの情報を分かりやすく表示します。
    • BigQuery: Cloud Traceなどのテレメトリーデータを長期的に保存し、オフライン分析を可能にします。このデータは、エージェントのパフォーマンス、ユーザーの利用パターン、潜在的な問題領域に関する深い洞察を提供します。
  • Vertex AI Tuning: BigQueryに蓄積されたテレメトリーデータは、モデルの改善サイクルに直接フィードバックされます。例えば、特定の応答に不満がある場合、そのデータを抽出して新しいチューニングデータセットを作成し、Vertex AI Tuningを使ってオープンソースモデルやGeminiモデルをファインチューニングできます。これにより、数クリックでモデルのパフォーマンスを継続的に最適化することが可能です。

Vertex AI MLOpsアーキテクチャの全貌：統合されたエコシステム

Google CloudのVertex AIは、AI開発と運用の複雑なプロセス全体をシンプルにするための統合されたアーキテクチャを提供します。Dr. Satis Cartakusの提唱するアーキテクチャ図を基に、その全体像を掘り下げてみましょう。このアーキテクチャは、主要な5つの層で構成されています。

  1. ランディングゾーン（Landing Zone）:

    • 目的: 新しいユースケースやチームがMLOpsを開始するための基盤を提供します。CI/CDツールとInfrastructure as Code（IaC）を活用し、必要なプロジェクトとツールを迅速かつ信頼性高くデプロイします。
    • Vertex AIとの関連: 組織全体での標準化されたMLOps環境の迅速な立ち上げを支援し、チーム間の連携を強化します。

  2. データエンジニアリングパイプライン（Data Engineering Pipelines）:

    • 目的: 継続的にデータを改善し、RAGコーパスや特徴量ストアを最新の情報でリフレッシュします。データレイクハウスとしての役割を果たし、MLモデルの学習と運用に必要な高品質なデータを提供します。
    • Vertex AIとの関連: BigQuery Multimodal TablesやDataflowなどのGoogle Cloudのデータサービスと連携し、マルチモーダルデータの統合管理や大規模なデータ処理を可能にします。

  3. MLエンジニアリングパイプライン（ML Engineering Pipelines）:

    • 目的: 最新のデータに基づいてMLモデルを継続的に再学習（retrain）および再調整（retune）します。モデルの品質とパフォーマンスを常に最適化するためのコアなループです。
    • Vertex AIとの関連: Vertex AI Training、Vertex AI Evaluation、Vertex AI Experimentsがこの層の中心となります。バッチ予測と評価の機能は、モデルの変更（新しいデータ、モデルウェイトのカスタマイズ、エージェントの調整など）がシステムを改善するかどうかを判断するための基盤を提供します。

  4. アプリケーションインテグレーション（Application Integration）:

    • 目的: MLモデルを実際のアプリケーションに統合し、特にエージェントのような複雑なAIアプリケーションを構築します。オーケストレーション、推論ループ、リフレクションループ、ツール利用など、エージェントの高度な機能を実現します。
    • Vertex AIとの関連: Vertex AI Agent Engineがこの層の主役です。ツール利用、コンテキスト管理、メモリ管理など、エージェント開発に特化した多くの便利な機能を提供し、エージェントのデプロイを簡素化します。これにより、開発者は複雑なエージェントロジックの実装に集中できます。

  5. ガバナンス層（Governance Layer）:

    • 目的: システムのデプロイに関連するすべてのアーティファクトを捕捉し、またシステムが生成するログやメトリクスを管理します。透明性、説明責任、規制遵守を確保します。
    • Vertex AIとの関連: Vertex AI Model Registry、Artifact Registry、Cloud Audit Logsなどがこの層を構成します。モデルのバージョン管理、メタデータ管理、アクセス制御を通じて、MLOpsプロセスの健全性と信頼性を維持します。

この包括的なアーキテクチャは、MLOpsが多くの異なるドメインにわたる広範な活動であることを示しています。しかし、Googleは開発者が迅速に開始できるよう、強力な基盤を提供しています。特にGeminiのような高品質で安全なFoundation ModelをVertex AI Model Gardenで提供することで、Googleが長年培ってきたMLOpsシステムの上に、自身のAIアプリケーションを構築することができます。これにより、低レイテンシ、低コストで、最高のパフォーマンスを発揮するAIソリューションを迅速に市場に投入することが可能になります。

実践デモ：Vertex AIで小売エージェントを構築・評価・デプロイする

これまでの理論的な説明を具体的に理解するため、Google CloudのMLOpsジャーニーをVertex AIのツール群を使って小売エージェントを構築するデモを見ていきましょう。このデモは、発見から監視、そして改善に至るまで、MLOpsの全プロセスを網羅します。

デモの目的と全体像

このデモの目的は、Vertex AIとGoogle Cloudのツールを活用し、MLOpsの各段階を実践することです。ダミーの小売エージェントを構築し、GeminiとGemma 3をバックエンドとして評価、そして本番環境にデプロイし、最終的に監視と改善を行う一連の流れを体験します。

1. モデルの発見とデプロイ

旅はVertex AI Model Gardenから始まります。ここでは、GeminiのようなGoogleの最先端モデルや、Gemma 3のようなオープンソースモデルが利用可能です。

  • Gemma 3の高速デプロイ: Model Gardenの画期的な機能の一つが「Fast Deployment」です。これにより、わずか数分でオープンソースモデルをVertex AI Predictionエンドポイントにデプロイし、その性能を迅速にテストすることができます。モデルが自身のユースケースに適合するかどうかを本格的なデプロイにコミットする前に確認できるため、開発の初期段階で大きな時間節約とコスト削減に繋がります。デモでは、Nvidia H100 GPUを用いてGemma 3が迅速にデプロイされる様子が示されました。

2. エージェントの構築

モデルが利用可能になったら、次にAIエージェントを構築します。このデモでは、Colab Enterpriseを開発環境として使用します。

  • LangGraphによるエージェント定義: オープンソースフレームワークであるLangGraph（あるいはGoogleがリリースしたAgent Development Kit: ADK）を使用してエージェントを構築します。このエージェントには、特定のタスクを実行するための「ツール」が付与されます。
    • Get Product Detailsツール: 商品名に基づいて、その商品の説明を返すダミーのツール。
    • Get Product Priceツール: 商品名に基づいて、その商品の価格を返すダミーのツール。
    • 実世界のシナリオ: これらのツールは、実際にはデータベース、NoSQLストア、またはベクトルストアに接続して、ビジネスのリアルタイムデータや企業知識ベースから情報を取得する役割を担います。
  • LLM駆動のエージェント: 構築されたLangGraphエージェントは、GeminiまたはGemma 3といったLLMを「脳」として使用し、ユーザーの質問に応じて適切なツールを呼び出し、応答を生成します。デモでは、Gemini 2.0 Flashをバックエンドとして使用し、「woodphoneの商品詳細を教えて」「OMAD miniの価格は？」といった質問に対して、ツールを適切に呼び出し、正確な応答を生成する様子が示されました。

3. 詳細な評価

エージェントのプロトタイプが完成したら、次の重要なステップは評価です。Vertex AI Evaluationは、このプロセスを体系的かつ包括的にサポートします。

  • エージェント評価の重要性: Vertex AI Evaluationの最もクールな機能の一つは、単なるモデルの応答だけでなく、エージェントの「軌跡（trajectory）」、すなわち応答に至るまでの「思考の連鎖」や「ツール呼び出し」までも評価できる点です。これにより、エージェントがどのように意思決定を行い、情報を取り込み、出力を生成したかを深く理解し、その効率性や正確性を改善することができます。
  • 評価データセットの作成: 評価には、ビジネスの専門家と協力して作成された評価データセットが必要です。このデータセットには、各プロンプトに対して、エージェントが期待される応答を生成するために取るべき「参照軌跡」や、呼び出すべきツール、その入力などが含まれます。例えば、「wafunの価格を教えて」というプロンプトに対しては、「Get Product Price」ツールが「wafun」を引数として呼び出されるべきである、といった具体的な期待値を定義します。
  • メトリクスの定義: Vertex AI Evaluationは、単一ツール使用、軌跡の正確性、精確度、再現率といった事前構築済みのメトリクスを多数提供しています。これにより、開発者はゼロからメトリクスを定義する手間を省けます。さらに、安全性や一貫性といった最終応答の品質を評価するメトリクスも利用できます。もちろん、必要に応じてカスタムメトリクスを定義し、事前構築済みメトリクスと組み合わせて使用することも可能です。
  • バッチ評価と結果分析: 定義されたメトリクスを用いて、エージェントは評価データセットに対してバッチでスコアリングされ、評価結果が生成されます。Vertex AI Evaluationは、評価全体のサマリーメトリクス（平均、標準偏差など）を提供するだけでなく、各プロンプトに対する詳細な行ごとのメトリクスも表示します。これにより、特定のプロンプトでエージェントがなぜ特定の振る舞いをしたのか、どのようなエラーが発生したのかを深く掘り下げて分析できます。

4. モデル比較と実験管理

Geminiベースのエージェントの評価が完了したら、次にGemma 3ベースのエージェントと比較します。

  • Gemma 3への切り替え: Model GardenからデプロイしたGemma 3モデルのIDをエージェント設定に渡すだけで、バックエンドのLLMを簡単に切り替えることができます。デモでは、Gemma 3も同様に商品価格を正しく応答する能力があることが示されました。
  • Vertex AI Experimentsによる比較: Vertex AI Evaluationは、実行されたすべての評価データを自動的にVertex AI Experimentsに送信します。Vertex AI Experimentsのダッシュボードでは、GeminiとGemma 3の両方のエージェント評価結果をサイドバイサイドで比較できます。これにより、各メトリクスにおいてどちらのモデル/エージェントが優れているかを視覚的に把握し、データに基づいた意思決定を行うことができます。これは、多数の実験を管理し、最適なモデル構成を見つける上で非常に強力な機能です。

5. CI/CDによる本番デプロイ

多数の実験と評価を経て、最適なエージェント構成が見つかったら、いよいよ本番環境へのデプロイです。この段階では、継続的デリバリー（CD）の原則を適用し、自動化されたパイプラインを通じて安全かつ確実なデプロイを目指します。

  • Vertex AI Agent Engineによるデプロイ: Vertex AI Agent Engineは、エージェントを本番環境にデプロイするための非常にシンプルな方法を提供します。定義済みのエージェントクラスと必要条件を渡すだけで、数分でユーザーが利用可能なエージェントがGoogle Cloudに展開されます。
  • Cloud BuildとAgent Starter Pack: 実際のMLOpsプロセスでは、Gitベースの開発フローとCI/CDパイプラインが不可欠です。
    • Agent Starter Pack: Googleは、エージェントのデプロイプロセスをブートストラップするための公開ソリューション「Agent Starter Pack」を提供しています。これは、ベストプラクティスに沿ったテンプレート集であり、開発者がエージェントコードをGoogle Cloudに迅速にデプロイするためのガイドとなります。
    • Cloud Build: デモでは、Agent Starter Packで構築されたGitリポジトリがCloud Buildと連携し、エージェントのコードがコミットされるたびに自動的にCI/CDパイプラインがトリガーされる様子が示されました。
  • ステージング環境と負荷テスト: まず、エージェントはVertex AI Agent Engineを使用してステージング環境にデプロイされます。この後、Cloud Buildパイプラインは負荷テストと統合テストを実施します。これにより、エージェントが想定される負荷の下で正しく機能し、レイテンシやスループットといった運用上の懸念事項がないかを確認できます。この「確信構築（building confidence）」のプロセスは、本番デプロイにおけるリスクを最小限に抑える上で極めて重要です。
  • 承認と本番デプロイ: 負荷テストと統合テストの結果に満足した場合、ユーザーは本番環境へのデプロイを承認します。承認後、別のCI/CDパイプラインがトリガーされ、エージェントはVertex AI Agent Engineを通じて本番環境へとデプロイされます。デモでは、本番エンドポイントが正常に動作し、ユーザーからのリクエストに適切に応答する様子が確認されました。

6. 本番監視と継続的改善

エージェントが本番環境でユーザーとインタラクションを開始すると、新たなデータ、すなわち「洞察」の収集が始まります。これは、新たな改善サイクルの始まりでもあります。

  • Cloud Traceによる実行トレーシング: Cloud Traceは、ユーザーからエージェントへの各リクエストの実行フローをステップバイステップで可視化します。エージェントがどのように思考し（Gemini/Gemmaへの呼び出し）、どのツールをいつ呼び出し、最終的な応答をどのように生成したか、といった詳細な軌跡を追跡できます。特に生成AIに特化したダッシュボードは、モデルへの入力、出力、システムプロンプトといった重要な情報を分かりやすく表示します。これにより、問題発生時のトラブルシューティングや、エージェントの振る舞い分析が容易になります。
  • BigQueryへのテレメトリーデータ蓄積: Cloud Traceなどから収集されたすべてのテレメトリーデータは、BigQueryに自動的に同期され、長期的に保存されます。このデータには、エージェントへのすべての入力と出力、モデルのバージョン、レイテンシ、ツール呼び出しの詳細などが含まれます。
  • データに基づく洞察と改善: BigQueryに蓄積された豊富なテレメトリーデータは、ビジネスの洞察を構築するための基盤となります。
    • ダッシュボードと分析: このデータを使ってダッシュボードを構築し、エージェントのパフォーマンス、ユーザーの利用パターン、潜在的な改善領域を監視できます。
    • チューニングデータセットの作成: もしGemini Flashなどのモデルのパフォーマンスに満足できない場合、BigQueryから特定のインタラクションデータや応答を抽出して「チューニングデータセット」を作成できます。
    • Vertex AI Tuningによるモデル改善: Vertex AI Tuningは、このチューニングデータセットを使用して、オープンソースモデルやGeminiモデルを数クリックでファインチューニングできるサービスです。JSONファイル形式でチューニングデータセットを渡し、「チューニング開始」をクリックするだけで、数分後には改善されたモデルが利用可能になります。これにより、本番環境からのフィードバックに基づいて、モデルを継続的に最適化するMLOpsの「再学習」ループが完成します。

このデモは、Vertex AIがいかにMLOpsの複雑な各段階を統合し、開発者が生成AIエージェントを効率的に構築・評価・デプロイ・運用できるかを示す強力な例証となりました。

Block社の事例に学ぶ：Vertex AIによる大規模MLOpsの実現

Google Cloudの顧客であるBlock社（旧Square）は、Cash AppやTitleといったブランドを擁するフィンテック企業であり、2017年からGoogle Cloudを利用してきました。同社の機械学習エンジニアであるダミアン・ラムーノ・ジョンソン氏が、Vertex AIがいかに彼らの大規模MLOpsワークロードを加速させているかについて語りました。

Block社におけるVertex AIの概要

Block社は、Vertex AIのさまざまなサービスを大規模に活用しています。特に注目すべきは、開発者がMLモデルを開発し、本番環境にデプロイするために利用するVertex AI WorkbenchとVertex AI Trainingです。同社は、自社開発のMLOpsソリューションからGoogle Cloudへの移行を通じて、開発者の生産性と運用の安定性を劇的に向上させました。

1. Vertex AI Workbench (旧 Vertex AI Notebooks)

モデル開発者たちは、データ探索やインタラクションのためにノートブックを好んで利用します。Block社はかつて自社でノートブック環境を構築・管理していましたが、メンテナンスコストやユーザーからの新たな要望に対応する課題に直面していました。そこで、Google CloudのAI Platform（AIP）を経て、現在のVertex AI Workbenchに移行しました。

  • 開発環境のカスタマイズと柔軟性: Vertex AI Workbenchは、開発者が自身の環境を完全にカスタマイズできる自由度を提供します。高価なGPU、大量のメモリ、特定の視覚化ツールなど、モデル開発者の多様なニーズに対応できます。
  • 永続ストレージとデータアクセス: Google File StoreやGCS（Google Cloud Storage）を通じて、複数のノートブックから共通のデータセットやノートブックにアクセスできる永続ストレージを提供します。これにより、データの一貫性が保たれ、開発者はデータの管理に煩わされることなく、モデル開発に集中できます。
  • リモート開発環境への拡張: ノートブックは探索的な作業には優れていますが、再現性のあるコード開発には限界があります。Block社はVertex AI Workbenchのカスタマイズ性を活用し、VS CodeやCopilotなどのIDEをホストする「フルリモート開発環境」へと拡張しました。これにより、開発者はセキュアなVPCネットワーク内で、ローカル環境では困難な機密性の高いリアルデータにアクセスしながら、開発作業を進めることができます。
  • SDKによる高度なカスタマイズ: Vertex AI WorkbenchのUIは優れていますが、SDKを利用することで、さらに高度なカスタマイズと自動化が可能となり、開発者にとって最適な体験が提供されています。

2. Vertex AI Training

データ探索とモデル構築が完了したら、次にモデルを本番環境にデプロイするためのトレーニングを行います。Block社はVertex AI Trainingをこの目的で利用しており、特に「カスタムジョブ」を主力としています。

  • 大規模なトレーニングワークロード: Block社では、月間10万を超えるトレーニングジョブがVertex AI Training上で実行されています。モデル開発者が自身のコンピューティングリソースをほぼ完全に制御できるため、多様なモデルとトレーニング要件に対応可能です。
  • 柔軟なカスタムジョブ: 同社は、Kubeflowのような特定のパイプライン構造に移行するよりも、カスタムジョブによる完全な制御を好んでいます。これにより、既存のワークフローを大きく変更することなく、Vertex AIの強力なトレーニングインフラを活用できています。
  • トレーニングジョブのオーケストレーション: トレーニングジョブのトリガーには、Cloud Run上でホストされている自社開発の「Prefix」というサービスが利用されています。
  • GPUリソースの効率的活用: GPUは高価であり、常に利用可能とは限りません。Block社はGoogleの「Dynamic Workload Scheduler」を活用することで、Vertex AI Trainingでスケジュールされたジョブが、GPUリソースを効率的に取得し、失敗することなく実行されるようにしています。これにより、高価なGPUリソースの利用効率を最大化し、コストを最適化しながら、安定したトレーニングプロセスを維持しています。

3. オープンソースライブラリ「Cascade」の貢献

Vertex AI TrainingのAPIは強力ですが、モデル開発者にとっては学習曲線が急であり、開発速度を低下させる可能性があります。この課題を解決するため、Block社は「Cascade」というオープンソースライブラリを開発しました。

  • APIの抽象化による開発者の生産性向上: Cascadeは、Vertex AI Trainingへのマネージドジョブの送信を容易にするPythonライブラリです。開発者は、Vertex AIの生のAPIの詳細を気にすることなく、シンプルなPythonコードでトレーニングジョブを定義・実行できます。
  • @remote デコレータの活用: Cascadeの中心的な機能は、@remote デコレータです。このデコレータをPython関数に適用することで、その関数をリモートのVertex AIトレーニングジョブとして実行できます。
    • 例: 「複雑な加算関数」を例に、開発者はローカルのスクリプトから、このデコレータが付与された関数を呼び出すことで、実際の実行はVertex AI上の指定されたコンピューティングリソース（例えば、GPUを搭載したマシン）で行われます。結果は自動的にローカルスクリプトに返されます。
    • ユースケース: この機能は、データ前処理のようなGPUを必要としない安価な計算リソースで実行できるタスクと、モデルトレーニングのような高価なGPUを必要とするタスクを分離するのに非常に有効です。開発者は、スクリプト内で異なるリソースを使い分け、全体のワークロードを最適化できます。
  • 月10万ジョブの実現: Cascadeのようなツールは、Block社が月間10万ものトレーニングジョブを安定して実行できるようになった主要因の一つです。これは、開発者がMLOpsの複雑さから解放され、モデル開発に集中できる環境を構築することの重要性を示しています。

今後の展望と課題

Block社は、Google Cloudの導入により、ユーザー数の10倍増という急激な成長にもかかわらず、非常に安定した運用を実現してきました。しかし、MLOpsの旅に終わりはありません。

  • 開発速度のさらなる向上: 現在の主要な焦点は、開発速度のさらなる向上です。デプロイに数分かかるイテレーションループでは、些細な構文エラーが積み重なると開発者のフラストレーションに繋がります。
  • インタラクティブなデバッグ環境: 特にGPUジョブの場合、Dynamic Workloader SchedulerはGPUの確保に貢献しますが、それでも数分の待ち時間が発生することがあります。バグが発生した場合、GPUを待って再試行するのは非効率的です。Block社はGoogleと協力し、よりインタラクティブなデバッグ環境を構築し、「迅速に失敗し、迅速に修正する」ことを目指しています。

Block社の事例は、Vertex AIが提供する包括的なMLOpsソリューションが、大規模な組織において、いかに開発者の生産性を高め、複雑なMLワークロードを安定かつ効率的に運用できるかを示す強力な証拠です。

まとめ：Vertex AIが拓くAI開発の未来

生成AIの登場により、MLOpsの風景は劇的に変化しました。Foundation Modelの爆発的な増加、マルチモーダルデータの管理、エージェントの思考プロセスの評価、そして非決定論的なシステムの監視といった新たな課題が次々と生まれています。しかし、Google CloudのVertex AIは、これらの課題に対応するための包括的かつ革新的なソリューションを開発者に提供しています。

本記事で詳細に見てきたように、Vertex AIはMLOpsの全工程をシームレスに統合します。

  • 発見: Model GardenとAgent Gardenで最新かつ最高のモデルやエージェントにアクセスし、イノベーションの出発点を提供。
  • キュレーション: BigQuery Multimodal Tablesで、生成AIに不可欠な複雑な評価・チューニングデータの管理を簡素化。
  • 開発と実験: Vertex AI EvaluationとVertex AI Experimentsで、モデルの応答だけでなく、エージェントの思考プロセスやツール利用の軌跡までも網羅的に評価し、データに基づいた迅速な意思決定を支援。
  • リリースとデプロイ: Vertex AI Agent EngineとCloud Buildを組み合わせ、CI/CDパイプラインを通じてエージェントを迅速かつ確実に本番環境へデプロイ。
  • 運用と監視: Cloud Trace、BigQuery、OpenTelemetry Semantic Conventions for Gen AIを活用し、本番環境でのエージェントの振る舞いを詳細に監視し、Vertex AI Tuningを通じて継続的な改善サイクルを実現。

Block社のような先進的な企業の事例は、Vertex AIが単なるツールの集合体ではなく、大規模なMLOpsの課題を解決し、開発者が真に革新的なAIアプリケーションを構築・運用するための強力なプラットフォームであることを証明しています。

AIの進化は止まることなく、MLOpsの重要性はますます高まるでしょう。Vertex AIは、この変革の最前線に立ち、企業が迅速に、信頼性高く、そしてスケーラブルにAIの力をビジネス価値に変えるための道筋を照らしています。

さらに深くMLOpsと生成AIについて学びたい方は、以下のリソースもぜひご参照ください。

  • Kaggle 5-day GenAI Intensive
  • ホワイトペーパー: Operationalizing Generative AI on Vertex AI
  • ホワイトペーパー: Evaluating Large Models from the Vertex AI Evaluation Team
  • ホワイトペーパー: Agents Companion

AI開発の未来は、MLOpsの革新にかかっています。Vertex AIとともに、その未来を今日から築き始めましょう。

← 一覧に戻る