T最新テックトレンド

Randall Huntが語る「AI Engineer World's Fair」：生成AIの真価を引き出すCaylentの戦略と実践

AI Engineer
0:00--:--

テクノロジーの進化が止まらない現代において、特に生成AI（Generative AI）は、私たちのビジネスや日常生活に革命をもたらす可能性を秘めた技術として、大きな注目を集めています。しかし、その一方で、「生成AIは本当に万能なのだろうか？」「どのようにビジネスに組み込めば、真の価値を発揮できるのだろうか？」といった疑問を抱く企業も少なくありません。

先日開催された「AI Engineer World's Fair」において、CaylentのCTOであるRandall Hunt氏が登壇し、生成AIに関するCaylentの戦略と実践について深く掘り下げたプレゼンテーションを行いました。彼は、生成AIが単なる魔法の弾丸ではないことを強調しつつ、その真価を最大限に引き出すための具体的なアプローチと、Caylentが顧客と共に築き上げてきた革新的なソリューションの数々を紹介しました。

本記事では、Hunt氏のプレゼンテーションから得られる知見を深く分析し、生成AIの重要性、具体的な機能、ビジネスへの影響、そして将来性について、専門性と分かりやすさを両立させながら解説していきます。

Caylentとは？顧客の課題をAIで解決する「ビルダー集団」

まず、Caylentという会社について簡単に紹介しましょう。Hunt氏はCaylentを「人々のためにものを作る（We build stuff for people）」会社と表現しています。顧客は「アプリを作りたい」「OracleからPostgreSQLに移行したい」といったアイデアを持ってCaylentを訪れ、Caylentの情熱的なビルダーたちがそれを形にするというアプローチです。Fortune 500企業からスタートアップまで、多様な顧客を抱え、常に最先端の技術課題に挑戦しています。

Hunt氏は、AI、特にGenerative AIについて「多くの人が考えているような、すべてを解決する魔法の薬ではない」と釘を刺します。ウォールストリート・ジャーナルで読んだ情報が必ずしも最新の技術動向を表しているわけではない、という彼の言葉は、AIブームに踊らされがちな現状への警鐘と受け取れます。重要なのは、顧客の真の課題を理解し、適切なAI技術を選定し、そしてそれを効果的に実装することなのです。

Caylentが手掛けた具体的な顧客事例を通じて、どのようにGenerative AIがビジネスにインパクトを与えているのか見ていきましょう。

  • Venminder：リスク・コンプライアンス分析の効率化 Venminderは、AIを活用してリスクとコンプライアンス分析のプロセスを大幅に効率化しました。Generative AIによる自動化された契約・コンテンツ分析により、手作業の労力を削減し、精度を向上させています。その結果、バックログを65日からわずか4日に短縮し、文書レビューの速度を5倍に向上させるという驚異的なビジネスインパクトを実現しました。

  • BRAINBOX AI：HVAC運用のスマート化と環境負荷軽減 BRAINBOX AIは、Generative AIを用いてHVAC（冷暖房空調）システムの運用をよりスマートで環境に優しいものに変革しました。AIによる異常検知と予測メンテナンスにより、ビル運営者はエネルギーコストを最大25%削減し、温室効果ガス排出量を最大40%削減することに成功しました。この革新は、Time誌の「今年のベスト発明100」にも選ばれるほど高く評価されています。

  • Symmons Industries：水管理と持続可能性の向上 Symmons Industriesは、AIを導入して水管理と保全のシステムを変革しました。Evolutionプラットフォームは、AI駆動の異常検知と生成的インサイトを提供し、顧客が水の使用量を積極的に管理し、コストを削減し、持続可能性の目標を達成できるよう支援しています。5年間で50億ガロンの水を節約するという、具体的な成果を予測しています。

これらの事例からわかるように、Generative AIは特定のビジネスプロセスに深く組み込むことで、具体的な課題解決と measurable な価値創出に貢献しています。

マルチモーダルAIの最前線：動画コンテンツの「見える化」と「理解」

Randall氏が現在最も関心を持っている領域の一つが、マルチモーダル検索と動画のセマンティック理解です。これは、単にキーワードで動画を検索するだけでなく、動画の内容を深く理解し、その意味に基づいて情報を引き出すことを可能にする技術です。

Nature Footage Demo：動画コンテンツのセマンティック検索の実現 自然のストックフッテージを提供する顧客「Nature Footage」の事例は、その好例です。同社は膨大な数の動画コンテンツを抱えており、これを効率的に検索可能にする必要がありました。CaylentはNova Proモデルを活用し、動画内のクロコダイルや他の要素を自動的に識別し、その出現時間（タイムスタンプ）と特徴を生成します。これらのデータはElasticsearchに保存され、テキストによるセマンティック検索を可能にしました。

このシステムでは、動画フレームから「埋め込み（embeddings）」をプーリングする技術が採用されています。これにより、テキスト検索で動画コンテンツ内の特定のビジュアル要素やシーンを正確に探し出すことができるのです。Titan V2マルチモーダル埋め込みが、この高度な検索能力を支える鍵となっています。

スポーツ動画分析の自動化アーキテクチャ さらにHunt氏は、スポーツ動画のリアルタイムおよびバッチ分析を行うためのより複雑なアーキテクチャを紹介しました。このシステムでは、動画データがオーディオデータとビデオデータに分割されます。

  • 音声分析： オーディオデータからは文字起こしが生成されます。興味深いのは、ハイライトシーンを特定するために、観客の歓声のスペクトログラフを分析するという手法です。これにより、人間が手作業でハイライトを抽出するよりも効率的に、感動的な瞬間を検出できます。
  • ビデオ分析と埋め込み： ビデオデータからは、Amazon SageMakerモデルを活用して、埋め込みが生成されます。この埋め込みは、特定の行動（例：バスケットボールの「スリーポインター」）を特定のベクトルと信頼度で識別します。
  • データベースと通知： これらの識別された行動データは、PostgreSQL (PGVector拡張を使用), OpenSearch, DynamoDB, MemoryDB for Redis, Neptune, RDSなどの様々なデータベースに保存されます。そして、特定のイベント（例：お気に入りのチームのスリーポインター）が発生すると、Amazon SNS, Amazon Pinpoint, Amazon SESといったサービスを通じて、エンドユーザーのスマートフォンにプッシュ通知が送信されます。

Hunt氏は、生動画全体を処理するだけでなく、静止カメラアングルで「3点ライン」のような重要な要素に少量の注釈を付けるだけでも、AIモデルの性能が大幅に向上すると指摘しました。SAM 2のようなモデルを使えば、このような注釈プロセス自体も自動化できると述べています。

CaylentのAI構築哲学：なぜ、何を、どのようにAIを構築するのか

Caylentは、顧客のアイデアを形にする中で、AIをビジネスに統合するための明確な哲学と戦略を確立しています。彼らはAIを「構築する理由」を3つの主要なユースケースに分類しています。

  1. Self-Service Productivity Tools（セルフサービス型生産性ツール）:

    • ユースケース: 従業員の生産性向上。
    • 決定事項: ChatGPT, Zoom, Slack AI, Claude, Replitのような市販ツールを使用するか、自社で構築するか。
    • ROI: 直接追跡が難しい場合もあるが、Surepathのようなツールで利用状況を追跡することで、間接的なROIを把握できる。
    • 従業員が日常業務でAIを活用できるようにするツール開発。

  2. Automating Business Functions（業務機能の自動化）:

    • ユースケース: 機能的・生産性の改善（例：コンタクトセンターのコスト削減、ソフトウェア開発、調達）。
    • 決定事項: 構築するか購入するか。
    • ROI: エンドツーエンドのコスト削減で測定される。
    • ロジスティクス管理におけるレシートや船荷証券のインテリジェントな文書処理の例が挙げられます。Generative AIとカスタム分類器を組み合わせることで、人間のアノテーターよりもはるかに高速かつ正確な結果を達成し、業務効率を劇的に向上させることが可能となります。

  3. Monetizing AI（AIの収益化）:

    • ユースケース: 既存製品へのAI機能の追加による新しい収益源の創出（例：SaaSプラットフォームへのAI機能導入、小売における商品検索の強化）。
    • 決定事項: AI機能を利用する顧客の数とマージン。
    • ROI: 収益化の度合いまたは収益の増加として測定される。
    • 既存のSaaSやユーティリティに新しいAI機能を追加することで、顧客に対してプレミアムなサービスを提供し、追加料金を徴収します。

Hunt氏は、ただチャットボットを作るだけでは不十分だと強調します。企業のオンプレミスネットワークやVPN環境では、トラフィックを監視し、PII（個人を特定できる情報）やPHI（保護された健康情報）を検査する必要があります。Surepathのようなツールは、このネットワークインターセプションと監視を自動化し、企業がセキュリティとコンプライアンスを維持しながらAIツールを管理できるようにします。

AIシステム構築の要件：LLMは「脇役」、本質は「入出力」

AIシステムを構築する上で、何が最も重要なのでしょうか？Hunt氏は、この問いに対して非常に明確な答えを持っています。彼は「AIシステムの要件」を階層的に説明するスライド（他の研究者のものと断りつつ）を提示しました。

  • システム仕様 (System Specification): 最も根本的な部分。何を入力とし、システムがそれらで何をすべきか、その「Why（なぜ）」を定義すること。
  • 基礎 (Basis): システムへの代表的な入力サンプル。
  • システムアーキテクチャ (System Architecture): 情報フロー、計算の概要、必須情報とツール/モデル間のコントラクト。
  • 特定のLLM (Particular LLM): 入力フィールドの整形ロジック、調整された重み、プロンプト、推論戦略など。

Hunt氏の重要な主張は、上層の「特定のLLM」や「システムアーキテクチャ」はAIの進化と共に変化し続けるべき「付随的なもの」であるということです。新しいモデルやフレームワークが次々と登場する中で、これらは常に最適化され、置き換えられる可能性があります。しかし、最も根本的な「システム仕様」—何を入力とし、システムがそれらで何をすべきか—は、AIシステムの「中核」であり、ビジネスにおけるROI（投資対効果）を問う際に常に立ち返るべき問いです。

これは、AI開発において、目の前の最新技術に飛びつく前に、そのシステムが解決しようとしているビジネス課題と、期待される入出力を明確に定義することの重要性を強調しています。

AWS Generative AI Building Blocks：実践的なアーキテクチャ

CaylentはAWSのイノベーションパートナーとして、AWSの各種サービスを活用したGenerative AIソリューションを構築しています。Hunt氏は、Generative AIシステムを構成する「Building Blocks（構成要素）」を以下の層で説明しました。

  • Infrastructure (インフラストラクチャ):

    • AWS Bedrock & SageMaker: 基盤となるAWSのAI/MLサービス。SageMakerは特に計算リソースにプレミアム価格がつくが、柔軟なモデル運用が可能。
    • AWSカスタムシリコン (Tranium & Inferentia): AWSが独自に開発したAI/MLに特化したカスタムチップ。Traniumはトレーニング用、Inferentiaは推論用です。これらはNVIDIA GPUと比較して約60%の価格性能向上を実現します。ただし、Neurone SDKを使用してコードを記述する必要があります。
    • ECS Fargate / EC2: より柔軟なコンテナベースの環境や仮想サーバー環境も選択可能です。

  • Models (モデル):

    • Bedrock LLMs: AWSが提供する基盤モデル（例: Palmysa, Claude, Nova）。
    • SageMaker LLMs: SageMaker上で利用可能なモデル（例: Llama, DeepSeek）。
    • OSSモデル: HuggingFaceやMistralなど、オープンソースのモデルもデプロイ可能。

  • Embedding/Vector Stores (埋め込み/ベクターストア):

    • Embedding Model & Vector/Document: テキストや画像などを数値ベクトルに変換する埋め込みモデル。
    • PostgreSQL (pgvector) & OpenSearch: Hunt氏はこれらを推奨しています。ベクター検索だけでなく、ファセット検索やフィルター機能も提供するため、複合的なクエリに対応できます。
    • Kendra & Redis: Kendraはエンタープライズ検索サービス、Redisはインメモリデータベースで非常に高速なベクター検索が可能ですが、インメモリのためコストも高くなります。HNSW（Hierarchical Navigable Small World）インデックスなど、ディスクベースのストレージで効率的なベクター検索を実現できるPostgreSQLやOpenSearchが、コストと性能のバランスで優れているとされます。

  • Prompt Management (プロンプト管理):

    • Prompt Construction: プロンプトの設計。
    • Prompt Versioning: プロンプトのバージョン管理。
    • Session/Chat History: セッションやチャットの履歴管理。
    • Context Management: ユーザーのコンテキストを適切に管理し、プロンプトに組み込むことで、より関連性の高い出力を得ます。これはアプリケーションの差別化において非常に重要です。

  • Orchestration (オーケストレーション):

    • Bedrock Agents, Python, Llamaboxes, LangChain: モデルやツールの連携、ワークフローの調整を担います。LangChainは、LLMアプリケーション開発を効率化するライブラリとして広く利用されています。

  • UI Interface (UIインターフェース):

    • Copilot (Chat, Slack, Teams), Web Interface, Custom Mobile App, API Gateway: ユーザーがAIと対話するための多様なインターフェースを提供します。

Caylentが学んだAI開発の6つの教訓

Randall Hunt氏は、長年のAI開発と顧客との協業から得られた6つの重要な教訓を共有しました。これらは、Generative AIをビジネスに成功裏に導入するための実践的な知恵が詰まっています。

1. 評価と埋め込みだけでは不十分 (Evals and Embeddings Are NOT All You Need) 単にAIモデルの性能評価指標（Evals）や、埋め込みベクトルに頼るだけでは、成功するAIシステムは作れません。重要なのは、「顧客がAIとどのように関わるか」というアクセスパターンや、製品がどのように使われるかを理解することです。埋め込み単体では、ファセット検索やフィルターといった、実用的な検索機能は実現できません。PostgreSQLやOpenSearchといったツールと組み合わせることで、より高度なクエリが可能になります。

2. スピードは重要だが、UXはより重要 (Speed Matters but UX Matters More) 推論速度は確かに重要ですが、ユーザー体験（UX）はそれ以上に重要です。AIの推論が遅い場合でも、キャッシングやUIスピナー、プログレスバーなどを活用してユーザーの待ち時間を適切に管理し、UXを向上させることができれば、ユーザーは満足し、サービスを使い続けるでしょう。遅くて高価なAIは使われません。ユーザーを「待たせても不快にさせない」工夫が肝心です。

3. エンドユーザーを知る (Know Your End Customer) 最終的なユーザーが誰で、どのような環境で、何を、なぜ、どのようにAIを使用するのかを深く理解することが不可欠です。病院でのボイスボット導入の事例がこれを雄弁に物語っています。当初、音声ボットを開発しましたが、騒がしい病院環境ではナースが音声コマンドを使いにくく、他の人の会話が混入して音声認識の精度も低下しました。結果として、ナースたちは通常のチャットインターフェースを好んだため、UIの変更を余儀なくされました。 また、Arbitrary Prompts（恣意的なプロンプト）は機能しません。知識ベースに基づいた質問の分類や、モデルを適切に誘導するプロンプト設計が必要です。そして、AIの設計は「ユーザーと共に（Design WITH your end-user）」行うことで、採用率が向上します。

4. コンピュータに得意なことをさせる (Let the Computer Do What It's Good At) LLM（大規模言語モデル）に複雑な計算や数学をさせようとするのは、最も高価で非効率的な方法です。LLMはテキスト生成や推論に優れていますが、計算能力は限定的です。数学的な処理は、PythonのNumPyライブラリや専用の計算ツールなど、コンピュータが得意とする分野に任せるべきです。これにより、コストを削減し、より正確な結果を得ることができます。例えば、Pythonのdatetimeモジュールで日付を計算できるのに、それをLLMに「ツール」として定義して実行させるのは無駄です。

5. プロンプトエンジニアリングの不合理な有効性 (The Unreasonable Effectiveness of Prompt Engineering) プロンプトエンジニアリングは、想像以上に強力な効果を発揮します。Hunt氏の経験では、Claude 3.7から4.0へのモデル更新で、同じプロンプトを使った場合の性能回帰がゼロでした。これは、モデル自体の性能が向上したことで、プロンプトの調整が以前ほど頻繁に必要なくなったことを示唆しています。将来的には、新しいモデルが登場するたびにプロンプトを調整する必要がなくなる時代が来るかもしれません。 プロンプト設計のベストプラクティスとしては、ペルソナの割り当て、ドキュメント理解のためのdocumentキーの使用、メディア（画像やグラフ）とテキストの適切な配置（media, then textパラダイム）、そして複数の画像がある場合の明示的な紹介などが挙げられます。最適化されたプロンプトは、出力トークン数を大幅に削減し、コストパフォーマンスを向上させます。

6. 経済性を理解する (Know Your Economics) AIシステムのスケーリングにおいて、経済性を理解することは事業の存続に関わります。「この推論は私の会社を破産させるか？」という問いは常に念頭に置くべきです。特にOpenAIのOpusモデルのような高価なモデルを使用する場合、そのコストは膨大になる可能性があります。 大規模な推論を最適化するためには、以下の要素が重要です。

  • プロンプトキャッシング (Prompt caching): 繰り返し使われるプロンプトの出力をキャッシュすることで、推論コストと時間を削減します。
  • ツール (Tools): LLMに計算などをさせる代わりに、外部ツールに処理をオフロードします。
  • バッチ処理 (Batch): Bedrockではバッチ処理にすることで、モデルの推論コストを最大50%削減できる場合があります。
  • コンテキスト最適化 (Context optimization): モデルに与えるコンテキストを最小限の必要情報に絞り込むことで、処理負荷とコストを軽減します。また、関連性のない情報をコンテキストから除外することも重要です。

まとめ：AIの未来を共に築く

Randall Hunt氏のプレゼンテーションは、Generative AIの可能性と、それを現実のビジネスに落とし込む際の課題、そしてその解決策について、非常に具体的な洞察を与えてくれました。AIは単なる流行ではなく、戦略的な投資と深い理解によって、企業に真の変革をもたらすツールとなり得ます。

Caylentは、企業がAIへの取り組みをPoC（概念実証）から本番環境へと迅速に移行できるよう支援しています。彼らのアプローチは以下の3つのステップで構成されます。

  • Awareness（認識）: AIの展望、ビジネスの可能性、実用的な考慮事項、そして適切なAWSサービスをレビューします。
  • Readiness（準備）: 戦略を策定し、準備状況を評価し、実現可能なユースケースを選定し、共同で実装ロードマップを作成します。
  • Execution（実行）: AIサービス、データモダナイゼーション戦略、自動化、そして必要に応じたデータエンジニアリングによって、ビジョンを構築します。

Caylentには、顧客のために「クールなもの」を構築することに情熱を燃やす、才能豊かなエンジニア集団がいます。もしあなたが革新的なAIのユースケースをお持ちで、それを現実のものにしたいと考えているなら、彼らに相談してみる価値は十分にあるでしょう。

Generative AIの波は始まったばかりです。適切な戦略とパートナーと共に、この技術の真価を引き出し、未来を共に築いていきましょう。

← 一覧に戻る