エンタープライズ対応AIエージェントの構築：ワークフローとAIの完璧な融合

AIの進化が加速する現代において、ビジネスの現場は目覚ましい変革の波に直面しています。特に、大規模言語モデル（LLM）の登場は、私たちの日々の業務に革命をもたらす可能性を秘めています。しかし、その輝かしい可能性を現実のビジネス運用に落とし込むには、まだ多くの課題が存在します。本記事では、AIエンジニア向けイベント「AI Engineer World's Fair」でのChau Than氏（Glean Technologies）の講演を基に、エンタープライズ環境で真に機能するAIエージェントを構築するための鍵、すなわち「ワークフロー」と「エージェント」という二つの概念の深い理解と、それらの相乗効果について掘り下げていきます。

1. ワークフローとエージェント：AIシステム設計の二つの道

AIシステムを構築する際、開発者が直面する最も根本的な問いの一つが「ワークフローを構築すべきか、それともエージェントを構築すべきか」というものです。この問いは、AIの力をどのようにビジネスの具体的な課題に適用するかという、戦略的な意思決定に直結します。Chau Than氏は、この二つのアプローチを明確に定義し、それぞれの特性とトレードオフを詳細に解説しました。

1.1. ワークフローとは？：構造化され予測可能なAIシステム

ワークフローとは、LLMとツールが事前定義されたコードパスを通じてオーケストレーションされるシステムです。これは、特定のタスクを達成するために、AIがどのようなステップを踏むべきかを人間が事前に設計し、その通りに実行させるアプローチと言えます。

ワークフローの表現方法には、主に以下の二つがあります。

命令型（コードベース）:
- 伝統的なプログラミングのフロー（if/else、ループ、関数など）を使用します。
- 開発者はLLMを呼び出し、その応答を読み取り、必要に応じて他のツールを呼び出すといった、実行の各ステップを直接制御します。
- 例: Pythonスクリプトで、特定の条件が満たされたらLLMにテキスト要約を依頼し、その結果をデータベースに保存する、といった一連の処理を記述する。
宣言型（グラフベース）:
- 視覚的なノードとエッジでワークフローを表現します。ノードはLLMの呼び出しやツールの実行などのステップを表し、エッジはそれらのステップ間の関係性（データの流れや実行順序）を示します。
- 開発者はワークフローの構造を定義し、具体的な実行はフレームワークがオーケストレーションします。
- 例: ビジュアルプログラミングツールで、データ入力、LLMによる分析、結果の視覚化といったブロックをドラッグ＆ドロップでつなぎ、全体的なデータ処理パイプラインを構築する。

ワークフローの最大の特徴は、その構造化された性質と予測可能性にあります。同じ入力に対しては、常に同じ出力が期待されます。Chau Than氏はこれを「AIシステムのトヨタ車」と例え、堅実で信頼性が高く、反復的なタスクの自動化や、既存のベストプラクティス、ビジネスプロセスをAIシステムにエンコードするのに適していると述べました。コストと遅延も低く、デバッグも容易であるため、人間がシステムを細かく制御したい場合に強みを発揮します。

1.2. エージェントとは？：ダイナミックで自律的なAIシステム

一方、エージェントとは、LLMが自身のプロセスとツールの使用を動的に指示し、タスクを達成する方法を自律的に制御するシステムです。ワークフローが人間の指示通りに動く「執事」だとすれば、エージェントは自ら考えて行動する「専門家」のような存在です。

エージェントの行動は、以下の「コアエージェントループ」と呼ばれる反復プロセスによって駆動されます。

タスクの受信: 人間または上位システムから、達成すべきタスクや目標を受け取ります。
アプローチの計画: LLMが自身の推論能力を駆使し、タスクを達成するための大まかな計画を立てます。どのようなツールが必要か、どのようなステップを踏むべきかなどを自ら決定します。
アクションの実行: 計画に基づき、利用可能なツール（API呼び出し、データベースクエリ、外部サービス連携など）を使って具体的なアクションを実行します。
進捗の評価: 実行結果や環境からのフィードバックを基に、タスク達成に向けた進捗を評価します。計画通りに進んでいるか、問題が発生していないかなどを確認します。
反復または完了: 評価結果に応じて、計画を修正して次のステップに進む（反復）か、タスクが完了したと判断してユーザーに応答する（完了）かを決定します。

エージェントは、そのダイナミックで自律的な特性により、予期せぬ状況や未解決の問題に対しても柔軟に対応できます。Chau Than氏はエージェントを「AIシステムのテスラ車」に例え、未知の領域を探求したり、複雑なLLM推論の強みを最大限に活用したりするのに適していると説明しました。コードとして維持すべきロジックが少ないという利点もありますが、その自律性ゆえに「高速道路で間違った出口を選ぶ」ような予測不能な挙動を示す可能性も指摘され、高コスト・高遅延という課題も抱えています。

1.3. トレードオフ：どちらを選ぶべきか？

ワークフローとエージェントのどちらを選ぶかは、プロジェクトの性質とLLMの能力に大きく依存するジレンマです。

特徴	ワークフロー（トヨタ車）	エージェント（テスラ車）
振る舞い	予測可能	オープンエンド、ダイナミック
タスク	反復的、明確な手順があるタスクの自動化、既存のベストプラクティスのエンコード	未解決の問題の調査、複雑な推論が必要なタスク
コスト	低コスト、低遅延	高コスト、高遅延（LLMの推論コスト）
デバッグ	容易（コードパスが明確）	困難（LLMの内部決定プロセスが不透明）
制御	人間が制御（不完全なLLMでも品質を確保）	AIが制御（将来のLLM能力を最大限に活用）
メンテナンス	多くのロジックを維持	ロジックの維持が少ない

ワークフローは、明確な手順が確立されており、繰り返し実行されるタスクの自動化に優れています。人間の介入により、不完全なLLMでも望ましい品質を確保できます。一方エージェントは、まだ解決策が定まっていない探索的な問題や、LLMの高度な推論能力を必要とする複雑なタスクに適しています。ただし、その自律性が時に予測不能な結果を招く可能性や、高いコストと遅延が課題となります。

2. エージェントとワークフローの相乗効果：共生による進化

Chau Than氏は、ワークフローとエージェントは排他的な選択肢ではなく、むしろ互いに補完し合うことで、より強力なAIシステムを構築できると提唱しています。エージェントがワークフローを生成したり、ワークフローがエージェントの評価・トレーニングに活用されたりすることで、両者の利点を最大化する相乗効果が生まれます。

2.1. エージェントによるワークフロー生成：タスク達成の青写真をAIが描く

Chau Than氏は、エージェントの役割を「タスクを受けてワークフローを生成する」ものと捉えることができると述べました。つまり、エージェントはタスク達成のための最適な手順（ワークフロー）を、その場でダイナミックに組み立てる能力を持つということです。

反復的な生成: エージェントは、タスクをより小さなステップに分解し、各ステップを実行しながら、必要に応じて次のステップを生成していきます。この反復的なプロセスにより、複雑なタスクも段階的に解決に導きます。
多様なワークフロー: 同じタスクを与えられても、状況やコンテキストに応じて、エージェントは全く異なる一連のステップ、すなわちワークフローを生成することができます。これにより、柔軟で適応性の高い問題解決が可能になります。

この視点は、ワークフローが静的な青写真であるのに対し、エージェントはその青写真を動的に描き出す「設計者」であるという関係性を示唆しています。

2.2. エージェント評価におけるワークフローの活用：正しいプロセスが成功への鍵

エージェントの性能を評価する際、最終的な出力だけでなく、そのタスク達成に至るまでのプロセス（ワークフロー）を評価することが非常に重要です。Chau Than氏は、ワークフローをエージェントの評価基準として活用する方法を提案しました。

ゴールデンワークフローの収集: 企業内に存在する、特定のタスクを達成するための模範的な手順やベストプラクティスを「ゴールデンワークフロー」としてデータセット化します。例えば、「顧客サポートチケットを解決する」というタスクに対して、どのツールをどの順序で使い、どのような情報にアクセスすべきか、といった詳細な手順をワークフローとして定義します。
エージェントの実行と比較: エージェントに同じタスクを与え、その実行プロセスを記録します。その後、エージェントが生成・実行したワークフローを、事前に定義されたゴールデンワークフローと比較します。
ステップ単位の評価: エンドツーエンドの最終結果だけでなく、エージェントが各ステップで正しいアクションを選択したか、適切なツールを使用したかなど、ワークフローの各ノードとエッジを詳細に評価します。これにより、エージェントの推論プロセスにおける強みや弱みを特定し、改善点を明確にすることができます。

この評価方法により、エージェントが単に「正解らしきもの」を出すだけでなく、「正しい方法で」正解にたどり着いたかを判断できるようになります。

2.3. エージェントトレーニングにおけるワークフローの活用：実践知の埋め込み

ワークフローは、エージェントのトレーニングデータとしても非常に価値があります。タスクとそれに対応するゴールデンワークフローを組み合わせたデータは、エージェントが企業固有の業務知識や実践知を学習するための強力な基盤となります。

データフィッティング: 既知のタスクに対して、エージェントがライブラリ内の模範的なワークフローを正確に実行できるように学習させます。これにより、エージェントは企業の標準的な手順やプロセスを確実に再現できるようになります。
汎化と内部推論の強化: エージェントは、提供されたワークフローをただ模倣するだけでなく、それらを組み合わせてより複雑なタスクを達成したり、自身の内部推論能力と融合させて新しいタスクに対処したりする能力を身につけます。これにより、エージェントは単なるルールエンジンではなく、真の問題解決者へと進化します。

ワークフローをトレーニングデータとして活用することで、エージェントは「データの量」と「人間の専門知識」という両方の世界の利点を享受できます。これは、エージェントが企業固有のドメイン知識を深く理解し、より高品質なアウトプットを生み出すための重要なステップです。

2.4. ワークフロー生成・発見エンジンとしてのエージェント：AIによる業務プロセスの民主化

Chau Than氏は、GleanのAIエージェントがまさにこのコンセプトを実践していることを示しました。ユーザーは自然言語で達成したいタスクを記述するだけで、エージェントがそのタスクに適したワークフローを生成します。

自然言語による指示: ユーザーは専門的なコードを書く必要なく、「この緊急の問題を解決するにはどうすればいいですか？」といった形でタスクを提示できます。
エージェントによるワークフロー提案: エージェントは、企業内のナレッジベースや過去の成功事例などを参照し、「プレイブックの検索」「関連コンテンツの検討」「プレイブックの内容要約」といった一連のステップからなるワークフローを提案します。
ユーザーによる編集と改善: 提案されたワークフローは、ユーザーが自由に編集・改善できます。これにより、エージェントの生成能力と人間の専門知識が融合し、最適な業務プロセスが共同で構築されます。

さらに、エージェントは「ワークフロー発見エンジン」としても機能します。エージェントが新しいタスクを首尾よく達成した場合、その際に実行されたステップを「ゴールデンワークフロー」として保存し、ライブラリに追加することができます。このように、エージェントによるワークフローの生成と発見、そしてそれらを用いたエージェントのトレーニングと評価が循環するシステムを構築することで、企業は継続的にAIの能力を向上させ、業務プロセスの自動化と最適化を加速させることができます。

3. ポストAGI時代におけるエンタープライズ対応AGIの必要性

汎用人工知能（AGI）の到来が現実味を帯びる中で、私たちは「AGIが存在する世界で、ワークフローやエージェントのようなシステムはまだ必要なのか」という問いに直面します。Chau Than氏は、この問いに対して深く考察しました。

3.1. スーパーインテリジェントな従業員としてのAGI

AGIは、確かに「非常に賢い従業員」となるでしょう。多くのタスクを、十分な試行錯誤を繰り返すことで達成できるようになるはずです。しかし、そこにはまだギャップがあります。

オンボーディングの必要性: 新しく入社した優秀な従業員が、企業の文化、慣行、暗黙のルール、誰に何を尋ねるべきか、といったビジネス固有の情報をすぐに把握できないのと同様に、AGIも「オンボーディング」が必要です。
「正しい」やり方への理解不足: AGIはタスクを達成できるかもしれませんが、それが必ずしも企業が求める「正しい」やり方であるとは限りません。企業には独自のプロトコル、プロセス、重要視するKPI、リスク許容度などがあります。

3.2. 「ラストマイル」品質問題の解決

ここでの鍵は「ラストマイル」の品質問題です。

「許容可能」と「素晴らしい」のギャップ: どのようなタスクでも、無数の「許容可能な」出力が存在します。しかし、「許容可能な」と「素晴らしい」の間には大きなギャップがあります。例えば、競合分析のタスクにおいて、AGIは基本的な情報を収集できるかもしれませんが、企業の戦略目標に深く合致し、経営層が本当に求めている洞察に満ちた分析を提供するには、企業固有の文脈理解が不可欠です。
エンタープライズ対応AGI: 企業にとって真に価値のあるAGIとは、単に賢いだけでなく、完全にオンボードされ、企業独自のやり方を熟知し、「ラストマイル」の品質問題を解決できる「エンタープライズ対応AGI」です。これは、LLMが企業のプロトコルに従い、経営層が重視するメトリクスを考慮し、企業文化に合致した形でタスクを遂行することを意味します。

この「ラストマイル」の品質を担保し、AGIを真にエンタープライズ対応させる上で、ワークフローとエージェントの相乗効果が不可欠となるのです。ワークフローは、企業のベストプラクティスを明示的にエンコードし、エージェントはそのワークフローを生成・実行・学習することで、企業固有の要件に合わせた「素晴らしい」成果を継続的に提供できるようになります。

4. エージェントトレーニングの具体的なアプローチ

エンタープライズ対応エージェントを構築するためには、適切なトレーニング方法が不可欠です。Chau Than氏は、エージェントをトレーニングするための主要な二つのオプションを紹介しました。

4.1. オプション1：ファインチューニング（RLHFを含む）

ファインチューニングは、既存のLLMを特定のタスクやドメインに合わせて調整する手法です。

教師ありファインチューニング:
- タスクとそれに対応する「ゴールデンワークフロー」というラベル付きデータを収集します。
- LLMは、特定の入力タスクに対して、期待されるワークフローを出力するように学習します。
RLHF（強化学習による人間からのフィードバック）:
- タスクと生成されたワークフローの組み合わせに対して、人間からの評価（報酬）を収集します。
- LLMは、人間の好みに合致するワークフローを生成するように、強化学習のアルゴリズムを用いて調整されます。

長所: 大量のデータがあれば、非常に強力な汎化能力を発揮できます。これは、「The Bitter Lesson」（データと計算量をスケールさせることで性能が飛躍的に向上するというAI分野の教訓）が示唆するように、AIモデルがデータを活用して複雑なパターンを学習する能力を最大限に引き出します。

短所:

LLMのフォーク: 最先端のLLM（フロンティアLLM）からファインチューニングを行うと、そのモデルは元のモデルから「フォーク」されます。新しい、より優れたフロンティアLLMが登場するたびに、このファインチューニングプロセスをやり直す必要があり、高いコストと労力がかかります。
再トレーニングの必要性: トレーニングデータに変更があるたびに、モデルを再トレーニングする必要があります。これには、ツールの追加/削除/編集、ビジネスプロセスの変更、新しいワークフローの追加、チームや従業員ごとのパーソナライズされたワークフローへの対応などが含まれます。
柔軟性の欠如: ファインチューニングは特定の振る舞いを「焼き付ける」ため、要件が頻繁に変化するエンタープライズ環境や、高度なパーソナライゼーションが求められるケースには、十分な柔軟性を提供できない可能性があります。

Chau Than氏は、ファインチューニングを「ハードウェアのアナロジー」で説明しました。一度最適化されたハードウェアは高性能ですが、変更には製造プロセス全体の見直しが必要なように、ファインチューニングも大規模な変更にはコストがかかります。

4.2. オプション2：検索による動的プロンプティング

検索による動的プロンプティングは、ファインチューニングの柔軟性の欠如を補うためのアプローチです。

ラベル付きデータの収集: タスクとそれに対応するゴールデンワークフローのペアを収集します。
高品質なタスク検索エンジンの構築: 新しいタスクが入力された際、既存のトレーニングデータから最も類似するタスクを効率的に見つけ出すための検索エンジンを構築します。
LLMへの例のフィード: 新しいタスクを達成するために、検索エンジンで見つけられた類似タスクのワークフローを、LLMへのプロンプトの一部として（例として）フィードします。

このアプローチは、「決定論」と「創造性」のスペクトラムに位置付けられます。

高い信頼度で一致: もし入力タスクと非常に類似した「ゴールデンワークフロー」が検索で見つかれば、LLMはそのワークフローを決定論的に適用します。
一致しない場合: 全く一致するワークフローが見つからない場合、LLMは自身の創造的な推論能力を最大限に活用し、新しいワークフローを生成します。

具体的な例（競合分析）: 「最近どの競合他社が活発か」というタスクが与えられた場合、検索エンジンは「競合分析」や「顧客通話の調査」といった類似タスクを見つけます。LLMはこれらの類似タスクのワークフローと、利用可能なツール（顧客通話トランスクリプトの検索、社内メッセージの検索、競合情報の抽出、競合分析の実行など）の記述を参考に、以下のような新しい合成ワークフローを生成します。

顧客通話トランスクリプトを検索する
競合に関する社内メッセージを検索する
上記から競合他社を抽出する
各競合他社について競合分析を実行する

長所:

高い柔軟性: トレーニングデータに例を追加/削除/変更するのが容易です。LLM自体を頻繁に再トレーニングする必要がないため、新しいLLMがリリースされた際にも迅速にモデルを切り替えることができます。
優れた解釈可能性: LLMが生成したワークフローが、どの類似例に基づいているかをユーザーが確認できるため、システムの挙動を理解しやすくなります。
カスタマイズされた振る舞い: 要件が頻繁に変化する「ラストマイル」の品質問題に対応したり、チームや個人にパーソナライズされた振る舞いを学習させたりするのに適しています。

Chau Than氏は、検索による動的プロンプティングを「ソフトウェアのアナロジー」で説明しました。ソフトウェアは柔軟で素早く変更できるため、変化の速いビジネス環境に適しています。

4.3. ワークフロー検索の構築方法

この動的プロンプティングを成功させるには、効果的なワークフロー検索エンジンを構築することが鍵となります。これはドキュメント検索と多くの類似点がありますが、エンタープライズ環境特有の課題も存在します。

テキスト類似性:
- 語彙的なキーワード: 単純なキーワードマッチング。
- ベクトル埋め込み: タスクとワークフローをベクトル空間に埋め込み、意味的な類似性に基づいて検索します。
- 後期インタラクション、再ランキング: 検索結果をさらに洗練させ、関連性の高いワークフローを上位に表示する技術。
権威性（Authoritativeness）:
- エンタープライズ環境では、単にテキストが類似しているだけでなく、「どの関連ワークフローが最も信頼性が高く、最適か」という権威性が重要になります。
- ナレッジグラフ: ワークフローの作成者、使用頻度、成功率、関連する部署、承認プロセスなどの情報を含むナレッジグラフを構築します。
- 人気度: 特定のワークフローがどれだけ多くのユーザーに利用されているか、どれだけ高い評価を受けているか。
- レコメンデーションシステム: ユーザーの過去の行動履歴や所属チーム、役割などに基づいて、最適なワークフローを推奨します。

Chau Than氏は、これらの権威性シグナルはLLMに直接エンコードすることが非常に難しいと強調しました。そのため、LLMとは別に、これらの複雑な情報を処理し、最適なワークフローを推薦する独立した検索システムを構築することが、エンタープライズ対応エージェントの成功には不可欠です。

結論：AIと人間の協調が描く未来

AIの進化は、ワークフローとエージェントという異なるアプローチを通じて、ビジネスの効率化と革新を推進しています。しかし、どちらか一方を選ぶのではなく、両者の長所を組み合わせ、互いに補完し合う「相乗効果」を最大限に引き出すことが、エンタープライズ環境で真に価値のあるAIシステムを構築する鍵となります。

ワークフローは、企業の確立されたベストプラクティスを構造化し、エージェントは、そのワークフローを動的に生成・実行・学習することで、変化するビジネス要件や未解決の課題にも柔軟に対応します。さらに、ポストAGI時代においても、企業固有の文脈理解や「ラストマイル」の品質問題は依然として重要であり、エンタープライズ対応AGIの実現には、ワークフローによる知識のエンコードと、エージェントによる柔軟な適用・学習サイクルが不可欠です。

ファインチューニングと検索による動的プロンプティングは、それぞれ異なる利点を持つトレーニングアプローチであり、タスクの性質や企業の要件に応じて使い分けることが重要です。特に、検索による動的プロンプティングは、柔軟性と解釈可能性の高さから、変化の速いエンタープライズ環境におけるパーソナライズされたAIエージェントの構築に大きな可能性を秘めています。

AIと人間の知が協調し、ワークフローによって企業の知識が体系化され、エージェントによってそれが動的に活用・進化していく未来。この共生関係が、次世代のビジネスインテリジェンスと業務自動化を牽引するでしょう。