AI時代のシステム運用：コードの生成からシステムの「深層理解」へ——Grepr CEOが語る未来

現代のテクノロジーの世界は、人工知能の急速な進化によって劇的な変革期を迎えています。特にソフトウェア開発とシステム運用は、その恩恵と課題が最も顕著に現れる分野の一つです。AI for Codingはもはや単なるコード補完ツールではなく、複雑なソフトウェアの設計と実装を支援する強力なパートナーへと進化しました。しかし、AIが生きるデジタルな世界と、現実世界の物理的・運用的な制約との間には、依然として深い溝が存在します。

本記事では、この課題に挑む最前線にいる専門家の一人、GreprのCEOであるジェド・シャーマン氏の深い洞察を探ります。彼は、システムエンジニアリングのベテランであり、スタンフォード大学での研究から複数のスタートアップを経験し、現在はAIを活用してエンタープライズのシステム運用を革新しようとしています。ジェド氏との対談を通じて、AIがエンジニアリングにもたらす重要性、具体的な機能、ビジネスへの影響、そして将来性を、専門性と分かりやすさを両立させながら詳細に解説していきます。

ジェド・シャーマン氏：システム思考の深淵からイノベーションを牽引するリーダー

ジェド・シャーマン氏は、コンピューターサイエンスとシステム思考の分野で長年の経験を持つ、真の技術リーダーです。彼のキャリアは、学術界での深い研究から始まり、革新的なスタートアップの立ち上げ、そして巨大企業における大規模なシステム運用へと多岐にわたります。

スタンフォードでの基礎と先駆的な研究

ジェド氏は、ポッドキャストホストと大学院の同期であり、当時から優れたシステム思考の持ち主として知られていました。彼の学生時代のエピソードとして、オフィスにバイクのヘルメットとマルボロのタバコが置かれていたという逸話は、彼のクールな一面を物語っています。しかし、その「クールさ」は単なる外見にとどまらず、彼の研究とキャリアの選択にも反映されていました。

スタンフォード大学での研究時代、ジェド氏はネットワークセキュリティとハードウェア実装の最前線で活躍しました。特に彼の初期の功績としては、OpenFlowの黎明期における貢献や、当時次世代のハッシュ関数として期待されていたSHA3（Secure Hash Algorithm 3）の最初のハードウェア実装が挙げられます。これは、理論的な概念を実際の物理的なシステムで検証する、システムエンジニアとしての彼の深い理解と実践力を示すものでした。

また、セキュリティの研究では、攻撃を受け、システムが侵害された場合に、どのようにしてアプリケーションの関連する世界の状態をロールバックし、パッチを適用したバージョンで再開できるかという、現在のリカバリー技術の萌芽となる研究に取り組んでいました。しかし、この技術は当時の市場には早すぎた、と彼は振り返ります。この経験は、単に技術が優れているだけではなく、市場の成熟度やインフラの準備状況もイノベーションの成功には不可欠であることを彼に教えました。

スタートアップの成長とエンタープライズへの挑戦

博士号取得後、ジェド氏はMITでのポスドク研究を経て、シリコンバレーの急速に成長するスタートアップ、AppDynamicsに参加しました。彼が在籍した約3年半の間に、AppDynamicsは従業員数が200人から2000人へと急成長し、最終的にはシスコシステムズに買収されるという大きな成功を収めました。この経験は、小規模なチームが大規模なエンタープライズソリューションを提供するまでにスケールするプロセスを、システムのアーキテクトとして深く関わりながら体験する貴重な機会となりました。

この期間は、単に技術を構築するだけでなく、製品開発、エンジニアリング、インフラ、セキュリティ、デザインといった多岐にわたるチームを統括し、その成長を牽引する役割も担いました。彼は、多様な専門性を持つチームが一体となって機能する「システム全体」を設計し、最適化することに情熱を傾けました。

Grepr創業の背景：オペレーションの課題とAIへの着目

AppDynamicsでの成功と大規模システムの経験を経て、ジェド氏は新たな課題に目を向けました。2023年当時、多くのエンジニアリングリーダーが直面していた共通の課題は「支出の削減」でした。特に、クラウドインフラストラクチャと、その上で動作するシステムの健全性を監視するための「オブザーバビリティ」にかかるコストが、彼らの頭を悩ませていました。

マイクロサービスアーキテクチャの普及に伴い、システムはますます分散化、複雑化し、生成されるログ、メトリクス、トレースなどの「テレメトリーデータ」は爆発的に増加しました。これにより、オブザーバビリティベンダーへの支払いは、企業が提供するビジネス機能の成長率を上回るペースで増大していったのです。ジェド氏の分析によれば、企業がオブザーバビリティに費やしていた費用は、インフラ費用の5%から20%にも及びました。しかし、この支出の根源は「オブザーバビリティ」そのものではなく、「システムの信頼性」を確保したいという切実なニーズにあったのです。

この課題を解決するため、ジェド氏はGreprを共同設立しました。Greprのミッションは、大量のテレメトリーデータの中から本質的な「シグナル」と「ノイズ」を区別し、ノイズを排除することでオブザーバビリティのコストを大幅に削減することです。そして、抽出された高品質なシグナルをAIに供給し、システムの信頼性を向上させるための自動化された洞察と行動を可能にすることを目指しています。

Greprが挑む課題：オブザーバビリティのコスト削減と信頼性の向上

Greprが解決しようとしている問題は、現代の複雑なクラウドネイティブ環境におけるシステム運用の本質的な課題に根差しています。

データ量の増大とオブザーバビリティのコスト高騰

マイクロサービスアーキテクチャやコンテナ技術の普及により、ITシステムはかつてないほど分散化され、動的になりました。その結果、個々のサービスから生成されるログ、メトリクス、トレースといった「テレメトリーデータ」の量は指数関数的に増加しています。これらのデータをすべて収集、保存、分析しようとすると、莫大なコストがかかります。多くの企業がインフラストラクチャ費用（クラウド利用料）に加えて、オブザーバビリティツールへの費用が大きな負担となっているのが現状です。

ジェド氏は、このオブザーバビリティへの高額な支出が、実はシステムの「信頼性」を確保するための手段として認識されていると指摘します。より多くのデータを収集し、より詳細な監視を行うことで、システムの異常を早期に検知し、ダウンタイムを最小限に抑えようとします。しかし、データ量の増加はコスト増に直結し、そのコスト増が必ずしも信頼性の向上に比例しなくなっているのが現状でした。マイクロサービスアーキテクチャでは、システム全体の複雑性が増すため、単純にデータ量を増やしても、必要なシグナルを見つけるのが困難になり、投資対効果が低下していたのです。

「シグナル」と「ノイズ」の区別：AIによるデータ最適化

Greprのアプローチは、この問題に対して根本的な解決策を提供します。

包括的なデータ収集と前処理: Greprは、S3バケットに保存されたログ、ホストやコンテナのメトリクス、その他の運用データ（生のデータ）をすべて取り込みます。このデータには、システムの状態を理解するために不可欠な情報が含まれていますが、同時に大量の冗長な「ノイズ」も含まれています。
AIによるシグナル抽出とコスト削減: Greprのコア技術は、この膨大なデータストリームの中から、本当に意味のある「シグナル」と、そうでない「ノイズ」をAIが区別することにあります。ノイズを積極的に排除し、集約された重要な情報のみをプラットフォームに送信することで、オブザーバビリティにかかるデータ転送、保存、処理のコストを最大90%削減することを目指します。これは、企業が信頼性向上のために「無駄に」支払っていたコストを、劇的に最適化することを意味します。
AIへのフィードバックループと将来性: 抽出された高品質なシグナルは、単にコスト削減のためだけでなく、さらにAIレイヤーにフィードバックされます。このAIは、システムが抱える問題をトラブルシューティングし、異常が発生した場合に何が起こっているのかを解明し、そして将来的には問題を自律的に解決することを目指します。

ジェド氏は、「すべてのデータが存在する」という前提のもと、システムの「複雑性」こそが真の課題であると強調します。通常のオペレーションで発生する無数のイベントから、AIがどのようにして「推論可能な」情報を抽出し、意味のある洞察に変換できるのか。この点が、Greprの技術の中核をなしています。

AIが変える開発ワークフロー：コード生成からエンジニアの「訓練」へ

AI技術は、システムの運用だけでなく、開発プロセスそのものも大きく変えつつあります。ジェド氏の経験は、この変革の最前線からの貴重な示唆を与えてくれます。

AI for Codingの劇的な進化

AI for Codingは、その黎明期にはIDEの単なる「オートコンプリート」機能に過ぎませんでした。しかし、Generative AIの登場により、その能力は飛躍的に向上しました。現在では、人間が意図する複雑なソフトウェアの構造やロジックを、AIが自律的に生成できるようになっています。

ジェド氏の言葉によれば、この進化は「システム内の複雑さをより多くモデル化できるようになった」ことによるものです。AIがコードの背後にある構造、依存関係、意図をより深く理解することで、単なるコードスニペットの提案を超え、機能的なコードブロックや、場合によってはアプリケーション全体の一部を構築する能力を獲得しました。

優秀なエンジニアとAIの協調：相乗効果がもたらす生産性向上

興味深いことに、AIはすべてのエンジニアに等しく生産性向上をもたらすわけではない、とジェド氏は指摘します。彼の観察によれば、「本当に優秀なエンジニア」ほどAIを巧みに使いこなし、結果として彼らの生産性は10倍にも向上しています。そして、さらに驚くべきことに、この過程で「AIがエンジニアを訓練する」という逆転現象が起こっているというのです。

AIと効果的に対話するためには、エンジニアはAIの強みと弱みを理解し、適切なプロンプト（指示）を与える必要があります。例えば、Claude Codeのようなモデルを使用する際、「20個の架空のエージェントを起動して基本的な調査を行うな」と明確に指示しないと、AIはリソースを無駄に消費する可能性があります。このような経験を通じて、エンジニアはAIの特性を理解し、より効率的にAIを活用するためのスキルを習得していきます。

この「共進化」のプロセスは、AIが単なるツールではなく、人間の思考プロセスを拡張し、新たなスキルセットを要求するパートナーであることを示しています。AIを使いこなせるエンジニアとそうでないエンジニアとの間で、生産性の格差が拡大する可能性も示唆しています。

GreprにおけるAIの活用事例と具体的な成果

ジェド氏が自身で実践している開発ワークフローは、このAIとの協調の具体的な成果を示しています。

開発スタック: 彼は、Windows Subsystem for Linux (WSL) 上でLinuxカーネルを実行し、Claude CodeやOpus 5.5といった高性能なAIモデルを利用しています。UIは使用せず、コマンドラインを主に使用するスタイルは、彼のシステム思考の深さを反映しています。
大規模プロジェクトの加速: 最近、彼はデータレイクにおける自動プロモーション機能に関する大規模なプルリクエスト（PR）セットを開発しました。これまでの方法であれば6ヶ月かかったであろう作業を、彼は一人でわずか10日間で完了させたのです。これはAIが開発プロセスにもたらす圧倒的な生産性向上の証拠です。
PRレビューとAIの役割: PRレビュープロセスでは、AIがデザインドキュメントやPR記述自体を作成します。人間のテックリードは、AIが生成したコードのアルゴリズム、システム構成、分業の整合性などをレビューすることに集中します。
AIの限界と人間の介入: AIは現時点では、コードの「最適化」を自律的に行うことはできません。ジェド氏は、AIが生成した初期のコードが最適化されていないことに気づき、AIに「最適化するように」指示することで、コードのパフォーマンスが向上した経験を語ります。AIはまだ「何が最適か」を自律的に判断する知性を持たず、人間の経験と知識によるガイダンスが必要です。

これらの事例は、AIが単に人間から作業を奪うだけでなく、人間がより戦略的で創造的なタスクに集中できるよう、ルーティン作業や複雑なプロセスの一部を自動化する可能性を秘めていることを示しています。

セマンティクス vs シンタックス：AIの理解と現実世界の複雑性

AIがシステム運用の領域で真価を発揮するためには、単にコードを生成するだけでなく、システムの「意味」を理解する必要があります。ここで重要になるのが、コンピューターサイエンスにおける「セマンティクス」と「シンタックス」の概念です。

シンタックスとセマンティクスの違い

シンタックス（構文）: これはコードそのものの書き方、文法、構造を指します。プログラミング言語のルールに従っているかどうか、人間やコンパイラが理解できる形式であるかといった側面です。AIは、学習データに基づき、このシンタックスに則ったコードを生成することに優れています。
セマンティクス（意味）: これはコードが実行されたときに、実際にシステムが何をするか、どのような振る舞いをするかという「意味」を指します。システムのランタイム特性、パフォーマンス、可用性、整合性、セキュリティ、そしてワークロードやアクセスパターンに応じた振る舞いなど、より深いレベルの理解が必要です。

ジェド氏は、AIがシンタックスベースのコード生成には非常に優れているものの、セマンティクス、特に分散システムやプロダクション環境のセマンティクスを理解することには大きな課題があると強調します。例えば、データベースに対するSQLクエリのシンタックスはAIが生成できても、そのクエリが実際のデータベース上でどれくらいのパフォーマンスを発揮するか、どのデータがどの頻度でアクセスされるかといったセマンティクスは、シンタックスを見るだけでは判断できません。

AIの推論能力の限界とプロダクションの課題

システム運用におけるセマンティクスは、静的なコードや設計図だけでは捉えきれない動的で複雑な要素に満ちています。

トレードオフの判断: 可用性を優先するために整合性を犠牲にする、あるいはパフォーマンスのためにキャッシュを導入するといったトレードオフは、システムのセマンティクスを深く理解していなければ適切な判断ができません。AIはまだ、このような複雑なトレードオフを自律的に判断する能力を持ち合わせていません。
未知のアクセスパターンとワークロード: 分散システムは、予測不能なユーザーアクセスパターンや多様なワークロードに晒されます。これらの状況下でシステムがどのように振る舞うかを予測するには、膨大な過去データと深いドメイン知識が必要です。ジェド氏は、AIがこのような「アクセスパターン」をどこから学習するのか、という根本的な問いを投げかけます。
「人間の秘密」としての運用: 長らく、分散クラスターや複雑なデータベースの管理は、経験豊富な人間のエンジニアがその勘と経験に基づいて行ってきました。これは、形式知化されていない「暗黙知」が多く、AIが学ぶべき明確なデータセットが存在しないため、ジェド氏は「最も長く秘密にされてきたのが、人間が分散クラスターを管理する方法だ」と表現します。

これらの課題は、AIがシステムの「振る舞い」を単に予測するだけでなく、その振る舞いの「理由」を理解し、自律的に最適な行動を選択する能力を持つには、まだ長い道のりがあることを示しています。

オペレーションの「イベントホライズン」：AIと人間による解決への道

ジェド氏は、現在のAIの活用は、システムが「何かおかしい」という「シグナル」を検知するところから始まると説明します。これは、AIがシステムの異常を予測するのではなく、変化の兆候を検知し、人間の介入を促すというアプローチです。

「シグナル」の抽出: Greprは、ペタバイト級の運用データの中から、異常の早期兆候となる「シグナル」をリアルタイムで抽出します。これは、多くの場合、大量のデータの中に埋もれている「異常なパターン」や「針の山から針を探す」ような作業です。
AIによる検証と分析: このシグナルをAIにフィードし、「なぜそれが起きたのか」を検証させます。AIは、仮説を立て、過去のデータや関連するシステムの振る舞いを分析することで、根本原因の特定（Root Cause Analysis）を支援します。ジェド氏の経験では、AIが提供する情報に基づいて人間が行動することで、潜在的なプロダクションインシデントを未然に防いだ事例もあります。
実験による学習: AIがシステムの複雑なセマンティクスを理解するためには、実際のプロダクション環境での「実験」が不可欠です。システムにどれくらいのメモリを割り当てるべきか、といった最適化の問いに対して、AIはまだ明確な答えを出せません。これは、実際のシステムを「ランブック」に従って操作し、その結果から学ぶことでしか得られない知識です。
人間とAIの共創ループ: Greprのアプローチは、AIが「計画を立て、実行し、情報を得る」というループを自律的に回せるようになることを目指しています。これにより、人間はより戦略的な意思決定と、AIではまだ対応できない複雑な問題解決に集中できます。AIは、人間のオペレーターが行っていた多くのタスクを引き受け、システムの信頼性向上を加速させるのです。

未来への展望：AIと人類の協調が生み出す新たな価値

AIがシステム運用にもたらす影響は計り知れませんが、その進化はまだ始まったばかりです。ジェド氏の視点からは、AIの未来に対する現実的かつ野心的なビジョンが浮かび上がります。

AIによる世界の「モデル化」の深化

AIは、デジタル世界の複雑さをモデル化することに長けています。当初はコードのシンタックスを理解するだけでしたが、現在はより深いセマンティクス、つまりシステムの実際の振る舞いを理解する方向へと進化しています。しかし、AIが「人間のように」世界のあらゆる側面を理解し、予測し、最適化するには、まだ大きな隔たりがあります。

ジェド氏は、将来的にはAIが「自ら実験計画を立て、実行し、必要な情報を収集し、問題を解決する」能力を持つようになると見ています。これは単なるデータ分析を超え、AIが能動的に世界とインタラクションし、学習する段階への移行を意味します。Greprが「変化を検知し、検証する」というアプローチを採っているのは、この未来に向けた重要なステップです。AIが自ら問いを立て、テストを実行し、その結果から学び、行動を変えることで、システムの運用は大きく変わり、人間の負担はさらに軽減されるでしょう。

人間とAIの新たな協調関係

AIの進化は、人間の仕事を奪うものではなく、むしろ人間の能力を拡張し、新たな役割を生み出すものだと考えられます。

タスクの再定義: AIがルーティンワークや単純なコード生成を担うことで、エンジニアはシステムの高レベルな設計、複雑なアーキテクチャの決定、AI自身を指導するプロンプトエンジニアリングといった、より戦略的で創造的なタスクに集中できます。
「ボトルネックの解消」としてのAI: AIは、システムのボトルネックとなっている部分を特定し、その解決策を提案する能力を持つようになります。例えば、膨大な運用データから異常なパターンを検知し、人間のオペレーターにその原因と対策の候補を提示することで、インシデント対応のスピードと精度を向上させることができます。
新たなビジネス価値の創出: AIによる効率化と信頼性向上は、企業がより迅速に製品を市場に投入し、顧客に価値を提供することを可能にします。これにより、市場における競争力が高まり、新たなビジネスモデルやサービスが生まれる土壌が作られます。

不確実な未来への挑戦

ジェド氏は、AIが扱うべき領域として「生産システムの実際のパフォーマンス、可用性、整合性」を挙げ、これらが予測不可能で複雑な「リアルワールド」であると認識しています。この世界は、天文学者が宇宙の法則を探求するように、未知の領域が多い「イベントホライズン」のようなものかもしれません。

しかし、ジェド氏は悲観的ではありません。彼は、システムの歴史が「よりスマートなアルゴリズム」を追求しつつも、最終的には「オーバープロビジョニング」というシンプルな解決策を選んできた例（例：仮想メモリの利用）を挙げます。これは、複雑な予測よりも、堅牢な設計で不確実性に対応するというアプローチです。

しかし、AIの時代には、このアプローチに変化が訪れます。AIは、過去の膨大なデータから学習することで、人間が見落としていたパターンや関係性を発見し、システムをより深く理解する手がかりを提供します。そして、Greprのような企業は、このAIの力を活用して、これまで人間が手作業で、あるいは直感的に行っていた複雑な運用タスクを自動化し、システムのレジリエンス（回復力）を高めようとしています。

結論：AIが拓くシステム運用の新たな地平

ジェド・シャーマン氏の対談は、AIが単なる技術トレンドではなく、システムエンジニアリングの根幹を揺るがし、再定義する力を持っていることを明確に示しています。コードの生成から運用システムの最適化、さらには人間の知性の拡張に至るまで、AIは多岐にわたる側面で大きな影響を与えています。

Greprのアプローチは、AIが現状ではまだ「理解」できないシステムのセマンティクスを、人間とAIが協調することで解き明かし、実世界の課題を解決するための道筋を示しています。これは、AIが「何をすべきか」を自律的に判断する「汎用人工知能」の実現を待つのではなく、現在のAIの強みを最大限に活かし、人間がより賢く、より効率的に働くための「ツール」として位置づける現実的なアプローチです。

AIがもたらす変化は、エンジニアリングチームの生産性を飛躍的に向上させ、ビジネスにおける信頼性とコスト効率を改善し、最終的には私たちのデジタルな世界全体をより強靭で柔軟なものにするでしょう。このエキサイティングな時代において、AIと人類の協調は、これまで想像もしなかった新たな価値と、解決不可能と思われた課題への答えを生み出す鍵となるに違いありません。私たちは、このAIが拓く新たな地平を、期待ととも見つめています。