AIはNYT Connectionsを解けるか?深層学習と人間的推論の融合が拓く新時代
最新技術の最前線に立つ私たちジャーナリストにとって、AIの進化は常に追いかけるべきエキサイティングなテーマです。特に、その能力が人間ならではの認知や創造性を要する領域にまで広がりを見せるとき、私たちはその進歩の意義を深く掘り下げたくなります。今回、私たちが注目するのは、ニューヨーク・タイムズが提供する人気の単語パズルゲーム「Connections」と、それをAIで攻略しようという試みです。
「Connections」は単なる娯楽ではありません。それは、AIの抽象的思考、非自明な関係性の理解、そして言語の深い洞絡という、汎用人工知能(AGI)への道のりにおける重要な課題を浮き彫りにする、絶好のテストベッドとなっています。本記事では、このゲームがいかにAIにとって手ごわい相手であるか、そして最先端の機械学習技術、特にグラフニューラルネットワーク(GNN)と強化学習(RL)が、この挑戦にいかに立ち向かおうとしているのかを、詳細かつ分かりやすく解説していきます。
NYT Connectionsの魅力とAIへの挑戦
ニューヨーク・タイムズのゲームエンジニアであるShafik Quoraishee氏が「AI Engineer World's Fair」で発表した内容は、この領域における独立した、しかし深遠な探求の成果です。Quoraishee氏は、Business Insider、NBA、MTV、Department of Defenseでのキャリアを持ち、機械学習、モバイル開発、データサイエンスの広範なバックグラウンドを持つ専門家です。彼が「Connections」という特定のゲームをAIのケーススタディとして選んだ背景には、このゲームが持つユニークな特性があります。
「Connections」は2023年6月にベータ版が公開され、同年8月に正式リリースされるやいなや、瞬く間に人気を集めました。New York Timesのパズルゲーム群の中で、Wordleに次ぐプレイ数を誇り、初年度で数億回という驚異的なプレイ数を記録しています。このゲームの全てのパズルとゲームロジックは、Wyna Liu氏をはじめとする人間のエディターによって作成されており、この「人間が作った」という点が、AIの能力を評価する上で重要な意味を持ちます。
Connectionsの基本ルールと奥深い難易度構造
「Connections」のルールは一見シンプルです。プレイヤーは毎日、16個の単語が提示されたボードを与えられます。目標は、これらの単語から4つの関連する単語のグループを4つ作成することです。各単語は1つのグループにのみ属し、重複はありません。プレイヤーは4回間違った推測をするとゲームオーバーとなります。
このゲームが奥深いのは、その難易度構造にあります。パズルのカテゴリは難易度に応じて4つの色で分類されます。
- Yellow(最も簡単): 「果物」や「色」など、見ただけでわかるような明らかな意味的セット。
- Green(やや難しい): 「米国の州」のように、少し考える必要があるものの、概念的にはクリアな関連性を持つカテゴリ。
- Blue(さらに難しい): 慣用句、語彙、雑学など、よりトリッキーなテーマ。思考を要するが、理解可能。
- Purple(最も難しい): 抽象的、水平的、駄洒落ベース、またはあいまいな関連性を持つカテゴリです。このカテゴリには、しばしば複数のグループに属するように見える「デコイ」単語が意図的に仕込まれており、これがプレイヤーを混乱させ、完璧な勝利から遠ざける主な要因となります。
この多層的な難易度構造が、「Connections」をAIの汎用的な推論能力をテストするための理想的な場にしています。
なぜConnectionsはAI研究のフロンティアなのか?
「Connections」がAI研究者にとってこれほど魅力的なのは、以下のような理由からです。
抽象的・非自明な関係性の理解への挑戦: LLM(大規模言語モデル)は、膨大なテキストデータから学習することで、表面的な言語パターンや統計的関連性を捉えることに長けています。しかし、「Connections」のBlueやPurpleカテゴリに見られるような、慣用句的な表現、文化的参照、多義性、あるいは特定の文脈でしか成立しない抽象的な関係性を理解するには、単なる「単語の近さ」以上の深い言語理解と世界知識が必要です。AIがこれらの非自明な関係性を正確に識別できるかどうかは、その真の「理解力」を示す指標となります。
過学習を防ぎ、透明性を評価するテストベッド: AIモデルは、与えられたデータセットに過剰に適合(オーバーフィッティング)することで、汎化能力を失うことがあります。「Connections」の意図的なデコイは、AIが表層的な類似性に惑わされず、より深いレベルでの関係性を抽出できるかをテストします。また、各パズルの解には明確な「理由」(カテゴリ名)が存在するため、AIがどのような論理でその解にたどり着いたのかを説明させることで、AIの推論プロセスにおける透明性(Explainable AI: XAI)を評価するのに適しています。
再現性とスケーラビリティのあるベンチマーク: 「Connections」のパズルは毎日更新されますが、その構造と解は固定されています。これにより、同じパズルに対して異なるAIモデルやアルゴリズムを繰り返しテストし、そのパフォーマンスを一貫して比較できる再現性の高いベンチマークとなります。さらに、過去のパズルアーカイブはAIの学習データやベンチマークデータとして活用でき、スケーラビリティも確保されています。
Shafik Quoraishee氏の研究では、既存のLLM(例: ChatGPTのGPT-4.0モデル)にConnectionsパズルを解かせたところ、依然として間違った解を出すケースがあることを示しています。これは、LLMがインターネット上の既存のConnectionsの解を「カンニング」している可能性や、LLMの推論プロセスが依然として「ブラックボックス」であり、人間の思考と異なるため、Connectionsのようなパズルにおいてはまだ限界があることを示唆しています。
人間的思考のメカニズム: System 1とSystem 2
Connectionsを解く際の人間的思考プロセスを理解することは、AIソルバーを構築する上で重要です。ノーベル賞受賞者ダニエル・カーネマンが提唱した「速い思考と遅い思考(Thinking, Fast and Slow)」という概念は、これを説明するのに役立ちます。
System 1(速く、直感的): これは私たちの脳が迅速かつ自動的に行う、直感的な思考です。例えば、リンゴを見たらそれが果物であることを即座に認識するようなものです。「Connections」のYellowカテゴリ(例:果物の名前)は、System 1で容易に解くことができます。しかし、トリッキーなデコイや抽象的な関連性がある場合、System 1は「過剰クラスタリング」などのエラーを起こしやすくなります。
System 2(遅く、意図的): これはより注意深く、論理的で、努力を要する思考プロセスです。複雑な計算を行ったり、複雑な問題の解決策を熟考したりする際に使用されます。「Connections」のBlueやPurpleカテゴリでは、単語の意味を深く掘り下げ、異なる文脈を考慮し、デコイに惑わされないためにSystem 2の推論が不可欠です。System 2は「誤解釈」や「考えすぎ」によって失敗することもあります。
「Connections」で成功するプレイヤーは、これら二つの思考システムを効果的に組み合わせています。AIがConnectionsを解くには、この人間のハイブリッドアプローチを模倣するか、それを超える独自の戦略を開発する必要があります。
ConnectionsパズルをAIでモデル化する:グラフ理論の応用
ConnectionsパズルをAIで攻略するためには、まずその構造をAIが理解できる形にモデル化する必要があります。ここで登場するのが、コンピュータサイエンスの分野で広く用いられるグラフ理論です。
Shafik Quoraishee氏の研究では、Connectionsパズルを**「拡張グラフ彩色問題(Augmented Coloring Problem)」**として定式化します。
- 単語をノードとして表現: 16個の単語は、グラフの16個の「ノード」(頂点)として表現されます。
- カテゴリを色として表現: 4つの隠されたカテゴリは、4つの異なる「色」として捉えられます。目標は、各単語ノードを4つのカテゴリ色のいずれかで「彩色」することです。ただし、同じカテゴリに属する4つの単語はすべて同じ色を受け取る必要があります。
- 関係をエッジとして表現: ここが重要です。単語間の「関係」は、グラフの「エッジ」として表現されます。このエッジは、単語間の意味的または語彙的親和性の「強度」を示します。例えば、「ペン」と「書く」の間には強いエッジが存在するでしょう。
このモデル化は、AIがゲームを解くための「探索空間」をどのように構築するかを明確にします。AIソルバーは、このグラフ構造を分析し、最適な色の割り当て(=単語のグループ分け)を見つけ出すことを目指します。もしAIが単語間の関係性を正確に把握できなければ、それはランダムに推測するのとほとんど同じになり、勝率は極めて低くなります(初期状態での勝率は約0%、つまり6300万分の1)。
単なる意味的類似性を超えて:多次元関係アライメント
グラフモデルにおける「エッジ」の強度、つまり単語間の関係性をどのように定義するかが、AIソルバーの性能を大きく左右します。Shafik Quoraishee氏は、単純な「意味的類似性」だけでは不十分であり、単語間には多種多様な関係性が存在することを指摘します。
例えば、以下のような単語関係の種類が挙げられます。
- 形態論(Morphology): 同じ接尾辞を持つ単語(例:kingdom, fiefdom, dukedom)。
- 正書法(Orthography): 文字の並びが関係する(例:アナグラム)。
- 一般知識(General Knowledge): 広範な知識に基づく関連性(例:Newspaperのタイプ – Globe, Mirror, Post, Sun)。
- 連想関係(Associative Relationships): 経験的な関連性(例:「赤」に関連する言葉 – Strawberry, Rose, Mars)。
- 多義性(Polysemy): 複数の意味を持つ単語(例:「mole」– 動物、ほくろ、スパイ、化学単位)。
このような複雑な関係性を捉えるために、研究では**「関係アライメント(Relational Alignment)」、別名「コヒーレンス(Coherence)」**という概念が導入されます。これは、テキストや会話の中でアイデアが論理的かつ意味的にどのように接続されているかを指します。高次元の関係アライメントは、AIが単語間の深い繋がりを理解し、人間のように解釈する能力を示します。
Quoraishee氏の研究では、この関係アライメントを定量化するために、様々なメトリックを組み合わせたヒートマップシミュレーションや、時系列でカテゴリ横断的なアライメントスコアを追跡するツールを開発しました。これにより、パズルの難易度(簡単か難しいか)が、単語間の関係アライメントスコアの差動分析を通じて計算的に決定できることが示唆されています。例えば、簡単なパズルと難しいパズルでは、カテゴリごとの平均コヒーレンススコアに明確な違いが現れます。
さらに、多次元関係アライメントの概念では、単語間の関係性が単一の類似性スコアでは表現しきれない、複数の次元にわたるプロファイルを持つことが示されます。例えば、2つの単語が形態学的に強く関連している一方で、百科事典的にはほとんど関連がない、といった具合です。レーダーチャートなどの視覚化ツールを用いることで、この多次元的なアライメントパターンを露呈させ、AIが単語グループの妥当性を評価する際に、単一の軸でのピークだけでなく、分散した関係強度に基づいて判断できるようになります。
最適ソルバーの設計:GNNと強化学習の融合
これらの複雑な関係性と難易度構造をAIに解かせるために、Shafik Quoraishee氏は最先端の機械学習技術を組み合わせた最適なソルバーの構築を目指しています。その核心となるのが、**グラフニューラルネットワーク(GNN)と強化学習(RL)**の融合です。
Connectionsグラフクラスタリングの定式化: まず、Connectionsパズルは動的なグラフとしてモデル化されます。単語はノード、単語間の意味的・語彙的親和性はエッジで表されます。グループ形成は「進化するクラスター状態」として扱われ、プレイヤーの推測(正解または不正解)というフィードバックに基づいてエッジの重みが動的に変化します。この動的な更新プロセスが、クラスタリングを正しい解へと収束させることを目指します。
GNNとRLを使用した最適ソルバーの構築: GNNは、入力されたグラフ構造(単語とそれらの関係性)を学習し、コンテキストを考慮したノード埋め込み(単語の多次元表現)を生成します。これにより、単語が持つ多様な意味や関係性が捉えられます。RLエージェントは、このGNNからの情報を活用し、単語のグループ分けという意思決定を行います。
- **RGCNN(関係グラフ畳み込みニューラルネットワーク)**のようなカスタムGNNモデルが、単語の類似性メトリックを評価しランク付けするために使用されます。
- RLエージェントは、歴史的なパズルデータから学習し、動的なコヒーレンス信号に基づいて最適な単語グループを選択するポリシーを訓練されます。
- アクションフィードバック(推測の正誤)と意味的類似性の変化を利用して、エッジの重みとノードの表現が時間の経過とともに更新され、学習プロセスが進行します。
- 最終的には、クラスタの形態(グラフがどのような形状に収束していくか)を追跡することで、安定したパーティショニングパターンと収束挙動を学習します。
この複雑なシステム全体は、多数の知識源からセマンティックグラフが構築され、GNNがグラフをコンテキスト認識型のノード埋め込みにエンコードし、グループの妥当性からのフィードバックがグラフ構造を調整し、動的な学習と正しい解への収束を可能にする「RL駆動型システム」として表現されます。このアプローチは、LLMのような「ブラックボックス」ではない、より透明で説明可能なAIによる推論の実現を目指しています。
初期成果と今後の展望
Shafik Quoraishee氏の研究の初期結果は、この複雑なAIソルバーが、Connectionsの「難しい」パズルの限定されたサブセットにおいて、解決率を向上させる可能性を示唆しています。例えば、連想関係や百科事典的関係、形態論、多義性といった様々なセマンティックカテゴリにおいて、AIの解決率が改善されたことが報告されています。
しかし、Quoraishee氏自身も強調するように、これらの結果はまだ予備的なものであり、さらなる改善とシステム強化が必要です。今後、より広範なパズルデータセットを用いた徹底的なテストが必要となります。
次のステップとして、この研究は以下のような方向性で進化していくことが期待されます。
- カスタムベンチマークの構築: LLM単体、RLベース、クラスタリングベース、ハイブリッド型といった複数のソルバーアーキテクチャにわたるカスタムベンチマークを構築し、各アプローチの強みと弱みを詳細に分析します。
- RLと推論エージェントの理解深化: RLエージェントと推論エージェントが、Connectionsのような非自明なパズルをどのように解くのかについて、より深い洞察を得ることを目指します。
- 人間とAIのパフォーマンス比較: 実際のユーザープレイヤーデータとAIのパフォーマンスデータを比較し、人間が優れている領域とAIが優れている領域を特定することで、両者の協調を最大限に引き出す方法を模索します。
まとめ
New York Timesの「Connections」パズルは、AIの能力、特にその推論力、言語理解、そして抽象的思考の限界を試す興味深いプラットフォームを提供しています。Shafik Quoraishee氏のこの独立した研究は、GNNと強化学習を組み合わせることで、単語間の多次元的な関係性を捉え、人間の思考プロセス(System 1とSystem 2)を模倣し、さらにはそれを超える可能性を秘めたAIソルバーの構築に挑戦しています。
この研究は、LLMの「ブラックボックス」問題に一石を投じ、AIがなぜ特定の解にたどり着いたのかを人間が理解できるような「説明可能なAI」の実現を目指すものです。Connectionsというゲームは、AIが単なるパターン認識を超え、真に人間のような推論能力を獲得できるかどうかの試金石となり、汎用人工知能(AGI)のフロンティアを切り拓く上で重要な役割を果たすでしょう。