なぜ知能はCPUだけでは足りないのか: 検索とGPUが示す『設計された自由』

目の前の賢さは、なぜいつも遅いのか

検索が難しいのは、情報が足りないからではない。むしろ逆で、情報が多すぎるから難しい。日本語のように表記ゆれ、分かち書きの曖昧さ、同音異義語が多い言語では、単純な一致だけでは「探しているもの」に届かない。そこで必要になるのが、意味の近さで候補を広く拾い、あとから絞り込むという発想だ。

一方で、GPUの世界にも似た緊張がある。CPUは柔軟で、何でもこなせる。けれど、並列な計算を大量に回す局面では、CPUの器用さはむしろ遅さになる。GPUは自由度が低い代わりに、同じ種類の処理を大量に流すことに圧倒的に強い。つまり、どちらの領域でも本質的な問いは同じだ。自由に動けることは、本当に強さなのか。

この問いを突き詰めると、検索とGPUは意外なほど深くつながる。どちらも「万能な頭脳」を目指しているのではない。むしろ、制約を設計することで、必要な自由を取り戻すための技術だ。

---

検索は「正しさ」ではなく、「到達可能性」の技術である

従来の検索は、キーワードが合うかどうかを重視してきた。だが日本語では、それだけでは不十分だ。たとえば「購買意欲」と「買いたい気持ち」は同じ意味でも文字列は違うし、「OpenSearch」「オープン検索」「検索基盤」も文面の揺れで分断される。Sparse search の価値は、こうした分断を広くて薄い表現でつなぎ直すところにある。

ここで重要なのは、Sparse search が「曖昧でも何でも拾う」ための雑な仕組みではないことだ。むしろ逆で、巨大な候補空間を、扱える形に変換する精密な工学である。人間の目には似た意味に見える言葉の群を、検索エンジンが扱える特徴の集合に落とし込み、関連度を計算可能にする。

この発想は、単なる情報検索の話ではない。私たちはあらゆる設計で、「完全な指定」を欲しがる。だが現実は曖昧で、仕様も文脈もゆらぐ。そこで必要なのは、曖昧さを排除することではなく、曖昧さを計算可能な形式に変えることだ。Sparse search は、その最も実践的な例のひとつと言える。

優れた検索とは、答えを直接知っていることではない。答えに到達できる経路を、十分に広く、十分に速く用意することだ。

この視点に立つと、検索の本質は「知識の保存」ではなく「知識への通路の設計」になる。日本語検索の難しさは、言語が複雑だからというより、人間の理解と機械の計算のあいだにあるギャップが広いからこそ現れる。Sparse search は、そのギャップを埋めるために、意味を粗く近似しながらも、実用的な精度を維持する。

---

GPUが教える、自由の正体は制約である

GPUを Haskell から扱いたい、という欲求も同じ構造を持っている。CPUで何でもできるなら、それで十分ではないかと思うかもしれない。だが実際には、巨大な並列計算、画像処理、行列演算、シミュレーションのように、同じ計算を膨大に繰り返す場面では、CPUの柔軟性はコストになる。そこでGPUが登場する。

しかしGPUは、CPUのように好き勝手に命令を並べると力を発揮しない。メモリ配置、同期、データ転送、パイプラインの構造を理解しなければならない。Vulkan API を通じて GPU を動かすことは、単に「低レベルで難しい」ことではない。GPUの得意形に合わせて、計算を再構成することだ。

ここで面白いのは、Haskell のような抽象度の高い言語が、低レベル API と結びつくことの意味である。一見すると逆方向に見える。高級言語は抽象化、GPU API は制御。だが本当は、これらは対立しない。むしろ、Haskell の強みは、複雑な実行条件を型や構造で包み、事故を減らしながら制御を記述できる点にある。

つまり、Haskell で Vulkan を使うことは、自由を捨てることではない。自由の代わりに秩序を受け入れ、その秩序の中でより安全に、より高密度に自由を使うことだ。GPU は「何でもできる装置」ではなく、「設計された並列性だけを爆発させる装置」である。この割り切りがあるからこそ、圧倒的な性能が生まれる。

この構図は検索にもそっくりだ。検索エンジンもまた、あらゆる意味をそのまま理解するのではなく、意味を扱える形に制約し、制約された世界で高速に探索する。自由な理解ではなく、構造化された近似。ここに、両者の核心がある。

---

CPU的な万能性より、GPU的な設計が勝つ理由

私たちはしばしば、「柔軟であること」を善とみなす。何でもできるシステム、何でも表現できる言語、何でも解ける検索。だが、実際の性能や使いやすさは、その逆を示すことが多い。真に強いシステムは、自由を無限に広げるのではなく、重要な自由だけを残す。

この観点で見ると、Sparse search と GPU は同じ哲学を持っている。Sparse search は、意味の候補を広く出しつつ、実際に有用なものだけを選べるようにする。GPU は、あらゆる制御を捨てる代わりに、大量並列という一点で極端な力を持つ。どちらも「全部を賢くする」のではない。一部を極端に強くすることで、全体として賢く見えるようにしている。

たとえば図書館を考えてみよう。すべての本を完璧に覚える司書はいない。代わりに、分類法、索引、請求記号、棚の配置がある。利用者は本そのものではなく、本へ到達するための設計を使って目的地にたどり着く。検索エンジンはこの司書に近い。そしてGPUは、その図書館の棚を一瞬で再配置できる重機に近い。ただし、重機は万能ではない。重機が力を発揮するのは、作業の形が揃っているときだけだ。

ここから導ける重要な教訓は、設計とは「制約を減らすこと」ではないということだ。設計とは、何を制約し、何を自由にするかを選ぶことである。検索では表現を制約し、意味への到達を自由にする。GPUでは実行の自由を制約し、並列処理の爆発力を自由にする。

自由は、制約がない状態ではなく、適切な制約の中で最大化される実行可能性である。

この言い換えは、ソフトウェア設計全般に効く。API 設計、データモデル、分散システム、さらにはチームの開発プロセスまで、同じ原理が働く。選択肢を増やせば賢くなるわけではない。賢さとはむしろ、どこで選択肢を捨てるべきかを知ることだ。

---

検索と計算をつなぐ新しい見方: 候補生成と実行の二段構え

Sparse search と GPU の共通点を、さらに抽象化すると、どちらも二段構えで動いていることがわかる。第一段階では広く候補を出す。第二段階では、その候補に対して強い処理をかける。

検索で言えば、まず Sparse な表現で関連しそうな文書を集める。その後にランキングや再評価で絞り込む。GPU で言えば、まずデータを GPU に載せ、並列に実行できる形へ整える。その後に大量のスレッドで一気に計算する。両者とも、前処理で世界を単純化し、本処理でその単純化を極限まで活用する。

この二段構えは、実は人間の思考にも似ている。私たちは、何かを調べるとき、いきなり答えに飛びつかない。まず「それっぽいもの」を広く集め、次に比較し、最後に確信へ至る。コードを書くときも同じだ。最初から完璧な実装を目指すのではなく、まず動く形を作り、その後に最適化する。賢いシステムは、探索と確定を分離している。

ここで重要なのは、二段構えの前半はしばしば地味で、後半が華やかに見えることだ。GPU の高速実行は派手だが、実はデータ転送やレイアウト設計が本体だったりする。検索の最終ランキングは注目されるが、実際には候補生成の質が勝負を決める。つまり、性能とは最後の一撃ではなく、そこに至る構造の総和なのだ。

この見方を持つと、技術選定の軸も変わる。何を最速で実行できるかではなく、何を前提として組み立てれば全体が速くなるか。何を最も賢く判定できるかではなく、何を先に粗くふるいにかけるべきか。検索もGPUも、思考をこの順序へと導いている。

---

Key Takeaways

1. 万能性より、得意形の設計を優先する
   すべてを一つの仕組みで解こうとせず、候補生成と絞り込み、準備と実行を分ける。

2. 曖昧さは排除するのではなく、計算可能な形に変える
   日本語検索のような複雑な領域では、完全一致よりも、意味を扱える近似が強い。

3. 制約は自由の敵ではない
   GPU が並列処理に強いのは、何でもやらないから。設計では、何を捨てるかを明示する。

4. 性能は最後の最適化ではなく、前段の構造で決まる
   候補の作り方、データの置き方、API の形が、最終結果を左右する。

5. 良いシステムは「探しやすさ」と「回しやすさ」を両立する
   検索は到達可能性を、GPU は実行可能性を高める。両者を組み合わせる発想が、次の設計を生む。

---

結論: 賢さとは、世界をそのまま受け入れることではない

検索も GPU も、最終的には同じ問いに答えている。複雑で曖昧な現実を、どうすれば扱える形にできるのか。Sparse search は、意味の曖昧さを候補へ変える。Vulkan を通じた GPU 利用は、計算の自由を制約へ変える。どちらも、自由を増やしているようでいて、実際には自由の置き場所を変えている。

ここに、現代ソフトウェア設計の重要な逆説がある。賢いシステムとは、たくさん理解するシステムではない。少しのことを、驚くほどよく扱えるシステムだ。そのためには、世界を直接抱え込むのではなく、世界への通路を設計する必要がある。

私たちはしばしば、柔軟なものほど進歩的だと思い込む。だが本当に進歩的なのは、制約の意味を理解し、その制約を使って到達可能性と実行可能性を同時に高めることだ。検索もGPUも、その事実を別々の場所から教えてくれる。だから次に「もっと自由にしたい」と思ったとき、こう問い直すといい。何を自由にするのか、そして何をあえて縛るのか。その答えの中に、システムの強さがある。