賢く最適化するほど、世界を見失う理由

Hatched by tttt

Aug 20, 2026

1 min read

2 views

93%

「昨日より成果が上がっているのに、なぜか判断の質は落ちている」。そんなことが起こるのは、努力が足りないからではない。むしろ、目の前の評価を改善する能力が高すぎるからだ。

勉強、仕事、投資、SNSの閲覧、そして人工知能。これらは一見まったく別の活動に見える。しかし、背後には共通する一つの問題がある。それは、局所的な成功を積み重ねることと、本当に望ましい場所へ近づくことは同じではないという問題だ。

山登り法は、現在地から周囲を見渡し、最も高くなる方向へ一歩ずつ進む。合理的で、効率的で、失敗も少ない。ところが、目の前の丘の頂上に着いたとき、それが山脈全体の最高峰だとは限らない。低い谷を一度通らなければ、より高い山へ移れないこともある。

機械学習における過学習も、情報環境におけるフィルターバブルも、実はこの構造を持っている。近くの評価を改善し続けた結果、遠くの現実に適応できなくなるのである。

私たちは「正しさ」ではなく、測れるものを最適化している

人工知能に何かを学習させるとき、まず評価基準を決める。競馬の例なら、過去のレース結果を使い、どの馬が勝つかを予測する。訓練データで正解率が高くなれば、モデルは一見賢くなったように見える。

しかし、訓練に使っていないテストデータを与えた瞬間、成績が大きく落ちることがある。モデルは勝ち馬の一般的な傾向を理解したのではなく、過去のデータに含まれる偶然の特徴まで覚えてしまったからだ。特定の競馬場、特定の日の天候、たまたま出走した馬の組み合わせまで、勝利の法則だと誤認していたのかもしれない。

ここで重要なのは、過学習が「学習しすぎ」の単純な問題ではないという点だ。正確には、評価される環境に適応しすぎる問題である。モデルは愚かだから失敗するのではない。与えられたスコアを上げるという課題に、あまりにも忠実だったために失敗する。

人間の生活にも同じことが起こる。会社で評価される指標がメールの返信速度なら、私たちは返信を速くする。閲覧数が成功の指標なら、注目を集める投稿を作る。試験の点数が知性の指標なら、点数に出やすい知識を覚える。その結果、指標は改善するが、本来の目的から離れていく。

売上を増やすために値引きを続けると、売上高は上がっても利益が減るかもしれない。顧客満足度を上げるために問い合わせを早く終わらせると、解決されていない顧客が増えるかもしれない。学習時間を増やすために机に座った時間だけを測ると、考える時間よりも滞在時間を最適化するようになる。

測定しやすい成果を、本当の目的と取り違えた瞬間、最適化は迷子になる。

だから、学習や意思決定では「どれだけ良くなったか」だけでなく、「何に対して良くなったのか」を問わなければならない。訓練データでの成績は、能力の証明ではなく、過去の環境への適合度にすぎない。現実の未知の状況で機能するかどうかは、別途検証する必要がある。

山登り法が教える、成功の落とし穴

山登り法は、現在の解を少し変更し、その変更によって評価が上がるなら採用する方法だ。文章なら、見出しを変えてクリック率を測る。営業なら、話し方を少し変えて成約率を見る。生活なら、毎日の習慣を一つずつ改善し、気分や成果の変化を確認する。

この方法は、明らかに悪い方向へ進むことを避けられる。だから短期的には非常に強い。問題は、現在地の周囲しか見ないことである。

山の中で、視界が霧に覆われていると考えてみよう。足元の傾斜だけを頼りに登れば、最初は順調に高度を稼げる。しかし、やがて小さな丘の頂上に着く。周囲は下り坂しかない。そこからさらに高い峰へ行くには、一度下る必要があるが、山登り法はその移動を拒否する。

キャリアにも似たことがある。現在の職場で評価される技能だけを磨けば、短期的には昇進しやすい。しかし、その技能が特定の会社の制度にしか通用しない場合、外部環境が変わったときに身動きが取れなくなる。SNSでも、自分が反応を得られる意見だけを強化すると、発信は洗練される一方で、異なる読者には届かなくなる。

これは「努力の方向が間違っていた」というより、探索の範囲が狭すぎたということだ。近くの改善を繰り返している限り、私たちは努力している実感を持てる。けれども、努力の量は、探索の質を保証しない。

人工知能の最適化では、この問題を避けるために、あえて一時的な悪化を受け入れる方法が使われる。その一つがシミュレーテッドアニーリングだ。高温の状態では、より低い場所へ移る確率を高くする。初めはランダムな動きを許し、探索の範囲を広げる。徐々に温度を下げ、最後に有望な場所へ落ち着かせる。

この発想を人間の意思決定に置き換えると、こうなる。最初から最善を選ぼうとせず、一定期間は意図的に遠回りを許す。いつものジャンルではない本を読む。成果が測りにくい研究を試す。異なる業界の人と話す。短期的な効率を落としてでも、別の地形を確認する。

探索にはコストがある。時間も、失敗も、周囲からの評価の低下も伴う。それでも探索をしなければ、現在の丘が世界の最高峰だと思い込むことになる。

フィルターバブルは、情報版の局所最適解である

フィルターバブルとは、アルゴリズムが利用者の好みに合わせて情報を選び続けることで、見える世界が狭くなる現象だ。自分がよく読む話題、反応した意見、長く滞在した動画が、さらに表示される。その結果、利用者は「世の中の大部分がこう考えている」と感じる。

ここでもアルゴリズムは、必ずしも悪意を持っているわけではない。利用者が長く滞在することや、クリックすることを目標にしているなら、興味のありそうな情報を提示するのは合理的だ。問題は、滞在時間の最大化と、世界の理解の最大化が別の目的であることだ。

これは分類とクラスタリングの違いを考えると、さらに鮮明になる。分類では、あらかじめ用意されたラベルにデータを振り分ける。犬か猫か、勝つか負けるか、賛成か反対か。クラスタリングでは、正解ラベルを与えず、似た特徴を持つものを集める。

私たちは情報を見るとき、しばしば自分で作った分類器を使っている。「この人は信頼できる」「この意見は危険だ」「この分野は自分には関係ない」。一度ラベルを付けると、その後の情報はラベルに沿って解釈される。近い意見ばかりを集めるクラスタリングも、異質なものを見えなくする。

最近傍分類器の考え方も示唆的だ。近くにあるデータほど、自分と似ていると判断する方法である。人間関係や情報収集でこれを使いすぎると、身近な人の経験だけを世の中の代表例だと思ってしまう。

同じ職種の人、同じ年齢の人、同じ価値観の人、同じニュースを読む人に囲まれていると、意見の一致は増える。しかし、一致が増えたことは、判断が正確になったことを意味しない。それは単に、サンプルの多様性が失われた結果かもしれない。

フィルターバブルの怖さは、情報が少なくなることだけではない。自分の予測が外れる機会まで少なくなることにある。未知のデータで試されないモデルは、自分の弱点を発見できない。反対意見に触れない人も、自分の推論の穴を見つけられない。

ここでテストデータの考え方が役立つ。自分の信念を鍛えるために、普段なら選ばない情報を、意図的にテストデータとして扱うのである。重要なのは、反対意見に勝つことではない。その情報を見ても、自分の結論が維持されるのか、それとも予測の前提を修正すべきなのかを確かめることだ。

良い判断は「探索」と「検証」を分けて設計する

ここまでの話を一つのモデルにまとめると、判断には二つの異なる段階がある。

第一は、探索である。まだ知らない可能性を見つける段階だ。ここでは効率よりも多様性が重要になる。評価が低いもの、予想外のもの、理解しにくいものを一定量取り込む必要がある。

第二は、検証である。見つけた仮説が、未知の状況でも機能するかを確かめる段階だ。ここでは再現性と外部データが重要になる。自分が仮説を作るために使った情報とは別の情報で、予測を試さなければならない。

多くの人は、この二つを混同している。探索の段階で早く結論を出し、検証の段階で自分に都合のよい事例を探す。あるいは、同じデータを見ながら仮説を作り、そのデータで仮説の正しさを証明しようとする。

例えば、ある勉強法を試して模擬試験の点数が上がったとする。しかし、その模擬試験の問題形式を何度も見ていたなら、測っているのは理解度ではなく慣れかもしれない。別の形式の問題、時間制限の違う問題、説明を求める課題で試して初めて、学習が一般化しているか分かる。

仕事でも同様だ。ある施策が今月の数字を改善したとしても、それが来月も続くとは限らない。顧客の反応を一時的に刺激しただけかもしれないし、別の部署に負担を押し付けただけかもしれない。短期指標、長期指標、質的な観察を組み合わせることで、局所的な改善と本当の進歩を区別できる。

実践的には、次の四つのレイヤーを分けるとよい。

目的: 最終的に何を良くしたいのか。売上ではなく利益か、閲覧数ではなく理解か、点数ではなく応用力か。
代理指標: 目的を推測するために何を測るのか。便利だが、目的そのものではない。
探索領域: どれほど異なる選択肢を試すのか。現在の方法の改良だけでなく、別の方法を含める。
未知の検証: どのような新しい状況で、成功を確かめるのか。訓練に使っていないデータや、異なる条件を用意する。

この四つを分けると、「数字が上がった」という事実に過剰な意味を与えずに済む。数字は地図の一部であって、地形そのものではない。

今日からできる、知性のための温度管理

探索と検証を生活に組み込むために、複雑な仕組みは必要ない。重要なのは、偶然に任せず、意図的に設計することだ。

Key Takeaways

目的と指標を分けて書く: 何を達成したいのか、そのために何を測っているのかを別々に記録する。指標が上がっても、目的に近づいた証拠とは限らない。
未知のテストを予定に入れる: 学習や仕事の成果を、普段と違う条件で試す。別形式の問題、異なる顧客、初めての読者などを対象にする。
意図的な異質性を確保する: 毎週一つ、普段なら選ばない本、記事、専門分野、人物の意見に触れる。反対意見を探す目的は論破ではなく、前提の点検である。
短期の悪化をすぐ失敗と呼ばない: 新しい方法を試す初期段階では、効率や成果が落ちることがある。それが探索のコストなのか、本当に悪い方法なのかを期間を決めて評価する。
自分の予測を記録する: 結論だけでなく、確率や理由も書いておく。後から結果を確認すれば、自分がどの条件で過信し、どの情報を無視したかが分かる。

最も大切なのは、常に高温で動き続けることでも、早く冷却して一つの答えに固まることでもない。探索すべき時期と、収束すべき時期を区別することだ。