防御は名前を変えた追いかけっこにすぎないのか: CAPTCHAとLCELが示す「壊れやすい複雑さ」の正体

Hatched by K.

Jul 04, 2026

1 min read

1 views

67%

その仕組みは本当に守れているのか

ある仕組みが「難しい」と感じられるとき、人はそれを安全だと誤解しがちです。ところが、難しさはしばしば防御ではなく、まだ攻撃されていないだけの複雑さにすぎません。深層学習でCAPTCHAを高い精度で突破できるという事実と、LCELで複雑なチェーンを驚くほど簡単に組めるという発想は、一見まったく別の世界の話に見えます。ですが、両者は同じ問いを別角度から突きつけています。

人間にとっての複雑さは、機械にとっても障壁なのか。

この問いに対する答えは、ますます「いいえ」になりつつあります。しかも重要なのは、機械が賢くなったから単純に勝った、という話ではないことです。本当に起きているのは、複雑さそのものの意味が変わったということです。昔は人間しか扱えなかった不規則さが壁だったのに、今はむしろ、うまく構造化された手順ほど機械に飲み込まれやすい時代に入っています。

複雑さは防御ではない。構造化された複雑さは、機械にとってはむしろ分解可能な課題になる。

CAPTCHAが教える、守りの設計が抱える根本的な弱点

CAPTCHAの発想は単純です。人間には読めるが、機械には読みにくい画像や歪みを出せばよい。これは長い間、実に合理的に見えました。ところが、深層学習は「読みにくい」を大量の例から学習可能なパターンへ変えてしまいます。ノイズ、傾き、文字間隔、背景の乱れ。人間には雑音に見えるものが、モデルには統計的な手がかりになります。

ここで重要なのは、攻撃者が単に「賢い」から突破できるのではなく、防御側が人間中心の直感に依存していたことです。人間にとっての難読化は、機械にとっての不可視化ではありません。むしろ、十分なデータと計算資源があれば、難読化は学習対象になります。セキュリティの脆さは、仕組みの見た目の複雑さではなく、その複雑さがどの程度、モデル化可能かに宿ります。

この視点は、CAPTCHA以外にも広く当てはまります。たとえば、長いパスワードポリシー、手順が多すぎる認証フロー、確認画面を何層にも重ねた承認プロセス。これらは一見すると堅牢です。しかし、ユーザーが抜け道を探し始め、攻撃者がフローを観察し始めると、複雑さはしばしば自己目的化します。守っているのは安全性ではなく、安全そうに見える儀式かもしれません。

ここに第一の教訓があります。「難しいこと」と「破れないこと」は同義ではない。むしろ、機械学習の時代には、難しさは学習で崩れる可能性がある。防御設計は、単純に人間の直感へ訴えるだけでは足りず、攻撃者がどのように世界を表現するかまで考えなければなりません。

LCELが示す、複雑さを運用可能にする別の道

一方で、LCELが提示するのはまったく逆の方向です。複雑さを減らすために単純化するのではなく、複雑さを部品化して流れるようにつなぐ。プロンプトテンプレート、モデル、出力パーサー、リトリーバー、RunnablePassthrough。これらをパイプのように連結し、検索して、渡して、整形して、返す。複雑なチェーンを、読みやすく、再利用しやすく、ストリーミングや並列処理やロギングまで含めて管理可能にする。

ここでの本質は、複雑さの排除ではありません。複雑さの露出と制御です。ブラックボックスの中で何が起きているか分からない状態ではなく、入力がどこから来て、何が検索され、どのプロンプトに渡され、どのモデルを通り、何がパースされるかを明示する。これはソフトウェア設計における透明性の勝利です。

たとえば、ユーザーの質問をそのままモデルに投げるのではなく、まず関連文書をリトリーバーで取得し、それをプロンプトに組み込む。これは単なる便利機能ではありません。モデルに見せる世界を設計することです。モデルは賢くても、何を見てよいかは自動では決まりません。検索で文脈を与え、出力パーサーで形式を揃えることで、生成は偶然の芸術から再現可能な工程へ近づきます。

この設計思想は、CAPTCHAとは対照的です。CAPTCHAは相手を困らせることで守る。LCELは複雑さを見える形で分解することで価値を生む。片方は閉じる設計、もう片方はつなぐ設計です。しかし両者は同時に、構造をどう扱うかが勝負を決めるという点で一致しています。

壊れやすい仕組みは、複雑だから壊れるのではない。複雑さの置き場所を誤るから壊れる。

共通する核心: 「相手がどう表現するか」を読む力

この二つを深く結びつける鍵は、攻撃者や利用者が世界をどう表現するか、という視点です。CAPTCHAの突破は、画像を人間の目で読むのではなく、特徴量として表現し直すことで成立します。LCELのチェーンは、質問を直接回答に変えるのではなく、検索可能なクエリ、参照可能な文書、整形可能な出力として表現し直すことで機能します。

つまり、どちらも本質は表現変換です。セキュリティは「見た目をごまかす」だけでは守れず、システム構築は「ただつなぐ」だけでは価値になりません。重要なのは、ある対象を、別の処理系が扱える表現に落とし込むことです。攻撃者はCAPTCHAを「文字認識問題」に変換してしまう。設計者は質問応答を「検索と生成の合成問題」に変換する。変換の巧拙が結果を決めます。

ここから得られる、少し厄介だが強力な洞察があります。システムは、表現可能なものだけを保護し、表現可能なものだけを処理する。したがって、防御も運用も、相手にどう表現されるかを前提に再設計しないといけません。人間が想像する「複雑さ」は、機械にとってはしばしば圧縮され、分割され、再構成されます。

この意味で、CAPTCHAは「人間らしさ」を証明する装置でしたが、その前提は徐々に揺らいでいます。機械が人間らしさを真似るのではなく、人間が設計した不規則さを統計的な対象として扱うようになったからです。逆にLCELは、機械に仕事を任せるために、人間が文脈を構造化して渡すことを前提にしています。こちらは、機械が世界を理解するのではなく、世界を理解しやすい形に整える設計です。

複雑さには二種類ある: 隠す複雑さと、運ぶ複雑さ

ここで整理しておきたいのは、複雑さには少なくとも二種類あるということです。

隠す複雑さ これは、相手に解かせたくない情報や状態を、あえて見えにくくするための複雑さです。CAPTCHAのような防御はこれに近い。ただし、この種の複雑さは、観測と学習によって崩れる可能性があります。
運ぶ複雑さ これは、価値を生むために、複数の工程やモジュールを安全かつ明示的につなぐ複雑さです。LCELのようなチェーン構築はこれに近い。複雑さを消すのではなく、流れとして制御する。

多くの失敗は、この二つを混同するところから始まります。見せたくないものを「複雑にしておけばいい」と考えると破られます。逆に、つなぐべきものまで曖昧にしてしまうと、運用不能になります。複雑さは悪ではないが、目的に応じて種類を選ばなければならないのです。

たとえば、チームの承認フローを考えてみてください。承認ステップを増やせば安全になると思いがちです。しかし本当に必要なのは、意思決定の根拠を検索可能にし、誰が何を見て、なぜ判断したのかを追跡可能にすることです。これは隠す複雑さではなく、運ぶ複雑さです。前者は見た目の安心感を作るだけで、後者は実際の再現性を生みます。

同じことはAIシステムにも当てはまります。モデルの性能だけに頼るのではなく、リトリーバーで文脈を運び、パーサーで形式を整え、ログで経路を残す。これらは「余計なこと」ではなく、知能を組織で使える形に変えるための配管です。

いま必要なのは、賢いモデルより「賢い境界条件」

CAPTCHA突破の話は、しばしば「AIがすごい」という感想で終わってしまいます。しかし本当の焦点は、攻撃対象そのものよりも、境界条件の設計にあります。どこまでが入力で、どこからが判断か。どのノイズは意味で、どのノイズは無視すべきか。どの工程を自動化し、どこを明示的に制御するか。システムの強さは、モデルの賢さだけでなく、境界の賢さで決まります。

LCELが面白いのも、この境界を明確にするからです。検索は検索、生成は生成、整形は整形。役割が曖昧になると、デバッグも評価も難しくなります。逆に役割が明確なら、失敗箇所を特定しやすい。これはAIシステムだけでなく、組織設計にも効く視点です。責任の境界が曖昧な組織は、問題が起きたときに「どこで壊れたか」を見失います。

強いシステムは、何でも一体化していない。むしろ、何を分け、何をつなぐかが上手い。

この原則を持つと、CAPTCHAにもLCELにも同じ問いを投げられるようになります。これは相手を止める複雑さなのか、それとも価値を運ぶ複雑さなのか。前者なら、観測された瞬間に学習される前提で設計する必要がある。後者なら、見える化、再利用、テスト可能性を優先する必要がある。

Key Takeaways

難しさは防御にならない。 人間にとって読みにくいものは、機械学習によってパターン化される可能性がある。
複雑さには二種類ある。 隠すための複雑さは破られやすいが、運ぶための複雑さは価値を生む。
設計の中心は表現変換にある。 何をどう表現し直すかで、攻撃のしやすさも、システムの扱いやすさも変わる。
境界条件を賢く設計する。 入力、検索、生成、整形、記録の境界を明確にすると、壊れ方が見える。
「見た目の強さ」と「実際の強さ」を分けて考える。 承認フローや認証やAIパイプラインでも、儀式的な複雑さより再現可能な構造を優先する。

結論: 未来は複雑さを増やす側ではなく、複雑さを読む側にある

CAPTCHAを破る深層学習と、LCELで複雑なAIチェーンを組む発想は、同じ時代の両端を示しています。一方では、守るために作った複雑さが学習され、もう一方では、使うために必要な複雑さが見える形に整理される。ここから見えてくるのは、テクノロジーの進化とは、単に「より賢いものを作る」ことではなく、複雑さの扱い方が変わることだという事実です。

私たちはもう、複雑にすれば守れる時代にはいません。代わりに求められるのは、相手がどう学習し、どう表現し、どう分解するかを見抜く力です。そして自分が作るシステムについても、何を隠し、何を運び、何を境界として固定するのかを意識することです。

未来の競争力は、複雑なものを持つことではなく、複雑さを誤らないことにあります。守るべき場所では学習されにくい設計を、つなぐべき場所では透明で再利用可能な設計を。そう考えたとき、CAPTCHAの崩壊もLCELの台頭も、同じ教訓を別の言葉で語っているように見えてきます。世界を支配するのは複雑さではありません。複雑さの向きを決める設計です。