最も優れた技術は、目立つ性能ではなく「見えない総コスト」で決まる

「電気で走る車」と「人間を超えるAI」は、まったく別の問題に見える。片方は交通と環境の話で、もう片方は権力、企業統治、安全保障の話だ。しかし両者には、見過ごされやすい共通点がある。

それは、表面に現れる性能だけを見ていると、本当の影響を判断し損なうということだ。

走行中に排気ガスを出さない車が、必ずしも製造から廃棄まで含めて最も環境に優しいとは限らない。同じように、より賢く、より速く、より便利なAIが、必ずしも社会にとって最良のAIとは限らない。性能を高めるほど、製造資源、電力、組織の集中、権力闘争、事故の不可逆性といった、見えにくいコストも膨らむからだ。

ここから導かれる重要な問いはこうである。

私たちは、技術の成果を測っているのか。それとも、技術が社会に残す総体を測っているのか。

排出ガスを消しても、環境負荷は消えない

環境に優しい車を考えるとき、多くの人はまず走行中の排気ガスを見る。ガソリン車なら排気口から二酸化炭素が出る。電気自動車なら、少なくとも走行中には出ない。この比較は直感的で、政策や広告にも使いやすい。

しかし、車は道路の上で突然現れるわけではない。電池には鉱物が必要であり、車体には大量の金属が必要である。部品の加工、工場の稼働、輸送、電力の発電、そして使用後の処理にも排出が伴う。走行時だけを切り取れば優れて見える技術が、製造から廃棄までのライフサイクル全体では別の順位になることがある。

この視点に立つと、意外な結論が生まれる。大型の電池を積んだ完全な電気自動車よりも、比較的小さな電池とエンジンを組み合わせ、必要な場面では電気で走るプラグインハイブリッド車のほうが、総排出量で有利になる場合がある。重要なのは、どの方式が理念として純粋かではなく、社会全体で何台使われ、どれだけ製造され、どの電源で充電され、何年利用されるかである。

ここには、技術評価の第一原則がある。

測りやすい指標は、重要な指標とは限らない。

走行中の排出量は測りやすい。車種の違いも比較しやすい。だが、電池製造の負荷、平均的な走行距離、充電頻度、地域ごとの電源構成まで含めると、計算は複雑になる。複雑だからといって無視すると、私たちは現実ではなく、測定しやすい断片を最適化することになる。

AIの性能競争にも「ライフサイクル」がある

AIの世界では、評価の中心はモデルの性能になりやすい。難しい問題に答えられるか、文章を生成できるか、画像や動画を作れるか、以前の世代からどれほど改善したか。性能の伸びは、数字やデモとして可視化されるため、競争を加速させる。

しかし、モデルの性能を上げるためには、巨大な計算資源、半導体、データセンター、電力、専門人材が必要になる。さらに、モデルを社会に広く導入するには、監査、教育、セキュリティ対策、誤用への対応、責任の所在を定める制度も必要だ。

したがって、AIについても走行中の排出量に相当する指標だけでは足りない。あるモデルが最も賢いかどうかだけではなく、次のような総コストを見る必要がある。

• 開発と運用に必要な電力と資源
• 少数の企業や政府に計算能力が集中する度合い
• 誤答や悪用が発生したときの被害の広がり
• 判断をAIに依存することで失われる人間の能力
• 改修や停止が可能かどうかという可逆性
• 利益を得る主体とリスクを負う主体のずれ

AIの進歩を語るとき、モデルがどれだけ賢くなったかは重要である。しかし、それは車で言えば走行時の燃費に近い。社会の評価には、製造、使用、保守、事故、廃棄まで含めた全体像が必要になる。

この意味で、人工知能をめぐる問題は、単なる技術問題ではない。性能の増加が、どのような制度と権力構造を通じて社会に流れ込むかという問題である。

最大のリスクは、賢さではなく集中である

高度なAIをめぐる議論では、安全性と能力向上が対立するものとして語られがちだ。安全性を重視する人は進歩を遅らせたいのか、能力を追求する人は危険を軽視しているのか。しかし、実際にはもっと複雑である。

AIが社会に与えるリスクは、モデルの賢さだけで決まらない。誰が計算資源を持ち、誰がモデルを管理し、どの組織が方向性を決め、異論を述べる人がどれだけ影響力を持てるかにも左右される。技術の未来をめぐる企業間や組織内の争いは、単なる人間関係の問題ではなく、未来の意思決定権を誰が握るかという構造的な問題なのである。

ここで、環境技術との意外な類似が見える。電気自動車は走行中の排出を減らせても、その製造能力や鉱物供給が少数の主体に依存すれば、別の脆弱性を生む。同様に、AIが便利になっても、開発に必要な計算能力とデータが少数の組織に集中すれば、性能の向上は同時に権力の集中を意味する。

つまり、技術の「クリーンさ」や「安全さ」は、単独の機能ではなく、依存関係の設計によって決まる。

一つの会社、一つのデータセンター、一つの電力網、一つの経営者に依存したシステムは、平常時には効率的に見える。しかし、障害、政治的対立、経営判断の誤りが起きた瞬間、社会全体の選択肢を失わせる。効率と回復力は同じではない。

戦時のアドレナリンは、進歩の燃料にも毒にもなる

大きな技術組織が危機に直面すると、異常な速度と集中力が生まれる。睡眠や食事が少なくても動ける。意思決定が速くなり、普段なら通らない大胆な案が実行される。危機の最中に生まれるこのエネルギーは、組織を救うこともある。

しかし、危機状態には固有の盲点がある。短期目標が絶対化され、反対意見が忠誠心の欠如として扱われ、将来の副作用が「今は考えている場合ではない」と後回しにされる。戦時の思考は、敵を打ち負かすには向いているが、複雑な社会システムを安全に運用するには向いていない。

AIの開発競争が国家間や企業間の競争として語られるほど、この危険は強まる。「先に作らなければ負ける」という感覚は、研究者や経営者を駆動する。しかし、AIの影響が広範囲に及ぶなら、勝利条件を単純な速度に置くことは危険である。

車の例でいえば、アクセルの性能だけを競い、ブレーキ、道路、整備体制、運転教育を後から考えるようなものだ。より賢いAIを作ること自体が問題なのではない。速度を上げるほど、停止装置と分散した監視が必要になるということである。

この原則を、私は「総コストと可逆性の二軸」と呼びたい。新しい技術を評価するとき、まず二つを問う。

1. その技術は、見える成果の裏側にどれほどの総コストを抱えているか。
2. 重大な問題が起きたとき、私たちは安全に止め、戻し、修正できるか。

小さな電池を持つ車は、資源負荷を抑えながら電動走行の利点を得る一つの妥協である。AIの場合、巨大な一枚岩のシステムに全てを任せるのではなく、用途ごとに分割し、権限を限定し、人間の確認を残すことが、同じ発想にあたる。

技術を選ぶ基準を「最強」から「最適」に変える

私たちは、技術をランキングすることが好きだ。最速、最大、最高性能、最も新しいもの。ランキングは意思決定を簡単にするが、単一の尺度は、他の重要な価値を隠す。

より成熟した評価は、単純な順位表ではなく、複数の条件を含む地図になる。たとえば、次の四つの軸で技術を評価できる。

1. 実効性能

理想的な環境ではなく、現実の利用条件でどれだけ役に立つか。車なら、実際の走行距離や充電習慣を含める。AIなら、業務の正確性や人間との協働を含める。

2. ライフサイクル負荷

製造、運用、保守、廃棄、誤用まで含めた総負荷。目に見える出力だけでなく、背景にある資源と制度を計算する。

3. 権力の分布

誰が利益を得て、誰がリスクを負うのか。意思決定が少数に集中していないか。利用者が本当に選択権を持っているか。

4. 可逆性と回復力

問題が起きたときに止められるか、代替手段があるか、損害を限定できるか。便利さが増しても、戻れない依存を作るなら慎重でなければならない。

この枠組みを使うと、「最も先進的な技術」と「最も良い技術」が一致しないことが見えてくる。良い技術とは、性能が高い技術ではなく、目的を達成しながら、社会が負担する総コストと不可逆的なリスクを抑える技術である。

未来を選ぶとは、最高性能の装置を選ぶことではない。失敗したときにも、社会が選び直せる仕組みを選ぶことである。

Key Takeaways

• 測定範囲を広げる: 目に見える成果だけでなく、製造、運用、保守、廃棄、誤用まで含めて評価する。
• 単一指標を疑う: 速度、性能、排出量など、一つの数字が改善していても、別の場所にコストが移っていないか確認する。
• 権力の集中を点検する: 技術を誰が所有し、誰が止められ、事故の責任を誰が負うのかを明確にする。
• 可逆性を設計する: 小規模な試験、段階的導入、人間による承認、停止手順、代替手段を最初から組み込む。
• 最適化の目的を変える: 「最も強いもの」ではなく、「現実の目的を、最小の総コストで、修正可能な形で達成するもの」を選ぶ。

技術の歴史は、より大きく、より速く、より賢いものを作る競争として描かれがちだ。しかし、本当に難しいのは性能を上げることではない。性能が上がった世界で、負担と権力と失敗の可能性を誰が引き受けるのかを設計することである。

走行中の排出量だけを見れば、車は排気口から始まり、道路上で終わる。AIのベンチマークだけを見れば、モデルは画面上の回答で始まり、回答の正しさで終わる。だが現実の技術は、鉱山、工場、電力網、データセンター、企業の取締役会、利用者の習慣、そして事故後の社会にまで広がっている。

だから、これから最も重要になる問いは「この技術はどれほど賢いか」ではない。

この技術を使った後も、私たちは自分たちの未来を選び直せるか。

その問いに答えられる技術だけが、本当の意味で環境に優しく、本当の意味で安全で、そして本当の意味で進歩的なのである。