生成AIに心や意識はあるのか？数理工学者の見解

TL;DR

現在の生成AIは統計的性質に基づいて回答し、人間のような心や意識を持つとはいえない。甘利俊一は、意識には自分の行動を止めて吟味する働き、心には社会生活で育った共感が関わると考え、AIへの依存が人間から考える楽しみを奪う危険も指摘する。

Transcript

人工知能はね、心を持ち、個性を持ち、信念を持ち、戦感を持つすごくいいように見えるけれど、 ものすごい危険なんですよ。考えるのはみんな人工やってくれるからあんまり考えなくていいよなっていう人間が知らず知らずのうちにできてる。人工知能の大波みに人間の考え心についていけるのか。うん。 [音楽] 下手は文明が崩壊してしまう。 [音楽] クロスディグワンオンワン始まります。 今日のテーマは脳、心人口知能です。本当 毎日のように人工知能のニュースあります けれど、その原流となった研究が実は 1960年代、70年代、数十年前にある 日本人研究者に乗ってなされています。 今日はそのもうレジェンドクラスの数理工学者をお呼びして、ま、現代の人工知能、そして未来の AI はどうなるのかってことを深掘りしていきたい... Read More

Key Insights

• ニューロンは多数の入力を統合して一つの出力を返す比較的単純な要素であり、大量に結合した神経回路全体が複雑な情報処理を可能にする。
• 神経回路の機能はシナプス結合の重みによって変化し、その重みを自動調整する学習によって、回路は設計者が個別に指定せずとも性能を高められる。
• 深層学習は層を重ねるたびに情報を統合して分散表現へ変換し、景色の画素情報から犬や猫などの抽象的な内部表現を形成する。
• 人間の記憶は事実を保存場所からそのまま取り出す方式ではなく、情報を抽象化して保持し、手掛かりと周辺知識から内容を再構成する仕組みである。
• 深層学習の実用化は理論の完成より先に進み、計算機性能の向上と大規模化によって、設計者が予想した以上の性能を持つシステムが生まれた。
• 大規模化でAIの性能が向上する根本的な理由は十分に解明されておらず、原理の理論化は電力消費を抑えた小型AIを実現するための課題である。
• 意識は自分の行動を認識し、実行前にいったん止めて別の視点を含む多くの情報を統合し、本当に実行してよいか吟味する働きである。
• 現在のChatGPTは心があるように応答しても、甘利俊一の定義では喜びや悲しみを感じず、自分の行為を共感に基づいて再吟味する心を持たない。
• 🎬 このチャンネルの他の動画:
  • なぜ私たちの宇宙は微調整されているのか？
  • なぜ肥沃な土の枯渇が世界の食料危機を招くのか？
  • 難しい本や小説を読み解くにはどうすればよいか
• 📺 このチャンネル: TBS CROSS DIG with Bloomberg

Questions & Answers

Q: 生成AIに心や意識はあるのですか？

現在の生成AIが人間と同じ心や意識を持つとはいえません。甘利俊一によれば、ChatGPTは入力の統計的性質に応じて回答し、心があるような言葉も生成しますが、喜びや悲しみを感じているわけではなく、自分の行動を共感や信念に基づいて吟味しているわけでもありません。

Q: 人間の意識とは何ですか？

人間の意識は、自分が何をしようとしているかを自分で知り、実行する前にいったん止めて吟味する働きです。甘利俊一は、別の視点から得た情報も統合して本当に行動してよいかを判断することや、仲間とのコミュニケーションのために自分の意図を把握することが意識に関係すると考えています。

Q: 人間の心はどのように生まれたのですか？

甘利俊一の見解では、心は社会生活を営む人間同士の共感から生まれました。仲間と一緒に行動し、喜びや悲しみを共有し、互いの心を通わせることが生存に役立ったため、進化の過程で心の働きが形成されたと考えられます。この意味で心は、自己認識を中心とする意識よりも広い概念です。

Q: 深層学習はどのように情報を処理するのですか？

深層学習は、入力を多数の中間層に順番に通し、各層で情報の統合と分散表現への変換を繰り返します。画像なら最初は白黒の画素情報として受け取り、層を進むにつれて犬、猫、コップなどの抽象的な内部表現を形成し、最後に認識結果のような単純な出力へ情報を絞り込みます。

Q: ニューラルネットワークはどのように学習するのですか？

ニューラルネットワークは、ニューロン同士を結ぶシナプスの重みを変えることで学習します。各ニューロンは複数の入力を異なる重みで統合して一つの答えを出し、その重みが自動的に調整されると回路全体の機能が変わります。人間がすべての接続を設計しなくても、学習によって性能を向上できる点が重要です。

Q: なぜ深層学習の大規模化で性能が上がるのですか？

大規模化で性能が上がる根本的な理由は、甘利俊一によればまだ十分に分かっていません。ニューロン数や層数を増やせるほど計算機性能が向上した結果、まず実験で高い性能が確認され、理論が後から追いかける形になりました。情報統合や抽象表現の能力が規模とともに変わることは示唆されますが、本質的な説明は今後の課題です。

Q: AIの電力消費を減らす方法はありますか？

深層学習が大規模化によって高性能になる原理を理論的に解明することが、電力消費を減らす手掛かりになります。現在は各社が規模を拡大する方向へ進み、多くの電力を必要としています。しかし、なぜ大規模化が有効なのかが分かれば、同じ原理をより小さな構成に取り込み、小型で高性能なAIを作れる可能性があります。

Q: 人間の記憶とコンピューターの記憶はどう違うのですか？

コンピューターは番地を付けた記憶装置に情報を格納し、原則として保存した事実をそのまま取り出します。人間は情報を抽象化して圧縮された表現として保持し、思い出す際には手掛かりや周囲の膨大な知識から元の出来事を再構成します。そのため重要部分は残りやすい一方、再構成の過程で誤りが入り得ます。

Q: 生成AIへの依存にはどのような危険がありますか？

生成AIへの過度な依存には、人間が自分で考える習慣と楽しみを失う危険があります。甘利俊一は、考える作業をAIに任せれば楽になる一方、知らず知らずのうちに人間が考えなくなることを懸念しています。人工知能の急速な発展に人間の思考や心が追いつけなければ、文明の基盤まで損なわれる可能性があるという警告です。

Summary & Key Takeaways

• 脳は多数のニューロンが結合した神経回路として情報を処理する。各ニューロンは多くの入力を重みづけして一つの出力を返し、それが何層も連なることで表現は次第に抽象化される。結合の重みを学習によって自動調整すれば、同じ回路でも画像認識など異なる機能を獲得できる。この原理が人工ニューラルネットワークと深層学習の基礎になる。

• 深層学習は中間層を多数重ね、分散した情報を統合しながら抽象的な内部表現を形成する。コンピューター性能の向上によって、理論が十分に整う前から大規模化が進み、設計者の予想を超える性能が現れた。一方、大きくすればなぜ性能が上がるのかという根本原理は未解明であり、電力消費を抑えた小型で高性能なAIを作るには理論の進展が必要だとされる。

• 甘利俊一の見解では、人間の意識は自分がしようとしている行動を認識し、実行前に止めて多様な情報から吟味する働きと関係する。心は仲間とのコミュニケーションや共感が生存に役立つ過程で生まれた、より広い働きである。現在のChatGPTは心があるように見えても、自らの喜びや悲しみを感じて行動を再吟味しているわけではなく、人間側の過度な依存にも注意が必要である。