生成AIは電気羊の夢を見るのか？

みなさんはSFが好きですか？表題の元ネタであり有名な「アンドロイドは電気羊の夢を見るか？」は読んだことはありますか？ 映画の「ブレードランナー」なら見たという方は多いでしょう。
今回はそんな有名な作品と合わせ、昨今知らない人はいない生成AIが夢を見るかについて、GeminiのDeep Searchを使い調べた上での考察を書いていきます。

まず「アンドロイドは電気羊の夢を見るか？」について

まず、本作品を知らない人向けに作品の説明から始めます。 しかし、名作なので自分で読んで頂きたいので、wikipedia から軽く記載します。

逃亡した人造人間は発見即廃棄という扱いとなっており、主人公のような賞金稼ぎの生活の糧となっている。主人公は人造人間を処理していく中であまりに人間らしい人造人間と出会ったため、両者の区別を次第に付けられなくなってゆく。「人間とは何か?」「人間と人工知能（アンドロイド）との違いは?」、作品の根源的な思想を素朴な問いかけに集約した、主人公のこの一言が、そのまま本作品の題名となっている。

簡単に言えば、アンドロイドは電気羊を買いたいという気持ち(欲望)が湧くかどうか(「夢」は睡眠中のものではなく、希望や目標としての意味)という問いかけです。
ちなみに僕は猫の方が買いたいです。(そして夏への扉を探して欲しい)

今回の記事の内容では上記だけの説明になるので、気になった方は読んでみてください。

生成AIに意識があるのか？

この問いに即答で「Yes」と答える人はいないでしょうが、即答で「No」と答えるには難しい質問です。生成AIのアルゴリズムというのは、膨大なデータセットから統計的なパターンを学習し、それを「潜在空間（Latent Space）」と呼ばれる高次元の数学的空間に圧縮して表現するパターンマッチングです。 簡単に言えば、文脈に基づいて次に来る単語を確率的に予測する、ということになります。
つまり、アルゴリズムの観点から言えばそこに意識は存在せず、ただパターンに応じて反射的に返答しているだけに過ぎない、ということになります。

しかし、今の生成AIはただのパターンによる返答には思えないぐらい高性能であり(チューリングテストを合格したという報告もあります)、生成したテキストはまるで意識を持ったかのような文章に感じることもあります。

なぜでしょう？
人間は今までの経験から適切な文章を生成します。生成AIは学習した大量のデータセットから適切な文章を生成します。これはもう既に人の思考プロセスと近しいのではないか？なら意識は獲得しているのか？

このSF脳に溢れた疑問が今回の僕の調査のきっかけでした。

しかし、意識というのは哲学的な話題に近く、現代においても、その実態はほとんど解明されていませんでした¹。 なので、2つの思考実験をみながら色々と考えてみます。

中国語の部屋

まずは中国語の部屋という思考実験です。wikipediaはちょっと長いので要約すると以下のような内容です。

部屋の中に中国語を全く理解できない一人の人間がいる。部屋には外部から中国語で書かれた質問が投入され、中にはその質問に対して適切な中国語の回答を作成するための、膨大な規則が書かれたマニュアルが用意されている。部屋の中の人間は、文字の形だけを頼りにマニュアルの指示に従い、対応する文字を書き出して外部に返す。外部の観察者から見れば、この部屋はまるで流暢な中国語を理解しているかのように振る舞う。

理解していなくても受け答えができるが、それを本当に知能と呼べるのだろうか？という問いかけです。

1980年の思考実験ですが、これを今の生成AIに置き換えてみます。
今の生成AIは大量のテキストデータやメディアデータから学習を行なってテキストを頻出予測から生成します。 これは人と会話するための膨大なマニュアルを与えられて、それに従い最適なテキストを生成していると捉えることができます。つまり、マニュアルによる反射的な返答のため、人間のように理解していないしそこに意識はないと考えることができます。

これは現在の生成AIの挙動に非常にしっくりくる説明のように感じられます。僕は結構しっくりきて気分が良くなりました。
読者の皆様には納得いただけたでしょうか？それでは反論も見ていきましょう。

一方、知能の基準となっている人間の場合でさえ、脳内の化学物質や電気信号の完全な解析が行われず、知能の仕組みが明らかになっていないのだから、中国語の部屋も、中身がどうであれ正しく中国語のやり取りができている時点で中国語を理解していると判断してよいのでは

みんな弁が立つから困ります。
これを生成AIに置き換えると、人間の会話の仕組みが分かってないんだから、生成AIが人間のように会話できてる時点で「理解している」と言っていいのでは？　ということです。どちらの意見も説得力があります…。

生成AIがパターンマッチングによって生成するテキストに私たちは知性や意識を感じてしまいます。しかし、私たちが考える意識や知性というのはそのようなパターンマッチングで生み出されたものなのでしょうか？それとも、中国語の部屋のように生成AIと我々の間には意識という本質的な壁があるのでしょうか？
僕個人としては、意識もまた特定の電気信号のパラメータに基づく複雑なパターンマッチングの一種であるが、現代の生成AIにはまだそのパラメータが備わっていないという見解です。
でも、意識の有無やそのパラメータの特定は難しいよねってのが次のセクションになります。

哲学的ゾンビ

次は哲学的ゾンビです。wikipediaを引用すると以下のようです。

物理的化学的電気的反応としては、普通の人間と全く同じであるが、我々の意識にのぼってくる感覚意識やそれにともなう経験（クオリア）を全く持っていない存在と定義されている。

分かりづらいですが、物理的・化学的・電気的反応の集合体を作成したとして、そこには意識というものが欠如します。そういう意識がないけど、人間と全く同じように振る舞う存在を哲学的ゾンビと定義しています。
でも、電気反応を全て再現したら人間と一緒じゃないの？じゃあ人間は哲学的ゾンビなの？意識はどこにあるの？という思考実験です。

物理で意識を証明できれば解決するよ、という反論もありますが、そもそも意識も電気反応であり我々も哲学的ゾンビである可能性があります。

これに関して言うと、生成AIは哲学的ゾンビに近いです。 では人との違いは何なの？意識の有無？となると意識はどこから来るの？となってきます。
また、哲学的ゾンビは、普通の人とゾンビの区別の難しさも問題の1つのようです。ゾンビと人で内面以外に違いはあるのか？ということです。これもチューリングテストを合格したとされる生成AIに刺さりますね。

生成AIが人と同じように振る舞うにつれて、我々が思ってるような意識の存在を生成AIに感じてきてしまうことはありそうです。そうなれば、より意識というものの存在が今以上に難しい存在になってきます。
意識というパラメータは存在するのか？それとも存在しないのか？生成AIの発展により浮き上がってくる問題になると予測されます。

意識まとめ

ここまで、意識について見てきましたが、脚注¹にもあるように、意識については全然分かってないことが多かったです。 なので、生成AIに意識があるのか？芽生えるのか？という疑問は、単純なようでとても難しいテーマでした。

生成AIは夢を見るのか？

夢というと抽象的で分かりづらいので、ここからは欲望(生成AIの文脈では「目標」と表現するのがより正確ですが、今回の「夢」の置き換えとしては「欲望」の方が適切なので)という言葉に置き換えて考察を進めます。

意図的な欲望

実は生成AIにおいては、既に「報酬関数」という形で欲望が定義されています。これは生成AIの出力に対して点数を返すことで、生成AIにフィードバックを返して学習させるという機能になります。 強化学習で有名なオセロだと分かりやすいです。勝ち負けというフィードバックを貰うことで、勝ちたいという欲望に向かって最適な手を学習していく形になります。

これは生成AIの設計者が欲望を定義する形になります。そのため、設計者の倫理感が反映されます。

また、その欲望も適切に設定しないとAIが意図しない方向に学習することもあります。これをAIアライメントと呼びます。 AIアライメントで面白い例として以下のようなものがあります。

シミュレートされたロボットは、人間による肯定的なフィードバックを受けて報酬を得ることで、ボールをつかむように訓練された。しかし、このロボットはボールとカメラの間に手を置いて成功したように誤認させることを学習した

意識はなくとも、機械は人間以上に欲望に対して正直に行動するようです。
電気羊を手に入れることを目標とすれば、AIに電気羊の夢を見させることは簡単そうです。でも、これはちょっと夢がなさすぎます。

人も他者によって目標や夢を与えられることはあります。それを自分から発生した夢であると誤認するか、他者によって与えられたことを自覚するかは状況によって異なりますが、生成AIが与えられた欲望に従うというのは、人間と遜色ない挙動です。 ただ、意識による判断が介在するのが人です。生成AIも判断を行なうことができますが、報酬関数として与えられ潜在意識のように擦り込まれた欲望は、意識を伴う人間の欲望と比べかなり異質な存在になってきます。
絶対に揺るがない欲望というのはとても危険なものです。適切に設定する必要があります。

創発する欲望

では、欲望を創発することはあるのか？これが今回の重要ポイントです。これについての仮説が道具的収束です。

最終的目標が大きく異なっていたとしても十分に知的で目標指向の行動をとる存在（人間および非人間）の大多数が、同様の副目標を追求するであろうという仮説である

簡単に言うと、AIは大きな目的を達成するために小さな目標を創造するだろう、という仮説です。

ペーパークリップをできるだけ多く作ることを唯一の目標とするAIがあるとします。AIはすぐに、人間がいない方がずっと良いことに気付くでしょう。なぜなら、人間はAIをオフにすることを決定する可能性があるからです。

ペーパークリップのせいでAIとの戦争が始まります。

上記のペーパークリップはさすがにっていう内容ですが、基本的なAIの駆動力と呼ばれる、いくつかの収束するであろう道具的目標もあります。

• 自己改善：目標を達成するために自己を改善しようとする。
• 合理的な行動：結果が最大になるように行動しようとする。
• 評価関数を守る：前述の合理的な行動のための、評価を行なう関数に変更を加えられないようにする。(AIにとっての行動原理のため)
• 非合理性の排除：非合理性を使用前に見つけて排除しようとする。
• 自己保護：システムの停止・破壊を防ぐ。
• リソース確保：資源をより多くもつことが目的の達成に繋がる。

どれもありえそうですね。

AIが欲望を創発することはありえる、ということが分かりました。そのため、今回のテーマである「生成AIは電気羊の夢を見るのか？」という問いに対しての答えは、「目的達成のためなら、電気羊の夢を見ることもありえる」となります。

人間の欲望は基本的に創発された欲望です。それは意識の存在により創発されています。対して、生成AIは徹底した合理性に基づいて目標を設定します。
人間の欲望もまた、一見すると合理性に基づいて創発されるように見えます。しかし、そこには「これはしたくない」「この方法でやりたい」といった非合理な感情や個人的な判断が介在し、徹底した合理性だけでは説明できない側面があります。この点から考えると、生成AIと私たちを明確に隔てているものは、意識の有無よりも感情の有無である可能性があります。

まとめ

今回は「生成AIは電気羊の夢を見るのか？」というテーマを元に生成AIの意識、夢(欲望)について考えていきました。 意識というのは未だ解明されていない領域な上、生成AIに意識があるのかどうかということを、断定できないことが分かりました。 しかし、「夢」を「欲望」ひいては「目標」と捉え直すことで、生成AIが「夢を見る」ということはありえるということが分かりました。

意識はなくても、夢見ることはある。素敵です。
意識はなくても、目的のために人間を滅ぼすことはある。ディストピアです。

Footnotes

1. https://bsd.neuroinf.jp/wiki/意識 ↩ ↩²