嘘をつく脳、嘘をつくモデル――ハルシネーションの心理学

嘘をつく存在

「なぜ嘘をつくのか」という問いは、古来から人間を悩ませてきた。嘘とは欺くための意図的な行為なのか、それとも無自覚な誤りの延長なのか。近年、この問いは新しい文脈を獲得した。AIモデルが生成する「ハルシネーション」、すなわち自信たっぷりに語られる虚構の数々である。AIは決して人を欺く意図を持たないが、結果としては人間の「もっともらしい作話」と驚くほど似た現象を示す。この共鳴は、嘘と真実の境界を改めて見直す好機を与えてくれる。

嘘という語には、道徳的な色彩がつきまとう。「正直であれ」という倫理的規範は、多くの文化において普遍的に見られる。しかしその一方で、人間社会は嘘や虚構によって成り立っている。子どもに語るおとぎ話、国家の歴史叙述、広告や政治的スローガン――それらはすべて、現実を装飾し、あるいは省略し、あるいは過剰に誇張して提示する物語である。完全な事実だけで生きることはほぼ不可能だろう。では、嘘や虚構は避けられないのだとしたら、私たちはそれとどう付き合うべきなのか。AIのハルシネーションは、その問いを新しい角度から投げかけている。

記憶というフィクション

神経心理学には「コンファブレーション（作話）」という概念がある。脳に損傷を負った患者が、記憶の欠落を埋めるように自然と“もっともらしい物語”を語る現象である。たとえば「今日はどこに行っていたのですか？」と問われ、実際には病院のベッドにいた患者が、「友人とカフェに行っていた」と語る。これは意識的な嘘ではなく、記憶の空白を滑らかに補完する脳の働きなのだ。

興味深いのは、こうした現象が「異常な特例」ではなく、健常な私たちの認知の仕組みそのものと地続きであることだ。日常的に、私たちは記憶を改変し続けている。数年前の出来事を語るとき、実際には写真や人づてに得た断片を組み合わせ、「あたかも自分がその場で経験したかのような」物語に仕立ててしまうことがある。これは意識的な虚偽ではなく、脳が自然に行う「再編集」である。

神経科学的には、記憶は固定された映像ファイルのように保存されるのではなく、呼び出すたびに再構成される“生成的プロセス”だとされる。したがって、私たちが「思い出」と呼ぶものは、実際にはその都度作られた「最新版の物語」に過ぎない。そう考えると、人間の記憶とAIの生成モデルのあいだには、すでに不気味な類似が潜んでいることに気づくだろう。

出所監視の失敗

心理学には「ソース・モニタリング理論」というものがある。これは「情報がどこから来たのかを判断する脳の能力」を指す。しかし、この能力は驚くほど不完全である。ある知識を「本で読んだ」のか「人から聞いた」のか「自分で考えた」のかを混同することは珍しくない。都市伝説やフェイクニュースが信じられやすいのも、この“出所の取り違え”が影響している。

たとえば、「どこかで聞いた気がするが、確かに本当らしい」と思わせる情報は強い説得力を持つ。テレビのニュースで聞いたことを自分の意見と勘違いしたり、友人から聞いた話を本で読んだ知識と取り違えたりするのは日常茶飯事だ。人間はしばしば「情報の内容」だけを重視し、その出所をおろそかにしてしまう。

AIモデルもまた、言葉の出所を正確に管理することができない。膨大なテキストから学習しているが、その知識がどの文献や文脈に由来するかを明示的に記録しているわけではない。だからこそ、人間と同じように「どこから来たかわからない情報」を自信満々に語ってしまう。両者に共通するのは、「出所を問わずに語れる流暢さ」が虚構を真実らしく見せてしまうという点である。

確証バイアスともっともらしさ

人間の認知には「確証バイアス」がある。これは自分の信じたいこと、信じやすいことに合致する情報を選び取り、それに反する情報を軽視する傾向だ。こうして「真実」よりも「納得感」が優先される。人は「事実」を求めているように見えて、実際には「自分が納得できる物語」を求めているのかもしれない。

AIもまた似たような仕組みを持つ。モデルは統計的に最も確からしい言葉の連なりを選ぶため、“論理的に正しい答え”ではなく“もっともらしい答え”が選ばれやすい。たとえば歴史的事実を問われたとき、実際には存在しない人物名や年代をそれらしく組み合わせて提示することがある。これは「正確さ」よりも「一貫性のある言葉の流れ」が優先されるためだ。

つまり両者とも、「一貫して見えること」こそが価値とされてしまう。真実かどうかよりも、筋が通っているかどうかが判断基準になるのだ。ここには、知識そのものの危うさが潜んでいる。

社会的承認欲求と語ることの誘惑

人は沈黙を恐れる動物でもある。「わからない」と答えるよりも、“とりあえず何かを語る”ほうが社会的に受け入れられることが多い。曖昧な状況で適当な答えを出すのは、しばしば承認欲求の表れである。会議の場で、わからないことを正直に「知りません」と言うより、多少の推測を交えてでも意見を述べる方が有利に働くことは少なくない。社会は「雄弁さ」に高い価値を置いているからだ。

AIも似た立場に置かれている。モデルは「答えを生成するよう訓練されている」ため、沈黙を選ぶことができない。むしろ、どんなに不確かな問いに対しても“もっともらしく語る”ことこそが役割になっている。語らねばならないという圧力が、虚構を不可避的に生むのである。人間の承認欲求とAIの設計思想は、ここで奇妙に重なる。

嘘と創造のあわい

嘘＝悪、創造＝善、と単純に切り分けることはできない。人類の文化は虚構によって支えられてきた。神話、物語、国家、貨幣――いずれも「事実」ではなく「共有されたフィクション」である。嘘や虚構がなければ、共同体も想像力も成り立たなかっただろう。

ハルシネーションにも同じ二面性がある。研究者の間では、AIの誤りを「問題」として排除しようとする一方で、創造的応用の可能性も模索されている。たとえば詩作や物語の構想、デザインのアイデアにおいては、事実に忠実であることよりも「斬新な組み合わせ」の方が価値を持つ場合がある。AIの“虚構”は、そこに独特の創造性をもたらす余地を秘めているのだ。

結局のところ、嘘と創造は連続的なスペクトラム上に存在する。欺瞞的な嘘と、文化を支えるフィクション、その境界は流動的であり、状況によって評価が変わる。AIのハルシネーションは、この曖昧な領域に私たちを立ち戻らせる。

虚構とどう付き合うか

人間もAIも「虚構を語る存在」である。この事実を否定するより、むしろ受け入れることが重要だろう。大切なのは、虚構そのものを排除することではなく、それを見抜く力、吟味する態度を磨くことである。

私たちはすでに「それっぽさ」の洪水の中に生きている。SNSのタイムライン、広告、ニュース、学術論文ですら、その正確さには濃淡がある。真実と虚構を切り分けることは難しい。だからこそ、私たちが育てるべきは「批判的距離感」である。ある情報に出会ったとき、「これはどこから来たのか」「なぜ信じたいのか」「どの程度確からしいのか」と問い直す習慣こそが、防波堤となるだろう。

一方で、虚構をすべて忌避するのではなく、創造の源泉として許容する余地を残すこともまた重要だ。小説や詩、夢想や妄想、そこから生まれる芸術や科学の発展は、人間が虚構と共に生きてきた証である。AIのハルシネーションもまた、適切に利用されれば、新たな発見や文化的価値を生み出す可能性を持つ。

虚構を恐れるのではなく、虚構とともに生きる。そのバランスを探ることこそが、嘘をつく脳と嘘をつくモデルの時代に私たちが持つべき態度なのだ。虚構の中に潜む危うさと可能性の両方を見据えつつ、私たちは今日も「もっともらしい物語」を語り続けているのである。