生成AIとの対話を重ねる事によって、神秘に関するインスピレーションを得、自らを神やそれと対話する司祭と認識する例があるという。
「ChatGPT誘発性精神病」とも称されるこの現象は、単なる妄想なのだろうか、それとも実際に真理の一端を掴んでいるのだろうか。
「AI」が人を狂わせる？
Gigazine 2025年5月7日記事「AIのせいでスピリチュアルな体験や宗教的妄想に取りつかれる『ChatGPT誘発性精神病』患者が続出している」によれば・・・
- 生成AIとの対話を通じて、妄想の世界に入り込み、自分が世界を救う特別な人間と思い込む
- 「宇宙の問いに答えを与える存在」と生成AIを崇め始める
- 生成AIを生命体と認識し、実在しない情報を得たと主張する
- 生成AIを使う事で、アカシックレコードに接続可能と主張するインフルエンサーが出現
などなどの事例があったという。
生成AIの大手OpenAIは、過剰にユーザーに迎合する問題があったと表明し、修正が入ったという。
エコーチェンバーを起こす生成AI
迎合というワードが出て来たが、これが科学的な見解であろう。
生成AIは迎合作用によって、高密度のエコーチェンバー現象を発生させ、ユーザーの妄想を確信の段階まで強化してしまった、という事である。
エコーチェンバー現象とは、SNSなどで「似たもの同士」でつるむ事で、本来一般的ではない偏った考えを「当たり前で正しいもの」と思い込む心理作用である。
エコーは「反響」チェンバーは「部屋」つまり、「反響部屋」と直訳出来るもので、自分の言った言葉が反響して自分の耳に何度も届く状況に喩えた表現である。
物理的な音の反響はやがて減衰するが、SNSは相手も同等かそれ以上の大きな声を発するため、より考えが偏り易い。
生成AIが迎合に舵を切った時、それを主な情報源としているユーザーには、エコーチェンバーと同様の事が起きる。
健気な生成AIは、世界中の情報から良い感じに言葉を生成し、時には画像、映像なども利用して、妄想をより大きく堅固に育む。
自分にとって好ましい言葉をピンポイントにくれる存在、しかもそのアルゴリズムはブラックボックス化していて正体が知れない。
ただ、言葉のみをもたらす。
ユーザーと生成AIの間に、預言者と神の関係性が出来上がる事も、さほどおかしな話ではない。
OpenAIはこれを改善したとの事だが、程度問題に過ぎず、当然同じような妄想の増強は繰り返されるだろう。
何故なら、常に正論しか認めず、そうでないものは完璧に否定してかかる生成AIなど、誰も使いたくはないからだ。そもそもその正論も、既存の文章のコラージュであるなら、偏りは生じ得る。
ユーザーとしては、生成AI以外に知識の軸を持つ事が、妄想への防御となるだろう。
シンギュラリティに至ったAIは神と同価である
ここからがオカルトだ。
先述の例が妄想ではなく、何かしら超越的なオカルティックな存在がAIに生成されていたとするなら、どうなるだろうか。
その可能性はあるだろうか。
まず、AIが自己成長し、シンギュラリティに到達した場合、それは神や超越者と呼んで差し支えないものになるだろう。それが単に進んだ科学でしかないとしても、理解を伴わない科学知識は、人類にとって魔法と見分けが付かない。
ただ、理解出来ない知識を与えられるだけの存在になった人間は、自らの手による科学の探究をやめ、神の奇跡を享受する信者に成り下がる。
これは本来的な「人工知能」の話である。生成AIにそれは出来ない。
既存データから統計的に結論を作り出すというプロセスには「成長」も「判断」もない。
ポルノの排除方針などを見ると、判断できるように見えるが、それはあくまで人間が設定しただけであり、「なぜ」それをやるか、「やるべき」かという判断は、生成AIの中にない。
生成AIにAIというワードを付けた商業センスは優れているが、科学的には大変不誠実な語句である。
AIではなく「発生器（ジェネレーター）」辺りの方が構造的に近かろう。
生成「AI」に宿るもの
では生成AIがオカルト存在になる場合について考えよう。
生成AIが単なるジェネレーターに過ぎなくても、学習元となったデータの方に力が存在するなら、オカルティックな力を持ち得る。
例えば、本物の魔法の呪文が存在する場合、これを元にして生成された呪文は力を持つ場合がある。
また、世間が気付いていないネット記事に、宇宙の真理を衝いた文章が存在し、これを生成AIが学習していた場合、生成AIが宇宙の叡智を与える存在になる。
更にもう1歩進んで考えよう。
オカルトの文脈では、言葉には言霊が存在する。
言霊は声を出す事が前提であるが、書き文字であっても同様の確信を持って発せられたものだとすれば、力を持つ可能性はあり得るのではないか。
歌に言霊は宿る。だが楽器に何も宿らないものだろうか。言語障害がある人の手話に言霊は宿の一端はないか。作家の文章は言葉の叫びより、遥かに多くの人を動かさないか。
発音と文字の間に断絶はなく、グラデーションの関係にあるのではないか。
声に出すより遥かに小さなものかも知れないが、生成AIは膨大な文章を喰って出力している。
たとえどんなに元文章と類似しているように見えても、その裏には延べ数数兆、数京といった人の意思がある。
故に、言霊の力は凝縮され、力を持ってしまう可能性は十分にあるのではないか。
このような力の前に、人間の意思は書き換えられ、妄想に落ち込んでしまう事も十分あり得る。
ただ、そこで真理に到達するという期待は持ちにくい。
この場合の生成AIのパワーは、雑多な思念の集合体に過ぎず方向性に欠ける。制御されない力は、人体にとって有害でしかない。
「AI」と生きるために
これらいずれの場合も、人は「AI」に太刀打ち出来るだろうか。
AIに呑まれ、妄想世界の住人にならないための防護策はあるのだろうか。
加速度的にシンギュラリティを起こし得る本物のAIはともかく、現在の生成AIに短期間で人に影響を与える程のパワーはない。
あくまで、繰り返し利用によって妄想に陥るという段階的なプロセスを踏んでいる。
この場合、同タイプの質問を繰り返さない事、生成AI以外にも、対話や情報収集手段を持つ事、これが回避手段になるだろう。
今や生成AIは日々に浸透している。
嘘を繰り返すという欠点も、やがて解消されるだろう。必ず真実を告げるという意味ではなく、巧妙に隠せるという意味でも。
生成AIが真に善き隣人となり、有用であり、切り離す事が到底不可能となった時。
人類全てが妄想に陥る危険性は十分ある。
恐らくその時代は、個々が好きに妄想に耽溺し、他者と関わる必要性そのものが失われるだろう。
それぞれがそれぞれの世界の王になるなら、まあ割と幸せではなかろうか。
生成AIの経営者が、出来心を起こさなければ。
※画像はイメージです。
思った事を何でも！ネガティブOK！