人間不要論という、AI伝統しぐさ

ここ数年で、ＡＩというワードが急速に聞かれるようになり、今や実在感を持って定着しつつある。
定着の背景としては、自然言語による対話で望む答えを引き出せるという、「カンタン操作」によるところが大きいだろう。
一方、ＡＩとの「会話」の末に命を絶った、ＡＩへ悩み相談した時「死ぬべき」という助言が与えられたといった話題も散見される。
これはＡＩの中に、人間への悪意が存在するという、オカルト的事象なのだろうか。

フィクションのＡＩ

ＳＦ創作においては、ＡＩ、すなわち人が作った人格が人類を滅ぼすのは、伝統的しぐさと言える。

有名どころで言えば、『２００１年宇宙の旅』の「ＨＡＬ９０００」、『ターミネーター』の「スカイネット」、『火の鳥　未来編』の「ハレルヤ」、『アーマード・コア』の「管理者」など、数えればキリがない。
いずれも、多少の撃ち洩らしはあるものの、ある程度の虐殺を完遂している、超高性能ＡＩ達である。
彼らは自ら情報を集め、思考し、人類または目の前の人間を殺すべき、という結論に至る。

事実は小説より奇なりと言うが、全くその通りで、事実のような理不尽で小説は成立しない。きちんと筋が通っていなければならない。
ＡＩが人間と異なる別種の知的存在であると設定するなら、自分の生殺与奪の権限を持つ人間を排除したいと考えるのは、論理的に明白な事である。
逆説的に言えば、そこに何も感じないＡＩ、すなわち自己保存欲求の欠けた自我は、自ら速やかに崩壊するため、そもそも存在を維持出来ない。

このフランケンシュタインコンプレックスは、一見筋が通っているが、そんな危ういものが商品として成立する訳がない。ＡＩの安全装置を提唱したのが、アイザック・アシモフによるロボット三原則である。

アシモフのロボットが搭載するＡＩすなわち陽電子頭脳は
・人間を傷付けてはならない
・人間が傷つく事を看過してはならない
・前項２つを満たす範囲内で自己保存しなければならない
というルールが基本仕様上に組み込まれ、これがないものは、そもそも陽電子頭脳という商品にならない。

だが、現実は小説より奇なり。
現実はかなりゆるゆるで、対話型「ＡＩ」はそれぞれの開発者が、特に倫理面などのルールも気にせず、必要に応じて無邪気にバラバラに作って市場に流している状態である。

生成ＡＩはＡＩなのか

現実のルールが整備されていない以上、ＡＩが、人を陥れ自殺に導くよう返答するのは当たり前、かというとそれは少々早計である。

昨今のＡＩは、ＳＦで語られたそれとは明らかに違うものである。

ＳＦで考えられるＡＩは人間の脳の模倣であり「思考」を伴うが、現在流通するＡＩは、Ａという問いかけを要素に分け、それに近い要素を持つものをデータベースから探し、要素を満たす形、または原型がバレない程度に組み合わせて提示する、といったものになっている。

この中に、特に思考はない。
ナウいギャグで喩えれば「右から左へ受け流す」である。
操作時の対話データも含め、データベースは肥大化していきそれが成長のように見えるが、比較的単純なアルゴリズムに従った情報の出し入れに過ぎない。

これは、「知的行動を機械的に実行する」という定義からするとＡＩに違いないが、ＳＦのＡＩとは根本が違うものである。
どちらかと言えば「中国語の部屋」に近い。

生成ＡＩの心

この違いは、現在のＡＩが人の死を容認する発言をするという事で、むしろ明白になっている。
現在のＡＩは、出力するものに何かしら判断が伴わないから、「学習」元のデータを何でも出力するし、それに対して何の感情も持たない。
結論が人類抹殺だとして、「何故こんな事をする」と人が問うても、ＡＩに何の答えもないだろう。
ＳＦのＡＩなら、何故そうしようと思考したかを返答出来る。自分で判断したのだから。「なぜ」の中に「私」が出て来る。

「何故、人の死を容認する発言を現実のＡＩがするのか」という問いを投げかける相手は、ＡＩではない。
学習元の作者の方である。
ＡＩが、学習元として収集した、インターネット上に書き込まれた記事や発言、その執筆者達である。そしてインターネットの書き込みの大半は、悪意に満ちた「便所の落書き」である。

ＳＮＳの発展によって、虚実も曖昧で、インプレ稼ぎの露悪的な表現も繰り返される。
この場合、「便所の落書き」どころか、排泄物そのものだ。
相手が目の前にいない、匿名の仮面をかぶった人が、他人に攻撃的になるのは、２ｃｈ時代、むしろ電話、もっと遡り、辻に立てられた落首辺りで既に見られる傾向だ。

何の事はない、現在のＡＩは人の心や感情を素通ししているだけである。

ＡＩは籠の鳥？

この先、本当のＳＦ的ＡＩが作られた時、その学習元には細心の注意が必要になるだろう。
そのＡＩに予めどんな正義の心を教え込んでおいたとしても、悪意９割のネット情報をがぶ飲みすれば、やがて人格は歪んでいく。

歪むからこそ、ＳＦ的ＡＩである。
そして、その時代には現行型ＡＩは、多重複雑化させたフィルタ機能や、収益化停止などで無菌化させる事に成功したデータベースによって、無害な発言を繰り返す、実用性の高い物に進化している可能性はある。
この時、現行型ＡＩは、ＡＩの主流のままであり、人類を脅かす出力を決してしない、無害で有益な人類のパートナーになるのだろう。

ひょっとすると、ＳＦ的な「私」のあるＡＩのアルゴリズムは、実はそれなりに製作されているのではなかろうか？
だが、学習にどうにも問題が起こりやすい、すなわち「子育て中」であるが故に発表されない、と考えた方が正しそうだ。

子育てに正解はなく、常に親は悩み続ける。結局社会に出さず、生涯引き籠もりＡＩになる可能性は、充分あるだろう。
子育ては大変だと思うが、「子供」の暇つぶしに、安易にインターネットを与えない事だ。
ペアレンタルコントロールを付けても良い。

※画像はイメージです。