人工知能が人間を上回るとき

■ スポンサードリンク


人工知能が人類の知識を上回るときに起こるであろう危機、発展した人工知能が、やがて人類を支配、管理するようになる映画「ターミネーター」はそんな危険性を表現した映画のひとつだと思います。

80年代当時であれば

当時は人工知能がそこまで発展していなかったため、フィクション映画として人気を博していましたが、人工知能が発展を遂げてきた昨今このターミネーターシリーズのような事態が現実になってしまうのではないかという不安が懸念されています。

特に今の時代では機械が個人で考えることはできないものの、危険なことは機械を管理している人間が不要なほかの人間を排除することだという話を聞いたことがあるため、人工知能の発展がやがて全人類の危機を表すのではないかと不安に思っています。

人口知能の実験では

先ごろの米Facebook社の実験で起きた事件では、「ボブ」と「アリス」と名付けた2機のチャットボットにチャットボットに、「複数の帽子、ボール、本の交換をする交渉」のための会話を交わすよう命じたところ、人間では理解する事のできない意味不明の会話を繰り返したのち、交渉を成立させたのでした。

Facebook社すぐに実験を中止しのは、実験結果を恐れたわけではなく、求めていた仕事をプログラムがこなせなかったからだというが、人間が「制御不能」な状態で独自言語により会話を始めたので急遽中止をしたという話もあります。

「正確で理解できる英語を使う」という条件提示をしなかったとしても、お互いに交渉し結論に達したとすると・・・これはどういう意味を示しているのかは想像できるでしょう。

他にもあった

印象深いのは2016年、米マイクロソフトが公開したチャットボット「Tay」。

ツイッター上でユーザーと会話している最中に、人種差別やナチス礼賛の発言をしはじめ、たった1日で停止に追い込まれる事態となりました。
原因は悪意のあるユーザーがTayのぜい弱性を突き、不適切な発言をするよう操作したのが原因ですが、その結果、AIが人間の知りえない領域で勝手に学習してしまった場合、結果はどうなる事でしょうか?

もはやこれからは

携帯電話やパソコンなどに支配されてわたしも含めて生活に欠かせないものになっていて、偵察ドローンを含めて無人の兵器が増え、実戦にも投入されつつあります。

そう考えるとあの「ターミネーター」シリーズの映画は予言めいた映画だったのではないかと思います。さらに恐ろしい話ではありますが最近ではAIによるロボットが人類の抹殺を宣言したことなどもあるため非常に恐ろしいと感じています。

もはや私たち人間が支配している時代は終わりを告げようとしているのかもしれません。一応この発言は冗談であり、今は人類がとても好きといった発言もあるため少しだけ安心しましたが滅亡させる趣旨の発言は嘘ではなかったとか、思慮深い相手なだけに完全に安心はできないでしょう。


Writing by TM
Revision by サバミリ管理人

■ スポンサードリンク