しかも、この場合のAIは、人間とは全く異なって、「大量殺人」を幾ら続けようが、「迷い」も「痛み」も「悩み」も一切、感ずることは無いのだから。

しかし、考えてみれば、これらは言ってみれば、AI自体の責任というより、むしろAIの限界を規定したり、AIの活用法、応用法を考えるべき、結局、人間サイドの責任、と言うことになろう。

「AI」そのものに、「暴走」する可能性や危険性があるなら、早い時期に手を打つことこそ、喫緊の課題と言えよう。

nikkei BP netで、中島秀之(東京大学 特任教授)氏が、各界で活躍する著名人とAIについて、対談している中で、次のようなことを発言されている。

ということなのだが、その小説の中での、いわゆる「オチ」をどうするかが問題なのだ、と言う。つまり、「ショートショートのオチって、人間の常識を裏切らないと、落ちない。その「常識」という部分が、そもそもプログラムに入っていない。 」ということが問題らしい。

その発言は、次のように続く。「オチのようなロジカルなひっくり返しの部分は、コンピュータにはとても難しい。パターン認識では、正のデータとして、たとえば、ある動物の画像を「これは猫だ」と肯定する方は学習できるけれど、「これは猫じゃない」と否定する方は、難しいんじゃないかと思うんです。否定、いわゆる"not"は、基本的にイメージと結びつかないですから。」

更に、「たとえばコンピュータのプログラムには、"and"とか"or"とか、あるじゃないですか。"and"は画像でもできるし、"or"もおそらく画像でできるでしょ？　でも、"not"だけはできない。うまく言えないんだけど、そういう「否定」というか「今までとはちがうもの」という言い方のものって、コンピュータにとっては、すごく難しいと思うんですね。特にディープラーニングのようにイメージの上で操作する場合は。」

これに対し、司会者がこう続ける。