自動運転車や顔認証システムといった技術が登場するようになったのは、そうしたことが背景にある。


image credit:youtube

・正しく認識できない画像を意図的に作り出せる問題

　このように技術は発展したが、それでも致命的な盲点が残されている。ニューラルネットワークが正しく認識できないような画像を意図的に作り出すことが可能なのだ。

　こうした「敵対的画像（adversarial image）」や「欺瞞画像（fooling image）」と呼ばれる画像は大きな問題である。

　ハッカーなどに突かれてセキュリティ上のリスクになるといったことだけではない。それはまた、人間と機械がまったく別の見方でものを見ているということをも示している。

　たとえば、AIの目には、ピクセルを1、2個変更するだけでリンゴが車に見えてしまったり、まったく無意味なテレビのノイズがアルマジロやベーグルに見えてしまったりする。

　そんなつまらない間違いは人間なら絶対にしないと思うかもしれない。
　だがそうでもないのだ。

何に見えるかな？ AIの目には、（左から）デジタル時計、クロスワードパズル、オウサマペンギン、アサルトライフルに見える。

・人間はAIと同じように画像を判断する

　ジョンズ・ホプキンス大学のシャズ・ファイアストーン氏らが確かめようと思ったのもこの点だった。

　そこで、人に「AIのように考えてもらう」という実験を行なった。