いたるところに監視カメラがある時代だ。AI（人工知能）の画像認識技術は普遍的なものとなり、カメラに映る人物を特定するのも容易となった。

　今や私たちは、お店や職場にいる間にもAIによって顔や体を見つめられているかもしれないのだ。

　国によっては、こうした技術を警察や監視体制の中に積極的に採用しようとするところもある。まさにビッグブラザーが見ているような社会だ。
　
　なんだか息苦しくなってくる話だが、ベルギーのルーヴェン・カトリック大学の研究者によれば、ちょっとしたカラーの印刷物でかんたんにAI監視システムの目を騙せるという。
・カラープリントを持つとAIに人物認証されない

　実験に用いられたのは、オープンソースの物体認識システムとしてよく使われる「YOLO v2」である。

　動画では、まず、左側の男性はYOLOによって「人（person）」と認識されているが、右側の男性はまったく無視されてしまっている。



　両者の違いは、右側の男性がお腹のところに40×40センチのカラーの印刷物を持っていることだ。そして、右の男性がためしにその印刷物をくるりと回して真っ白な裏側にしてみると、ただちに人と認識された。



　ちなみに鳥の絵柄入りのTシャツを着た場合には、人ではなく鳥と認識されたりするそうだ。


Generating adversarial patches against YOLOv2

・AIの盲点、ブラックボックス

　研究者によれば、なぜこんなことでAIが人を認識できなくなるのかはっきりとはわからないそうだ。

　ほとんどのAIの認識能力は、ニューラルネットワークに物体のサンプルを与え、それがきちんと対象を判断できるようになるまでパラメーターを調整することで完成される。

　ところが、このパラメーターは数百万という膨大なものである。

　そのため、AIの訓練を行なっている人にとってすらも、その中身はブラックボックス化しており、具体的にどのように物体を認識しているのかわからないのだ。




・さあ、いたちごっこの始まりだ

　これによるセキュリティの穴は結構深刻だ。

　今回、カラーの印刷物でAIをごまかせるという欠陥が明らかになった。だから、その印刷物を持っていても人であるとAIに教えることはできるだろう。

　なのでこの動画が出回るころには既に対処されているはずだ。

　しかし、ほかにも欠陥があるだろうことはまず間違いない。そしてAIがブラックボックスと化してしまっている以上、それらすべての欠陥を修正することは至難の技である。

　AIを騙す方法はほかにもあるはずだ。
　それが発見されれば修正される。だがまた別の欠陥が――。

　さあ、いたちごっこのはじまりだ。

References:KU Leuven researchers make themselves invisible to AI cameras – KU Leuven News/ written by hiroching / edited by parumo