・ロールシャッハテストで驚きの回答が！

　この訓練の後、ノーマンと”普通”のAIに一連のインクブロット図を提示した。こうしたロールシャッハテストは、患者の精神状態を診断する時に利用されるものだ。

　テストの結果、通常のAIは、「飛行機、花、小鳥」といったものが見えると回答した。ところがノーマンの回答は、「銃撃や飛び降りなどによって死んだ人間」など悲惨なものであった。

　例えば、通常のAIが「花を生けた花瓶を拡大したもの」と答えたインク図に対し、ノーマンは、「射殺された男性」と答えている。


image credit:MIT

・学習させる情報次第でAIは破壊的なバイアスを帯びる危険性

　なおノーマンはインターネット上の人間の心理について何らかの知見をもたらすものではない。ニューラルネットワークは白紙の状態だった。

　そこに人間を好きになるような生来の欲求はない。ノーマンで取り組もうとしたのは、人工知能が破滅的なバイアスを帯びる危険性についてだ。

　AIから我々が得られるものは、我々がAIに与えたものである。したがってバイアスを避けるように訓練することが重要だということだ。

　研究チームは今後、ノーマンの修正を試み、ロールシャッハテストで死に関連するイメージばかりを連想しなくなるかどうか確かめるそうだ。

　マサチューセッツ工科大学（MIT）と言えば超名門大学だ。様々な最先端のAI研究も進んでいるようだが、前回の「世にあるもの全てホラー化させるAIシステム」といい、方向性がすごいことになっているな。