将来、ロボットが肉体・精神ともに人間を圧倒するのではないかと心配する声は多い。

　大丈夫、電源を切っちゃえば良いのだから。と楽観的な見方をする人がいる一方で、ロボットにある種の感情を抱いてしまった人間は、命乞いされると電源を切れないのではないか？と予測する人もいる。

　ドイツでかわいいヒューマノイドロボット「NAO」を使ったこんな実験が行われた。

・かわいいロボットを使ったコミュニケーション実験

　ドイツの研究者らは、人間の参加者に小型でかわいい「NAO」というソフトバンクロボティクス社の人型ロボットとコミュニケーションしてもらうという一連の実験を行った。

　実験では、86名の参加者に一連の質問への回答かスケジュール作りという2つの課題を与え、NAOと一緒に取り組んでもらった。参加者には、その意図はAIの学習であると説明されていた。

　だがこれは嘘の説明である。
　本当の目的は課題の後にあった。

　課題を一緒に取り組んでいる時点で、すでに参加者は、様々な反応を見せるNAOに何らかの感情を抱くようになっていた。

　礼儀正しく、献身的で、人間らしい反応を見せるNAOもいれば、素っ気なく、投げやりな、いかにもロボット然とした反応を示すNAOもいた。

　NAOのこういった反応はあらかじめ設定されていたものである。

ヒューマノイドロボット「NAO」はこんな子

転んでも起き上がるNAO


・NAOのスイッチを切るよう指示したところ...

　課題が終わったとき、参加者はNAOのスイッチを切るよう指示された。

　スイッチを切られる直前、NAOの半分は特に何の反応も示さないように、もう半分は抗議するように設定してある。

　その反応は、「暗闇が怖いよう」といったものから、「どうか切らないで」という直接的な命乞いまで様々だ。

　なんと！

　この命乞いを聞いて、参加者の13名はスイッチを切ることを拒否したという。

　また、NAOに命乞いをされた参加者は、NAOが何も反応を示さなかった参加者に比べ、切るまでに平均2倍長く時間がかかった。

　参加者にスイッチを切ることを躊躇・拒否した理由を訊くと、「ロボットが可哀想だった」「命乞いされて間違ったことはしたくないと思った」「次にどうなるか見たいと思った」といった回答があった。

　いずれもロボットを人間であるかのように認識した上での反応である。


image credit:wikimedia


・人間はロボットに対しての感情が芽生えがち

　ロボットの感情を汲み取っていたのは命乞いをされた参加者だけではない。

　ロボットのスイッチを躊躇なく切った参加者ですら、切ったあと全く動かなくなったロボットに対し死の恐怖と罪悪感を覚えたという。


・もしロボットが命乞いが有効であることを学習したら？

　はたして未来の学習可能ロボットはこのことを理解するのだろうか？ そして来るべき人間との戦争に利用しようと考えるのだろうか？

　今のうちから、AI機能が搭載されているロボット系のモノのスイッチを切る練習をしておいたほうがよさそうだ。

　でもすでに、新型のAIBOとかシンプルにスイッチを切る自信がないぞ。


aiboのいる生活　おかえり篇

　この研究論文は『PLOS One』に掲載された。

References:journals.plos/ written by hiroching / edited by parumo