［画像を見る］

　一部の著名人や専門家が懸念するように、人工知能（AI）が本当に人間を滅ぼすほど危険なものなのかはまだわからない。

　だが少なくとも人類は、機械の反乱を防ぐためのアイデアを何十年も前にから提唱している。それが「ロボット工学三原則」だ。

　20世紀のSF作家「アイザック・アシモフ」が考案したこの有名な三原則がプログラムされたロボットやAIなら、ただひたすらに人間の幸せのために貢献してくれるはずだ。

　だが、当のアシモフ自身が予見しているように、この三原則は必ずしもロボットの反乱を防いではくれず、思いがけない結果を招くことになるかもしれないという。

　一体なぜ、ロボット三原則ではダメなのか？ 急速にAIが普及している今だからこそ、この重要な問題について考えてみよう。

・ロボット工学三原則とは？
　「ロボット工学三原則」（以下、三原則）とは、SF作家のアイザック・アシモフが1940年代に書いた「ロボットシリーズ」の作中において、ロボットが従うべき原則として語ったものだ。

　それが主に定めているのは「人間への安全性」「命令への服従」「自己防衛」で、小説で語られたものでありながら、のちの現実のロボット工学にも影響を与えた重要な概念だ。

　三原則は次のようなものだ。

第1条：ロボットは人間に危害を加えてはならない。また、自分の不作為によって人間に危害が及ぶことを見て見ぬふりしてはならない。

第2条：ロボットは人間からの命令に服従しなければならない。ただし、その命令が第1条に反する場合は除く。