SF作家アイザック・アシモフは、自身のSF小説の中でロボット工学三原則というものを定めました。

それは下記の通り。

第一条：ロボットは人間に危害を加えてはならない。また、その危険を看過することによって、人間に危害を及ぼしてはならない。

第二条：ロボットは人間にあたえられた命令に服従しなければならない。ただし、あたえられた命令が、第一条に反する場合は、この限りでない

第三条：ロボットは、前掲第一条および第二条に反するおそれのないかぎり、自己をまもらなければならない。

というものです。しかし、最近行われた第一条の実験によると、ロボットはこのルールを守るのが難しいということが判明したとio9が伝えました。

イギリスにあるブリストル・ロボティクス・ラボラトリーのロボット学者のアラン・ウィンフィールド氏は、アシモフのロボット工学三原則の第一条を単純化した実験をしたそうです。彼とそのチームが行ったのは、ロボットにプログラムを施し、人間の代理となる他のロボットが穴に落ちるのを妨ぐというものです。

Aロボットは最小の倫理ロボットで、画面右上のゴールに向かって動きます。その途中で、Hロボット（人間代理ロボット）が穴に落ちるのを防がなくてはなりません。Hロボットが1体だと成功しましたが...、2体になると混乱しだしているのが分かります。

New Scientistのアヴィーバ・ラットキン記者がこの実験について次のように説明しています。