具体的な例を挙げれば、英国の理論物理学者のスティーブン・ホーキング（Stephen Hawking）博士は、「われわれがすでに手にしている原始的な人工知能は、極めて有用であることが明らかになっている。だが、完全な人工知能の開発は人類の終わりをもたらす可能性がある」と、語っている。（ＡＦＰ＝時事）

また、イーロン・マスク氏は2014年にTwitterで、「人工知能は核兵器よりも潜在的な危険をはらむため、我々は細心の注意を払う必要がある」とつぶやいている、そうだ。

これに関連して、2015年1月にイーロン・マスク氏、ビル・ゲイツ氏、スティーヴン・ホーキング博士、およびその他の学者や研究者などが、人工知能を扱う産業の安全基準に対する公開状を書き、人工知能の誤動作によって人間に危険が及ぶのを防ぐため、いつでも人工知能を安全に制御できるフェールセーフのシステムを開発研究すべきだと要求した、とのことだ。

それで、人工知能の未来に関するオープンレターにその道の専門家たちが次々と署名しているそうで、このレターは簡単にいうと「人工知能は人間が望むことをすべき」と訴えていて、人工知能研究を人類の利益と一致する方向に進めるよう強く求めるもので、言い換えれば、「急に人間に歯向かってくるような機械を作らないようにしようね。」ということらしい。

また、一方で、次のような考え方もある。

＜人工知能はそんなに賢くない＞という主張で、「人工知能で人類滅亡」と言うと、如何にもロボット兵が大挙して人間を撃ってくるみたいな絵を想像するが、そこまで明確な意図がなくても、結果的に人間が全滅することはあるかもしれない。ロンドン大学ゴールドスミス・カレッジで認知コンピューティングを専門とするマーク・ビショップ教授は、The Independentに、そう語っているそうだ。

すなわち、「私は特に、ロボット兵器システムが軍用される可能性を懸念しています。つまり、人間の介入なく軍事行為を判断できるシステムです。現在の人工知能はそこまで出来が良くなく、むしろ状況をエスカレートさせて恐ろしい結果を招く可能性もあるからです」とビショップ教授は言う。