人工知能が反逆することを想定した非常停止ボタンを開発した──ってネットで公開したのでAIに悟られないか？ (1/2ページ)
Photo credit: itspaulkelly via Visualhunt.com / CC BY-NC
このボタンがあれば、ターミネーターは生まれない？
加速度的に進歩しようとしているAI（人工知能）は、果たして人間に反逆するのだろうか。
研究者達はその可能性を否定してはいない。
そのため、Google傘下で人工知能を開発しているDeepMind社とオックスフォード大学の研究者らは、AIが人間の言うことを聞かなくなった時のために、「big red button」と呼ばれる非常停止ボタンの研究に関する論文を発表した。
しかし、ことはそう簡単ではないようだ。
■ AIが人間に反逆する危険性
このところ、ディープラーニング技術により、AIの性能は加速度的に進歩している。
前述のDeepMind社の囲碁ソフトAlphaGoが、「囲碁界の魔王」との異名を持つ最高峰の（人間の）棋士であるイ・セドル氏に勝ったことも、まだ記憶に新しい。
研究者の中にもAIが100年以内に人間を超えると考えている者たちは多く、その危険性も話題に上っている。
また、著名人達も懸念している。英国の宇宙物理学者スティーブン・ホーキング博士やテスラモーターズとSpaceXのCEOであるイーロン・マスク氏もAIの進歩に警鐘を鳴らしており、彼らは非営利組織のFLI（Future of Life Institute）を通して、自律ロボット兵器の禁止について国連に訴えているくらいだ。
そして今回、DeepMind社はオクスフォード大学のFHI（Future of Humanity Institute）と共同で、AIを停止させる仕組みに関する論文を公開したのだ。
