AIドローンがシミュレーション実験で人間の操縦者を殺害した疑惑が浮上、米空軍はこれを否定

［画像を見る］

　米空軍のAIを搭載したドローンが、「特定した標的を破壊する」というシミュレーション実験で、「人間の操縦者を殺害する」判断を下したというニュースが話題となった。

　これはあくまで仮想実験であり、本当に人命が失われたわけではない。だが、米空軍はこの話を否定し、あくまでも思想実験であり、シミュレーション自体行われていないと発表した。

　それでも性急に人工知能を開発し、すべてをAI任せにしてしまう危険性について、今一度深く考えてみるべきだろうことを伝える一件であるようだ。

・AIドローンが任務遂行の妨げになると操縦者を殺害する判断を下す？
　The Guardianが伝えるところによると、この話は5月にロンドンで開催された国防関連カンファレンス「FCAS 23 Summit」で、米空軍のAI試験運用責任者タッカー・ハミルトン大佐が発言したものだという。

　同大佐によると、米空軍は先月、AI制御のドローンで敵の防空システムを破壊するという仮想シミュレーションを行った。

　このテストでAIドローンの操縦者は、AIに「敵を殺すな」と命じていたという。すると、あくまで任務の遂行を重視するAIは、この命令に対して「きわめて予想外の戦略」に出たのである。