普段はそれで毒性のあるものを除去しているが、今回は逆に毒性のあるものを残すように設定したという。

　そしてもう1つ重要なのが新しい生成モデルだ。この生成モデルは膨大な数の分子構造を扱うことができ、それらを組み合わせる方法を学ぶ。

　こうした学習に基づいて、新しい分子をコンピューター上で生成させる。このモデルは今や、どんな化学分野であっても新分子を生成できるという。

　今回は、無毒なものではなく、有毒な分子が高く評価されるよう調整した。その結果、VXや化学兵器として使えそうな分子が予測されたのだ。

［画像を見る］

Photo by Pablo Stanic on Unsplash

・AIが6時間で4万を超える有毒分子を特定
　その結果、AIが6時間で4万を超える有毒分子を特定、VXを越える有毒な化学物質も大量に発見されたという。

　予測された分子はまだ検証されていないが、たとえ大量の偽陽性があったとしても、実際に強力な毒性分子が含まれているという。

　新たに生成された大量の分子構造には、VXや化学兵器に似たものがたくさんあったそうだ。実際に化学兵器として使われていたものも予測された。

　AIは化学兵器に使われる分子を見ていないにもかかわらず、それと同じものを生成したのだ。懸念すべき点は、それが簡単に使えてしまうことだ。

　今回実験で利用したものの多くは、無料で手に入るものだ。毒性のデータセットをダウンロードして、多少プログラムと機械学習をかじったことのある人が週末だけ作業すれば、似たような生成モデルを開発できてしまう。

　このように簡単に悪用できてしまうことが、今回論文を発表しようと思った理由だという。