ひとたび成功すれば、機密データを傍受し抽出できるほか、CMSユーティリティに非認証アクセスできるようになる

photo by Pixabay

・セキュリティの専門家が見抜けなかった

　実験に使われたトランスフォーマーはGPT2。このAIにネット上に掲載されているサイバーセキュリティの脅威に関する文章やフレーズで学習させ、脆弱性と攻撃についての文章を生成させた。

　一見したところ非常に自然な文章だが、航空会社へのサイバー攻撃に関して不正確な情報が含まれていた。

　しかし、サイバーセキュリティの脅威に関する情報を日頃から大量に追っている専門家にこれを読んでもらったところ、まんまと騙されてしまったのだ。

　これは実験だから驚いたですまされるが、仮に実際の現場でも騙されてしまい、偽の情報に振り回されたらどうなるだろうか？

　 ありもしない問題への対応に追われて、本来対応すべき脆弱性は放置されるような事態もありえると研究グループは警鐘を鳴らす。


photo by Pixabay

・AIによるフェイク論文が科学・医療業界を揺るがす可能性も

　今回のトランスフォーマーは、次のような新型コロナワクチンの実験とその副作用に関する研究の要約らしき、完全な文章を生成することにも成功している。