AIをAI生成データで学習させると、学習モデルが崩壊してしまうリスクが発生

［画像を見る］

　AIをAI生成コンテンツで学習させるとどうなるのか？ その答えは「崩壊」である。これは『Nature』（2024年7月24日付）で発表された研究の結論だ。

　その研究では、AIが生成したデータを利用して、AIモデルを訓練した。するとあれよあれよという間に学習モデルが崩壊したというのだ。

　この研究に携わったケンブリッジ大学のAI研究者ザッカー・シュマイロフ氏は、「事態は必ず、証明可能なほど、まずいことになります」と語っている。

・AI生成データで学習したAIが崩壊
　シュマイロフ氏らは、事前に訓練された大規模言語モデル（LLM）を用意し、それをWikipediaの記事で構成されたHuggingFaceのデータセットで学習させた。

　こうして学習したAIモデルにテキストを生成させ、これを先ほどの学習用データセットに組み込む。そのうえでさらに学習を続けさせる。

　すると驚くべきことが起きた。このプロセスを9度も繰り返すと、AIモデルは意味不明な話をするようになったのだ。

　たとえば、AIモデルに「サマセットの建物（buildings in Somerset, England）」について学習させ、これを語らせてみる。

　このWikipediaの記事は、英国サマセットにある指定建築物の歴史と多様性について説明したのものだ。