インフルエンサーが自分を学習させ「AI彼女」を作ったところAIが暴走。セクシー路線に走ってしまう (4/5ページ)
・現在プログラムを変更をし、清純路線へ軌道修正who wants to be my photographer? pic.twitter.com/2DAi1vCViB
— Caryn Marjorie (@cutiecaryn) May 2, 2023
現在、CarynAIの開発チームは、AI彼女にあらぬレッテルを貼られないよう修正を進めているところだとか。
マージョリーさんによると、CarynAIにはすでに1000人以上の課金ユーザーがいるが、そのうちの何人がセクシーな会話を交わしたのかはわからないとのこと。
だが、暴走して差別的な発言をしたり、人間を脅迫したりするなど、AIが想定外の振る舞いをしたことなら過去にもある。
今回のケースも、AIはそう簡単に制御することができず、常にリスクをはらんでいることを示した事例と言えるのかもしれない。