「ターミネーター」、「マトリックス」、「アイ，ロボット」……。
人間と人工知能（AI）もしくはロボットが対立して、という近未来のロボット化社会の脅威を描いた映画・SF作品は数多あるが、今やAI・ロボットは急速に人間社会に浸透しつつある。
AIの発展がシンギュラリティ（技術的特異点）に到達して人間の想像力の及ばないほどの知性を獲得し、「人類に代わって文明の進歩の主役」となり、結果、人間が弱い立場になるという悲観論がこれらSFの発想の根拠となっているのだが、IoTで家電の中にAIが浸透、AI製品が増えていることで既に人類vs.AIの争いは起きている。
「頼んでいない商品が注文される」、「日常の会話が収集される」、「家具が壊され、子どもがケガを負う」……。
これらは既に報告されている「AIトラブル」だ。
「とうとうAIによる人類への攻撃やスパイ活動が始まったか」
というとそうではない。消費者庁がAI製品を使うことで想定されるリスクをまとめたものだ。だから、「人類の存亡をかけた危機の始まり」といった大げさなものではなく、つい最近になってITリテラシーを高めましょうというハンドブックを作成したという話。
ハンドブックは専門家らによる「消費者のデジタル化への対応に関する検討会 AIワーキンググループ報告書」に沿ってまとめられていて、この報告によれば具体的には、「AIスピーカーに勝手に物品が注文された」、「AI掃除機が暴走して観葉植物を倒し、壊した」といったトラブルを経験している消費者は多いという。もたらされるリスクとして、以下のような懸念事項が示された。
〇スマート家電・・・生活習慣に関するプライバシー情報の流出。
〇スマートスピーカー・・・音声の誤認識で頼んでもいない商品を購入。日常会話の収集。
〇ロボット・・・想定外の動作で家具の破損や子どものケガ。
〇金融審査・・・審査の根拠がわからず利用者の改善点が不明。
巨大IT企業が提供するサービスでのビッグデータ収集とプライバシーの問題は既にあらゆる分野で議論されているが、それだけではない。