Facebook社が玉ねぎの画像を性的な意味でアウトと判定 /iStock

　バイオレンスやアダルトなど、ヤバい画像が人の目に触れぬよう、SNS各社やGoogleなど検索エンジン各社では、AIを使用しガイドライン違反の自動チェックを行っている。

　だがAIは、機械的にアルゴリズムで判断するため、ヤバくない画像でもヤバイ判定してしまうこともある。

　それが原因なのか、カナダの種子販売会社が、玉ねぎの種の広告を、玉ねぎの画像付きでFacebookに掲載したところ、「性的過ぎる」という理由で掲載が一時ブロックされてしまったという。『cbc.ca』などが伝えている。


・玉ねぎの宣伝広告をFacebook側が拒否

　カナダのニューファンドランド・ラブラドール州で花や野菜の種子販売を行っている『The Seed Company』は、Facebookに広告料を支払い、ワラワラ・スィート・オニオンという玉ねぎの種の広告掲載を試みた。

　ところが、Facebook側が「同社の広告ガイドラインに違反している」として広告を拒否してきたのだ。しかも、その理由が「性的過ぎる」と判断されたからだという。

　10月3日、The Seed Companyのマネジャー、ジャクソン・マクリーンさんは、Facebookアカウントにこの1件をシェアした。

ええっと、Facebookからワラワラオニオンの画像が「OvertlySexual（性的過ぎる）」であるため、広告宣伝できないと通知が着ました。これって性的に見えますか？

　その画像には、かごに入った玉ねぎと、カットされた玉ねぎが手前に配置されており、性的なものには見えない。


・AIによるアルゴリズムが原因か

　単なる玉ねぎの画像を「性的」と判断され、広告掲載を拒否されたマクリーンさんは、ただ笑うしかなかったようだ。


Couleur/pixabay

　後のメディアインテビューでは、このように話している。

「性的過ぎる」と判断しているということは、「誰が見てもあからさまに性的な画像である」という意味ですからね。笑ってしまいました。それにしても、玉ねぎを性的に見るには、かなり活発な想像力が必要ですよ。

おそらく、Facebook側が使用するAIの自動チェックによってそう判断されてしまったのでしょう。人間の目でちゃんと見て、判断してもらいたいものです。だってこれ、ただの玉ねぎですから。

　マクリーンさんが推測するように、FacebookはAIを使ったコンテンツの自動チェックシステムを導入しており、性的な内容を含むイメージは「有害コンテンツ」として削除されている事例が増えているようだ。

　だが、有害なコンテンツではないと申請することで、再審査してもらうこともできる。ただし回答が得られないこともある。

　なお、The Seed Companyは来年の春に再び玉ねぎの種の宣伝広告を掲載する予定をしているということだ。


ulleo/pixabay

　確かに、紛らわしい画像というのは多くて、人間の目でみてもうっかり性的なものと勘違いしてしまうものはあるが、この玉ねぎは思春期の暴走モードでもない限り、普通に玉ねぎに見えるのだが、どうだろう？教えて妄想力最強の人。

written by Scarlet / edited by parumo