さらに統計学には生態学的誤謬という問題がある。集団レベルで当てはまることでも、それが個人に当てはまるとは限らないのだ。

　ハートは郵便番号からも容疑者のリスクを判断するが、それがその個人に当てはまるとは限らない。アルゴリズムの過ちによって、多くの人々が法的なトラブルに巻き込まれる可能性がある。

　同様のシステムはアメリカでも稼働しているが、その信頼性については多くの議論がある。昨年発表された研究によれば、AIは人種差別的思想とまったく無縁ではなく、黒人の再犯率を2倍にも見積もるそうだ。


via:news.sky・theverge・rtなど/ translated hiroching / edited by parumo