すると自己不信のないロボットは自ら再起動を行ったが、自己不信のあるロボットはそうしなかった。人間の意思に逆らった場合の結果が不確かだったからだ。

［画像を見る］

　論文では、ここから「自らの効用関数を確信できないエージェントは人間の監視を受け入れる、あるいはそれを求めることが示唆された」と結論づけ、安全なAIシステムの設計をするうえで、効用関数の不確実性が有望な研究分野であると指摘する。


via:Give AI self doubt to prevent RISE OF THE MACHINES, experts warn/ translated hiroching / edited by parumo



『画像･動画、SNSが見れない場合はオリジナルサイト（カラパイア）をご覧ください。』