ASCII.jp：嘘を見抜ける人工知能が衝撃的すぎる (1/5)

http://ascii.jp/elem/000/001/043/1043020/

　一方、人狼は「不完全情報ゲーム」。情報に限りがあり、プレイヤー同士で情報量に偏りがある中で真実を見抜く必要がある。さらに「人狼」側になったときは、事実にもとづいた推理で誤った結論に相手を導かなければならない。
　他者を理解し、不完全な情報をもとに正しく推理する。あえて味方を「追放」したり、自分たちを最終的に有利な方向に導くため、あらゆる行動を考える。
　ここで研究者たちが倫理的な課題として抱えているのは「人工知能に嘘をつかせてもいいのだろうか」という戸惑いだ。

　そして人工知能がもっとも苦手としているのは、問題設定だ。
　ある人物がこんなことを言ったのはなぜなのか。推理の裏には「実はこうだったからなのではないか」という仮説がある。人工知能はパラメーターをつくって状況判断をくだすことはできても、自分で解くべき問題をつくることはできない。
　つまるところ人間と人工知能の間には好奇心の壁がある。もし人工知能が「これはなぜだろう」と考え、答えを見つけようとするプロセスをつくれたとしたら、そのときこそ人間は「最後の審判」に立たされるのかもしれない。