不可能なのは「洞察」

http://d.hatena.ne.jp/sumita-m/20180125/1516858031に対して、


osaan*1 2018/01/25 17:41

下世話な小話
男「女なんかよりオナホールの方が気持ちいい」
女「男よりバイブの方がすごくいい」
科学者「それでは、オナホールにバイブを突っ込めば完璧だ！」
というのを思い出しました。
AIなんかでも、同様な問題がありそうな。
http://d.hatena.ne.jp/sumita-m/20180125/1516858031#c1516869666

人工知能にできないのは自らの振る舞いに対する「洞察」であるという主旨のTed Chiang “Silicon Valley Is Turning Into Its Own Worst Fear”*2に言及しようしようと思いつつ、ほっぽっていたのですが、関係あるでしょうかね。或いは、「悪の凡庸さ」*3というか、アレントの『イェルサレムのアイヒマン』の問題。
Eichmann in Jerusalem (Penguin Classics)

Eichmann in Jerusalem (Penguin Classics)

*1:http://d.hatena.ne.jp/osaan/

*2:https://www.buzzfeed.com/tedchiang/the-real-danger-to-civilization-isnt-ai-its-runaway

*3:See also http://d.hatena.ne.jp/sumita-m/20160201/1454311360 http://d.hatena.ne.jp/sumita-m/20130502/1367461468