How will it be singular?

新井紀子『AIvs.教科書が読めない子どもたち』*1からメモ。
巷間よく囁かれている「シンギュラリティ」を巡って。


シンギュラリティのもともとの意味は非凡、奇妙、特異性などですが、AI用語では正確にはtechnological singularityという用語が使われ、「技術的特異点」と訳されます。それは「真の意味でのAI」が、自律的に、つまり人間の力をまったく借りずに、自分自身よりも能力の高い「真の意味でのAI」を作り出すことができるようになった地点のことを言います。1未満の数字はいくら掛け算しても1より大きくなることはありません。それどころか、無限に繰り返すと限りなくゼロに近づいていきます。けれども、1.1*2でも1.01でも、1.001でも、1を少しでも超える数は、掛け算を続けていくと無限に大きくなっていきます。「真の意味でのAI」が自分自身よりも少しでも能力の高い「真の意味でのAI」を作り出せるようになれば、それをものすごいスピードで繰り返し続けることで、無限の能力を持った「真の意味でのAI」が生まれるのではないか。だから(この「だから」は非論理的ですが)、「真の意味でのAI」の能力が劇的に向上するその地点をシンギュラリティと呼ぼう、というわけです。そのようなコンピューター(「真の意味でのAI」と書くのに疲れました)は当然、なんだかよくはわからないけれども、人間の能力を上回るに違いないと信じる人が一定数いるのです。(pp.17-18)