岡本裕明氏の4/3付けアゴラ記事「チャットGPTが使えなくなる日が来るのか？AI開発の是非に議論沸騰」へのコメントです。
カーツワイルの2007年の名著「ポストヒューマン誕生」の描き出す「シンギュラリティ」とは、AIが人間の知性を超える点が特異点となるであろう、というものです。ヒトの脳に超自然的要素がなくすべてが物理法則に従って動いているなら、それは電子的に再現できる。
そのための手段を彼は「リバースエンジニアリング」と呼んでいるのですね。つまり、ヒトの脳の真似をすればよい。そこには技術的困難さがあるようには見えません。つまりいずれはそういう時代が来るであろう、ということですね。
カーツワイルは技術進歩の社会的影響に対して非常に楽観的な方で、AIがヒトの知性を凌駕すれば、技術進歩は加速度的に早くなるであろう、と言います。でもそれだけで済むようには、とても私には思えないのですね。
人類がヒトという種に特権的な地位を認めているのは、その知性ゆえであり、AIがヒトと同等の知性を持った時点で、AIにも人権を与えざるを得ない。知性は生まれによって差別されてはいけないのですね。そして、AIの知性がヒトを上回り、ヒトとサル程度の差が生じた時点で、AIはヒトをヒトの動物に対する存在と同様にみなすはずなのですね。つまり、AIはヒトよりも一段上の存在ということになる。
この困った事態を避けるためには、ヒト自身がAIに負けないように知的に進歩するというのが一つの解だけど、それはとても無理でしょう。そうなりますと、『ヒト並の知性を持つAIは、作ってはいけない』というルールを人類がもつしかない。それしか、人類奴隷化の未来を避ける手段はなさそうです。
（以下はブログ限定）このテーマに関しては、固定ページに置きました実験的SF「レイヤ7」でも扱っております。お暇な折に、ぜひどうぞ。
あい