シンギュラリティの先に起こりそうなこと

FacebookでIBMワトソンの「コグニティブの時代へようこそ」に関する記事が流れてきて、改めてAIの進化の先に何が起こるかに思いをはせてみました。 

最近では2045年問題、シンギュラリティ、といったキーワードが聞かれるようになり、人間の知性をコンピューターが超え、その先に起こりえる現象や問題について議論する先駆者達も現れ始めています。

 議論や警鐘などで関わっている有名なところとしては、Paypal共同創業者のピーター・ティール氏や、同じくPaypalマフィアでありテスラ／スペースXを率いるイーロン・マスク氏が居ます。

 

　　

ピーター・ティール氏

イーロン・マスク氏

私自身がシンギュラリティの領域に興味を持ったのは、コンピューターが不老不死を作り出すか、という観点。

自分が不老不死になりたいとは思いませんが、純粋に技術的興味でいろいろと想像したことがありました。





主なポイントとして：

• 自分の記憶をすべてコンピュータ上に移しきれるか


• 意識をコンピュータ上に転移できるか


• 上記ができたとして、肉体の死を超えて意識・自我を連続して持ち続けられるか(生物としての自分の死をコンピュータ上の自分の意識で見届けられるのか)


• コンピュータ上のみに残った自分の性格や本能的な欲求など生物時代に必要だった要素が変化あるいは無くなったとき、どのような考え方を持つようになるのか


• あるいは、感情、本能といった生物的な特性を、ホルモンやドーパミンなどの生理的現象を再現することでコンピュータ上でも生体同様の特性を維持できるのか


• シンギュラリティを超えて人間の脳よりも知識、知性が増大する中でどのような変化が現れるか。良心、悪意といったような性向はどうなるのか。


• コンピュータ上で生物時代の他人の意識が交流するとき、どのようなコミュニケーションが起こるのか


• コンピュータ上の複数人の意識が融合するようなことが起こりえるか


• コンピュータ上で生物としての人間と同等以上の自我が保てるときの生存の権利はどのような考え方になるのか

など、様々な技術的論点と、心理学・哲学的な論点が出てきそうだな、と。

生物→AI自我（→AI自我の停止＝死）という段階が発生しうるわけで、この技術的な進展を正しく制御できるのかが心配になったりもします。

支配欲のきわめて強い人が真っ先にコンピュータ上に自我を拡張(あるいは転移)し、全力で支配をはじめるとしたら。

SFで描かれる「人間対コンピュータ」という構図でなく、「生身の人間連合対AIで強化されたごく限られた支配者集団」みたいな対立が起こるのではないかと思います。

もちろん、よりよい社会の課題解決にAIが使われることが大部分になるはずですが、たった一つの悪意が圧倒的に支配力を高める可能性がある、というのがシンギュラリティの怖いところです。

確実に到来しうるイノベーションなだけに、世界の良識ある知性で技術的特異点に向けて備えあれば憂い少なし。まずはAI三原則の制定と遵守か？