2015年12月29日

シンギュラリティは越えられない

2045年問題いわゆるシンギュラリティについて、私はシンギュラリティは越えられないと考えています。つまり、人工知能が人類を超越する日はこないと思っています。

人工知能とは何か?
映画「イミテーションゲーム」は、数学者チューリングの生涯を扱ったものですが、そのテーマは人間のように計算する機械(=イミテーション)と本物の人間の知能との差は何か?というものだと思います。
チューリングは第二次世界大戦中に人間には解けない暗号を解読する機械を開発しました。もし、シンギュラリティを機械が人間の計算能力を超える特異点であると定義するなら、チューリングが暗号解読機を開発した時点で、特異点を超えたのではないでしょうか。実際にそのインパクトは強烈なものだったと思いますが、不幸にも、その成果が暗号という秘密にしなければならないものだったために、その瞬間には、歴史的な転換点として取り上げられることがありませんでした。
チューリングの暗号解読機の開発がシンギュラリティでないとすると、シンギュラリティとは何でしょうか?単純に記憶能力、計算能力が人間の脳の能力を超えることではなく、「人間のように考えることができて、その能力が人間を超える」ということではないでしょうか。
チューリングは「人工知能とは、外部から見て人間らしく見える計算機械である(=その実装方法を指すものではない)」としていました。この人工知能の定義には、昔から反論があります。主に認知心理学者からの反論で、人工知能は外部から見て人間らしく見えるということではなく、人間は論理的な思考を行っており、その思考をシミュレートする能力を持つものでなければならないとするものです。
列記してみましょう。
A. チューリング的人工知能:人間のように計算する機械(人間に近ければ近いほど優秀な人工知能であるとする立場)
B. 認知学的人工知能:人間の脳と同じように論理的に思考する機械(ハードウェアの性能に応じて、計算能力、記憶能力を上げることが可能であるとする立場)
同じことを言っているように思われるかもしれませんが、B. のほうは人間が論理的に思考していることを前提としている点に注意してください。人工知能を B.で定義するならば、シンギュラリティを超えることは可能でしょう。しかし、私は「人間が論理的に思考している」という前提が成り立たないと考えています。また、チューリングもそう考えていたのではないかと思います。

人間は論理的に思考しているか?
囲碁を打つソフトウェアは、2006年にモンテカルロ法が取り入れられて、それ以前より格段に強くなりました。それ以前は、mini-max探索+αβ枝刈りで最善手を探索し、ソフトウェアの強さは特定の局面の優勢度合いを評価する評価関数の良し悪しに依存していました。しかし、モンテカルロ法では、囲碁の特定の局面から残った手を乱数を発生して打ち、結果の勝ち負けの数で優勢度合いを判断するため、評価関数が不要になりました。そして、格段に強くなったわけです。
実は人間も同じように(あたかも乱数で発生するかのように)思考の過程で間違ったことをたくさん考えているのではないでしょうか。たとえば、大学受験で試験時間150分とかの数学のテストを受験する場合を考えてみましょう。問題は5問くらいしか出題されず、1問に与えられた時間は30分くらいあります。もし、受験生がその問題の解法を知っていれば、5分あれば答案を作成できるでしょう。しかし、問題を出す側も工夫してそう簡単には解けない問題を出しています。そして、受験生は、あーでもない、こーでもないと考えるわけです。もし、その思考過程を覗くことができれば、受験生は30分のうち25分くらい間違ったことを考えているのが見えるでしょう。与えられた時間のほとんどを間違ったトンチンカンなアイデアにもとづいたシミュレートに費やしてるわけです。
私は人工知能が人間に近づくためには、人間と同じように間違ったことを考える仕組みを備える必要があると考えています。

光の速度は越えられない
コンピュータには、記憶能力があります。その記憶量という意味では、すでに人間を上回っているのではないでしょうか。たとえば、Wikipedia 上に書かれていることをすべて暗記できる人間はいません(いや、クイズ王とかなら可能かもしれませんが)。コンピュータの性能はムーアの法則にしたがって、年々向上しており、最近では安いパソコンを買っても1TBくらいのディスクが入っています。
しかし、その記憶にアクセスするためにかかる時間はどうでしょうか?コンピュータの内部ではモジュール間で通信を行っており、その通信速度は光の速度を超えることはできません。つまり、コンピュータの性能はモジュール間の距離に依存しているわけです。CPUがコンピュータの記憶にアクセスする際、レジスタへのアクセス速度を 1秒とすると、キャッシュは4秒、メモリは6分、ディスクは1年 くらいの比率で遠くなればなるほど遅くなります。距離に依存しているので、集積度を上げればアクセスにかかる時間は縮まりますが、限界があるでしょう。また、2次元の基盤上に配置されるコンピュータの素子が、人間の脳内で3次元で張り巡らされている神経細胞に比べて集積度が高いかどうかも怪しいと思われます。
ハードウェアの性能が多少向上しても、上で述べたように思考に必要な記憶を思考回路の近くに配置しなければ性能が確保できません。コンピュータではキャッシュと呼ばれるメモリをCPUの近くに配置する技法で、その性能を確保しています。そのキャッシュに何を記憶するかについては、LRU(Least Resent Use)法と呼ばれる方法で実装されており、短く言うと、よく使うものを近くに置いておくということになります。逆にあまり使わないものは忘れるという方法になるわけです。
私は、人工知能でもこの忘れるという能力が重要であると考えています。つまり、人間らしく賢い知能をつくるためには、人間らしく上手に忘れる能力が必要です。そうでなければ、有限の高速な記憶素子に有効なものだけを保持することはできません。

シンギュラリティは越えられるか?
もう一度戻りますが、すでにコンピュータは計算能力でも記憶能力でも人間を超えています。では、シンギュラリティとは何を超えるのでしょうか。私は、人工知能の定義を A. チューリング的にとらえても、 B. 認知心理学的にとらえても、シンギュラリティは越えられないと考えています。
まず、B. 認知心理学的に考えた場合、認知心理学が、人間が論理的に思考していることを前提としているために、前述の間違える能力、忘れる能力を考慮しておらず、人間の思考に近づくことに失敗していると思われます。そういう意味では囲碁のモンテカルロ法は画期的であったと思われますが、その方向の研究が2045年までに急に進むとは考えにくいです。つまり、ハードウェアの技術進歩でシンギュラリティを超えると予測しているのならば、それは不可能であり、もし、シンギュラリティを目指すのであれば、今の認知心理学を破棄し、人間らしさとは何かについてもう一度研究し直す必要があると思われます。
しかし、この人間らしい人工知能は必要でしょうか?映画トランスセンデンスはシンギュラリティを扱ったものですが、この映画の結末を「シンギュラリティを超えた知的生命体は人間ではない」→「人類ではないものが人類を支配したり滅ぼしたりする」→「それは人類の敵であった」というように解釈しています。
人間と同じように間違ったり忘れたりすることができる人工知能が、人間よりたくさん記憶したり計算したりするとすると、それは人工知能と呼べるでしょうか?人間の天才がきちがいと区別がつかないのと同じで、もし、優れた人工知能の開発することに成功したとしても、誰もその知能が正しいかどうかを判定できないのであれば、社会的に存在価値がありませんし、それを人工知能と呼ぶのは難しいでしょう。
チューリング的に人工知能の完成度を「人間らしさ」を尺度とするならば、人間より人間らしくなることはないので、シンギュラリティはありえません。
私は人間らしい知能の開発の可能性を否定しているわけではありません。人間らしさを尺度とする以上、漸近しても人間を超えることはないでしょうということです。つまり、徐々に人間らしくなることはあっても、急に革命的に何かを超える日が来ることは無いと考えています。
posted by プロキューブ at 12:30| Comment(0) | コンセプト
この記事へのコメント
コメントを書く
お名前:

メールアドレス:

ホームページアドレス:

コメント: