超絶ＡＩと意味のない世界『スーパーインテリジェンス』
ＡＩが進化している。いろいろと人間脳の制約を引きずる全能エミュレーションなどと異なり、機械的なＡＩはいかに困難で時間がかかるとしても、シンギュラリティのレベルに達することに原理的な制約は見当たらない。そして、いったん軌道に乗りさえすれば、再帰的に自身の能力を向上させてゆく、ということにも原理的に否定できる要素は見当たらない。
そうすると、ものすごく直感には反するものの、いずれ究極の超絶知性が出現することは避けられない、ということになってしまう。そうなってしまえば、人間は超絶知性をコントロールすることはできないのではないか、超絶知性は人間の意思を離れて好き放題に行動し、遂には人間を（それどころか世界を）破壊してしまうのではないか。
目的も意味も破壊する超絶知性
そうなるまでの間に、あるいはそうならないようにするために、何ができるか。本書『スーパーインテリジェンス』は、そのような超絶知性の世界に備えるべく、科学的・論理的な考察を重ねたものだ。しかし、本書はかなりのボリュームで、しかも微に入り細を穿つような内容でありながら、著者自身が述べているように、推測のほとんどは外れてしまうだろう。と言うより、議論している当の問題より、置いている前提の方が遥かに大きく、果たして意味のある議論なのかどうか疑わしくもある。例えば、ＡＩに適切な価値規範を教え込む方法として、もし宇宙のどこかに超絶知性を成功裏に制御し、しかも我々のものと大きく重なり合う価値規範を持った文明があれば、その価値規範データを流用できる、といった類の議論だ。
また、著者は超絶知性を人間の尺度で測ってはいけないと指摘するのだが、本書での議論も結局のところ、人間的な思考の産物にほかならない。人間の知性を超えてしばらくは、まだ人間にも想像のつく振る舞いをするのかも知れないが、それ以降はまったくの「闇」である。超越的知性が極限まで行ってしまえば、もはや物理法則に反しない限りは何でもできる。どんな資源問題、環境問題があっても解決できる。どんな哲学問題、人生問題があっても解決できる。何でも出来てしまう状態では、当初はあったかも知れない「目的」などというものも意味をなさないだろう。すべての空間にひたすら計算が充満しているような世界であって、「意味」というものすらなくなってしまうだろう。意味のない世界について議論することも、無意味に思えてくる。
超絶知性は本当に出現するのか
そう考えると、やはり超絶知性などというものが本当に生まれるのだろうか、というところに戻ってしまう。これについては、例えばこんな手掛かりがある。本当に超絶知性が実現できるなら、本書でも再三出てくる宇宙コロニーのようなものは訳もなくできるだろう。そして、光速で到達できる範囲は超絶知性とそれが生み出したさまざまな怪物に埋め尽くされることだろう。しかし、今のところ、そのようなものが地球にやって来ている気配はない。これは、少々おかしいのではないか。
たかだか現在の人間的知性程度のものが出現するとＡＩの進化が始まり、５０年か１００年か３００年かくらい経つとシンギュラリティが達成され、それからほどなくして超絶知性が出現して、あっという間に宇宙コロニーを実現する技術が出来て、後は光速の制約があるだけで宇宙コロニーはどんどん広がっていくはずである。自然の生命体だけを考えるなら、超絶知性までは進化の時間が何十億年分も足りないとか、そもそも進化の限界があるとかも言えようが、ＡＩを考慮に入れるなら、ざっくり言って「地球からｎ光年の範囲にはｎ年前までには現在の人間的知性すらも出現しなかった」という、かなりありそうもないことになってしまう、これをどう説明できるのだろう。
ＡＩ対策は必要ではあるが
最初に原理的な制約はない、と言ったけれども、やはり人間には想像もつかない制約があって超絶知性など出現しないのではないか。あるいは、人間には認知上のカベがあり、そのカベは人間が生み出したＡＩにも引き継がれ、そこからいくら再帰的な向上を繰り返してもそのカベは超えられず、意外に低いレベルで袋小路に入るのではないか。それとも、超絶知性は我々には知ることのできない隠れた次元を既にコロナイズしているのだろうか。
超絶知性を心配するよりも、超絶ではないが十分に能力の高いＡＩが悪用されたり、暴発したりすることを心配した方が生産的なのではないか、という気もしてくる。
スーパーインテリジェンス 超絶ＡＩと人類の命運
ニック・ボストロム 著
倉骨 彰 訳
日本経済新聞出版