Superintelligence: Paths, Dangers, Strategies

人間の脳には、他の動物の脳にはない能力がいくつか備わっている。人類が支配的な地位を占めているのは、まさにこれらの特異な能力のおかげである。他の動物はより強力な筋肉や鋭い爪を持つが、私たちはより賢い脳を持つ。いつか機械の脳が一般的知能において人間の脳を凌駕するようになれば、この新たな超知能は極めて強力なものとなりうる。ゴリラの運命が今やゴリラ自身よりも人間に依存しているように、そのとき人類の運命は機械の超知能の行動に依存することになるだろう。しかし、私たちには一つ利点がある。先手を打つことができるということだ。知能爆発を生存可能なものにするために、シードAIを構築するか、あるいは何らかの方法で初期条件を設計することは可能だろうか？制御された爆発を達成するにはどうすればよいか？この問いへの答えに近づくために、私たちは魅力的な話題と考察の風景を進んでいかなければならない。本書を読んで、オラクル、ジーニー、シングルトンについて、ボクシング方法、トリップワイヤー、マインドクライムについて、人類の宇宙的遺産と差別的技術開発について、間接的規範性、手段的収束、全脳エミュレーション、技術的カップリングについて、マルサス経済学とディストピア的進化について、人工知能、生物学的認知増強、集合知について学んでほしい。この極めて野心的かつ独創的な書物は、気の遠くなるような困難な知的領域を注意深く進んでいく。しかし、その文章は非常に明快で、なぜかすべてを容易に感じさせる。人間の条件と知的生命の未来についての思考の最前線へと至る、完全に没頭できる旅の末に、ニック・ボストロムの仕事に見出されるのは、現代の本質的な課題の概念を新たにするほかないものである。