人工知能について人々から質問を受けるとき、その疑問はたいてい次のようなものに集約される。「何をどの程度心配すべきか」。この1年、私の答えは決まっていた。ムスタファ・スレイマン著『The Coming Wave』を読むように勧めることだ。この本は、AIに関する書籍として、国家元首、ビジネスリーダー、その他尋ねてくるすべての人に対して、私が何よりも勧める一冊である。なぜなら、この本は希少なものを提供してくれるからだ――目前に迫った驚異的な機会と真のリスクの両方を、冷静に見通す視点を。
著者のムスタファ・スレイマンは、このテーマに独自の視点をもたらす。彼はDeepMindを小さなスタートアップから過去10年間で最も重要なAI企業の一つに育て上げるのに貢献した後、Inflection AIを創業し、現在はマイクロソフトのAI部門を率いている。しかし、この本を特別なものにしているのは、ムスタファの現場経験だけではない――科学史と技術革命の展開に対する彼の深い理解である。彼は、数世紀にわたる科学進歩の間に意味のある類似性を見出せる、真摯な知識人なのだ。
『The Coming Wave』に関するこれまでの報道の大半は、この本が人工知能について語っている内容に焦点を当ててきた――これまで書かれたAIに関する最も重要な書籍の一つであることを考えれば、当然のことだ。そして、おそらくムスタファほど執筆にふさわしい人物はいない。彼は2016年、DeepMindのAlphaGoが、チェスよりはるかに複雑で2500年の戦略的思考の裏付けを持つ囲碁で、誰も思いつかなかった手を打って世界トップの棋士を打ち負かした瞬間に立ち会っていた。そうすることで、AIベースのコンピュータプログラムは、機械が人間のゲームで――文字通り――人間に勝てることを示し、ムスタファに訪れつつあるものを早期に垣間見せたのだ。
しかし、彼の本を他のものと一線を画しているのは、AIが前例のない科学的ブレイクスルーの収束の一部にすぎないというムスタファの洞察である。遺伝子編集、DNA合成、その他のバイオテクノロジーの進歩は、並行して急速に進んでいる。タイトルが示唆するように、これらの変化は遠く海でうねる波のように築かれている――多くの人には見えないが、力を集めている。それぞれ単独でもゲームチェンジャーとなる。これらが一緒になることで、社会のあらゆる側面を再形成しようとしている。
歴史家ユヴァル・ノア・ハラリは、人間は高度なAIを開発する前に、協力し信頼を築く方法を考えるべきだと主張してきた。理論上は、私も同意する。人類が信頼と共通の目標を模索する間、すべてを30年か40年遅らせることができる魔法のボタンがあるなら、私はそれを押すかもしれない。しかし、そんなボタンは存在しない。個人や企業が何をしようと、これらの技術は創造されるだろう。
現状、コストの急落と計算能力の増大により、進歩はすでに加速している。さらに、開発を推進する利益と権力のインセンティブがある。国は国と競争し、企業は企業と競争し、個人は栄光とリーダーシップを求めて競う。これらの力は技術進歩を本質的に不可避なものにしている――同時に、制御をより困難にもしている。
AIに関する会話の中で、私は考慮すべき3つの主なリスクをよく強調する。第一は、経済的混乱の急速なペースである。AIは仕事の性質そのものを根本的に変革し、従来は自動化から守られてきたホワイトカラーの職種を含む、ほとんどの産業の雇用に影響を与える可能性がある。第二は、制御問題、すなわちAIシステムがより高度になるにつれて、人間の価値観や利益と一致し続けることを保証することの難しさである。第三のリスクは、悪意ある行為者がAIにアクセスできるようになると、彼らがより強力になり、サイバー攻撃の実施、生物兵器の作成、国家安全保障の侵害さえも可能になることだ。
この最後のリスク――悪意ある行為者に力を与えること――が、我々の時代最大の課題である封じ込めにつながる。これらの技術の利益を活用しながら、どのように危険性を制限するのか。これこそが『The Coming Wave』の核心にある問いであり、封じ込めは他のすべての基盤となるからだ。封じ込めがなければ、AIとバイオテクノロジーのリスクはさらに深刻になる。封じ込めを先に解決することで、他のすべてに取り組むために必要な安定と信頼を生み出せるのだ。
もちろん、言うは易く行うは難しである。
核兵器のようなこれまでの変革的技術は、物理的な警備と厳格なアクセス管理によって封じ込めることができたが、AIとバイオテクノロジーは根本的に異なる課題を提示する。これらはますますアクセスしやすく手頃な価格になり、その開発を検出または監視することはほぼ不可能であり、最小限のインフラで密室で使用できる。これらを違法化することは、善玉が一方的に武装解除し、悪玉が先に進むことを意味する。そして、これらの技術は本質的にデュアルユースであるため、すべての人に害を及ぼすことになる。生物兵器の作成に使用できる同じツールが、病気を治すこともできる。サイバー攻撃に使用できる同じAIが、サイバー防衛を強化することもできる。
では、この新しい現実において、どのように封じ込めを達成するのか。ムスタファが、人類が直面した最も複雑な問題の一つをたった一人で解決していないと不満を言うのはフェアではない。それでも彼は、課題の規模にふさわしく野心的なアジェンダを提示している――AIシステムの緊急停止スイッチの構築といった技術的解決策から、新たな国際条約、近代化された規制枠組み、政府・企業・科学者間の歴史的な協力といった抜本的な制度変更まで。彼の推奨リストを読み終えると、これらすべてを本当に間に合うように達成できるのか疑問に思うかもしれない。しかし、まさにそれがこの本が非常に重要である理由だ：行動する時間がまだあるうちに、緊急性を理解する助けとなるからだ。
私は常に楽観主義者であり、『The Coming Wave』を読んでもそれは変わらなかった。AIとバイオテクノロジーの進歩が、致死性疾患に対する画期的治療法、気候変動への革新的解決策、そしてすべての人への高品質な教育を現実のものにするのに役立つと、私は固く信じている。しかし、真の楽観主義とは盲目的な信念ではない。利点とリスクの両方を見て、結果をより良いものに形成するために働くことなのだ。
テクノロジー愛好家であれ、政策立案者であれ、あるいは単に世界がどこに向かっているのかを理解しようとしている人であれ、この本を読むべきだ。簡単な答えを与えてはくれないが、正しい問いを立てる助けとなり、押し流されるのではなく、来たる波に乗る準備をさせてくれるだろう。
出典：https://www.gatesnotes.com/books/all-book-reviews/reader/the-coming-wave