當人們問我關於人工智慧的問題時，他們的疑問往往歸結為：我應該擔心什麼，又該擔心到什麼程度？過去一年來，我的回答是推薦他們閱讀穆斯塔法·蘇萊曼的《即將來臨的浪潮》。這是我在人工智慧領域最常推薦的一本書——無論是對國家元首、商業領袖，還是任何前來詢問的人——因為它提供了一種罕見的視角：既清楚看到前方的非凡機遇，也正視真正的風險。
作者穆斯塔法·蘇萊曼為這個主題帶來了獨特的觀點。他曾經參與將DeepMind從一家小型新創公司打造成為過去十年最重要的AI公司之一，之後創辦了Inflection AI，現在則領導微軟的AI部門。但這本書與眾不同的地方，不僅在於穆斯塔法的第一手經驗——更在於他對科學史以及科技革命如何展開的深刻理解。他是一位嚴謹的知識分子，能夠在數百年的科學進展之間，畫出富有深意的聯繫。
目前對《即將來臨的浪潮》的大部分報導都聚焦於它對人工智慧的論述——這很合理，因為它是有史以來最重要的AI書籍之一。而且可能沒有人比穆斯塔法更有資格來撰寫此書。2016年，當DeepMind的AlphaGo擊敗世界頂尖圍棋棋手時，他就在現場——圍棋遠比西洋棋複雜，背後蘊含著2,500年的戰略思維，而AlphaGo卻走出了前所未見的棋步。透過這種方式，這個以AI為基礎的電腦程式證明了機器可以在我們自己的遊戲中——字面意義上——擊敗人類，也讓穆斯塔法早早預見了即將到來的變革。
但這本書之所以與眾不同，在於穆斯塔法的洞見：AI只是前所未有的科學突破匯聚中的一部分。基因編輯、DNA合成及其他生物技術的進展正在並駕齊驅地飛速前進。正如書名所示，這些變化就像遠洋中的浪潮正在積聚——對許多人而言雖不可見，卻在醞釀力量。每一項單獨來看都可能顛覆遊戲規則；而它們加在一起，則準備好重塑社會的各個層面。
歷史學家哈拉瑞曾主張，人類在發展先進AI之前，應該先學會如何合作並建立信任。理論上，我同意。如果我有一個魔法按鈕，可以讓這一切放慢30到40年，讓人類有時間釐清信任與共同目標，我或許會按下它。但那個按鈕並不存在。無論任何個人或公司做什麼，這些技術都會被創造出來。
事實上，隨著成本驟降與運算能力增長，進步已經在加速。此外還有驅動發展的利潤與權力誘因。國家與國家競爭，公司與公司競爭，個人為了榮耀與領導地位競爭。這些力量讓科技進步基本上勢不可擋——也讓控制變得更加困難。
在我有關AI的對話中，我經常強調我們需要考慮的三個主要風險。首先是經濟衝擊的快速步調。AI可能從根本上改變工作的本質，影響大多數行業的工作，包括傳統上被認為不受自動化威脅的白領職位。其次是控制問題，亦即確保AI系統在變得更加先進時，仍能與人類價值觀和利益保持一致。第三個風險是，當壞人取得AI後，他們會變得更強大——更能發動網路攻擊、製造生物武器，甚至危害國家安全。
最後這個風險——賦予壞人力量——引發了我們這個時代最大的挑戰：圍堵（containment）。我們如何在利用這些技術的好處的同時，限制它們的危險？這是《即將來臨的浪潮》的核心問題，因為圍堵是一切問題的基礎。沒有它，AI和生物科技的風險將變得更加嚴峻。先解決這個問題，我們才能創造所需的穩定與信任，以應對其他所有挑戰。
當然，說起來容易做起來難。
雖然先前的變革性技術如核武器，可以透過實體安全與嚴格進出管制來圍堵，但AI和生物科技帶來了根本不同的挑戰。它們越來越容易取得且價格親民，其發展幾乎無法偵測或監控，而且可以在閉門之後以最低基礎設施來使用。禁止它們意味著好人單方面解除武裝，而壞人照樣向前推進。而且這會傷害每個人，因為這些技術本質上是雙用途的。同樣的工具既可用來製造生物武器，也可用來治療疾病；同樣的AI既可用於網路攻擊，也可強化網路防禦。
那麼，在這樣的現實中，我們要如何實現圍堵？抱怨穆斯塔法沒有單槍匹馬解決人類所面臨最複雜的問題之一，並不公平。不過，他提出了一個對應挑戰規模的適當雄心勃勃的議程——從技術解決方案（例如為AI系統建立緊急關閉開關）到全面的制度變革，包括新的全球條約、現代化的監管框架，以及政府、企業和科學家之間的歷史性合作。當你讀完他的建議清單，你可能會懷疑我們是否真的能及時完成這一切。但這正是這本書如此重要的原因：它幫助我們在仍有時間行動之際，理解這份急迫性。
我一直是個樂觀主義者，而閱讀《即將來臨的浪潮》並未改變這一點。我堅信AI和生物科技的進步，有助於讓致命疾病的突破性療法、氣候變遷的創新解決方案，以及高品質教育普及化成為現實。但真正的樂觀主義不是盲目信仰。而是同時看見好處與風險，然後努力使結果變得更好。
無論你是科技愛好者、政策制定者，還是單純想了解世界走向的人，你都應該讀這本書。它不會給你簡單的答案，但它會幫助你提出正確的問題——並讓你做好準備，乘上即將來臨的浪潮，而不是被它沖走。
來源：https://www.gatesnotes.com/books/all-book-reviews/reader/the-coming-wave