當人們問我關於人工智慧的問題時,他們的疑問往往歸結為:我應該擔心什麼,又該擔心到什麼程度?過去一年來,我的回答是推薦他們閱讀穆斯塔法·蘇萊曼的《即將來臨的浪潮》。這是我在人工智慧領域最常推薦的一本書——無論是對國家元首、商業領袖,還是任何前來詢問的人——因為它提供了一種罕見的視角:既清楚看到前方的非凡機遇,也正視真正的風險。
作者穆斯塔法·蘇萊曼為這個主題帶來了獨特的觀點。他曾經參與將DeepMind從一家小型新創公司打造成為過去十年最重要的AI公司之一,之後創辦了Inflection AI,現在則領導微軟的AI部門。但這本書與眾不同的地方,不僅在於穆斯塔法的第一手經驗——更在於他對科學史以及科技革命如何展開的深刻理解。他是一位嚴謹的知識分子,能夠在數百年的科學進展之間,畫出富有深意的聯繫。
目前對《即將來臨的浪潮》的大部分報導都聚焦於它對人工智慧的論述——這很合理,因為它是有史以來最重要的AI書籍之一。而且可能沒有人比穆斯塔法更有資格來撰寫此書。2016年,當DeepMind的AlphaGo擊敗世界頂尖圍棋棋手時,他就在現場——圍棋遠比西洋棋複雜,背後蘊含著2,500年的戰略思維,而AlphaGo卻走出了前所未見的棋步。透過這種方式,這個以AI為基礎的電腦程式證明了機器可以在我們自己的遊戲中——字面意義上——擊敗人類,也讓穆斯塔法早早預見了即將到來的變革。
但這本書之所以與眾不同,在於穆斯塔法的洞見:AI只是前所未有的科學突破匯聚中的一部分。基因編輯、DNA合成及其他生物技術的進展正在並駕齊驅地飛速前進。正如書名所示,這些變化就像遠洋中的浪潮正在積聚——對許多人而言雖不可見,卻在醞釀力量。每一項單獨來看都可能顛覆遊戲規則;而它們加在一起,則準備好重塑社會的各個層面。
歷史學家哈拉瑞曾主張,人類在發展先進AI之前,應該先學會如何合作並建立信任。理論上,我同意。如果我有一個魔法按鈕,可以讓這一切放慢30到40年,讓人類有時間釐清信任與共同目標,我或許會按下它。但那個按鈕並不存在。無論任何個人或公司做什麼,這些技術都會被創造出來。
事實上,隨著成本驟降與運算能力增長,進步已經在加速。此外還有驅動發展的利潤與權力誘因。國家與國家競爭,公司與公司競爭,個人為了榮耀與領導地位競爭。這些力量讓科技進步基本上勢不可擋——也讓控制變得更加困難。
在我有關AI的對話中,我經常強調我們需要考慮的三個主要風險。首先是經濟衝擊的快速步調。AI可能從根本上改變工作的本質,影響大多數行業的工作,包括傳統上被認為不受自動化威脅的白領職位。其次是控制問題,亦即確保AI系統在變得更加先進時,仍能與人類價值觀和利益保持一致。第三個風險是,當壞人取得AI後,他們會變得更強大——更能發動網路攻擊、製造生物武器,甚至危害國家安全。
最後這個風險——賦予壞人力量——引發了我們這個時代最大的挑戰:圍堵(containment)。我們如何在利用這些技術的好處的同時,限制它們的危險?這是《即將來臨的浪潮》的核心問題,因為圍堵是一切問題的基礎。沒有它,AI和生物科技的風險將變得更加嚴峻。先解決這個問題,我們才能創造所需的穩定與信任,以應對其他所有挑戰。
當然,說起來容易做起來難。
雖然先前的變革性技術如核武器,可以透過實體安全與嚴格進出管制來圍堵,但AI和生物科技帶來了根本不同的挑戰。它們越來越容易取得且價格親民,其發展幾乎無法偵測或監控,而且可以在閉門之後以最低基礎設施來使用。禁止它們意味著好人單方面解除武裝,而壞人照樣向前推進。而且這會傷害每個人,因為這些技術本質上是雙用途的。同樣的工具既可用來製造生物武器,也可用來治療疾病;同樣的AI既可用於網路攻擊,也可強化網路防禦。
那麼,在這樣的現實中,我們要如何實現圍堵?抱怨穆斯塔法沒有單槍匹馬解決人類所面臨最複雜的問題之一,並不公平。不過,他提出了一個對應挑戰規模的適當雄心勃勃的議程——從技術解決方案(例如為AI系統建立緊急關閉開關)到全面的制度變革,包括新的全球條約、現代化的監管框架,以及政府、企業和科學家之間的歷史性合作。當你讀完他的建議清單,你可能會懷疑我們是否真的能及時完成這一切。但這正是這本書如此重要的原因:它幫助我們在仍有時間行動之際,理解這份急迫性。
我一直是個樂觀主義者,而閱讀《即將來臨的浪潮》並未改變這一點。我堅信AI和生物科技的進步,有助於讓致命疾病的突破性療法、氣候變遷的創新解決方案,以及高品質教育普及化成為現實。但真正的樂觀主義不是盲目信仰。而是同時看見好處與風險,然後努力使結果變得更好。
無論你是科技愛好者、政策制定者,還是單純想了解世界走向的人,你都應該讀這本書。它不會給你簡單的答案,但它會幫助你提出正確的問題——並讓你做好準備,乘上即將來臨的浪潮,而不是被它沖走。
來源:https://www.gatesnotes.com/books/all-book-reviews/reader/the-coming-wave

