英國作家 George Orwell 逾半個世紀前的名著「1984」,描述極權政府如何利用科技監控人民,此書近年出乎意料重登暢銷書榜,想必與故事中的極權惡夢臨近有關。近年屢傳有國家以大數據監控人民,難免令人疑慮人工智能(AI)變成助紂為虐,究竟這樣的未來是否不可逆轉?知名以色列歷史學家哈拉瑞(Yuval Noah Harari)新書「21 世紀的 21 堂課(21 Lessons for the 21st Century)」為危機抽絲剝繭,提出人類反抗極權的可能。
AI 如何催生數碼獨裁政權?
我們對於 AI 的恐懼,除了害怕被它們搶走飯碗,還有害怕它們叛變殺害人類 —— 這些是數十年間科幻電影的經典題材。但哈拉瑞認為,這種憂慮不切實際,我們真正應該擔心的,不是 AI 的叛逆,反而是人工智能唯命是從,完全沒有反抗的機制。
目前全球已經有數個國家發展 AI 的監控技術,可透過大數據分析人民一舉一動,無論是打電話、在社交媒體發文、到另一座城市旅遊等,無一逃出國家法眼,令「1984」惡夢逐步成真。
哈拉瑞甚至設想,假如像北韓的極權國家掌握尖端生物科技,可能會要求人民配戴生物識別手鐲(biometric bracelet),以 AI 實時監測人民的身體狀況和腦部活動,更好地掌控群眾的情緒,操弄群眾深層的恐懼、仇恨和慾望,可令人淪成單純的情緒動物。
哈拉瑞還指出,我們曾相信民主是最理想的社會制度,在道德上遠勝獨裁,但其實過去民主國家優勝關鍵不在道德,反而是資料處理能力。獨裁國家的權力匯集中央,分析資料到決策都由中央負責,但 20 世紀的科技發展所限,大部分資料仍靠紙張文件處理,不足以讓中央權力機關分析海量數據,更遑論作出正確決定;民主國家則傾向權力分散,處理資料和決策權力下放,反而更具效率,較能以政策對症下藥。這正是蘇聯決策頻頻失誤,經濟落後於美國的主因。
不過,AI 足以推翻民主國家這項相對優勢,中央集權機構將有能力處理海量數據,而且收集資料愈多,機器學習能力反而愈強,以致國家愈集權,AI 愈臻完善。相比尊重私隱權的國家,假如極權政府能夠收集所有國民的基因圖譜,交予中央醫療機構作 AI 分析,更可能促進基因和醫學研究,令獨裁國家的發展取得優勢。
如何以人類智慧重掌命運?
書中對未來的描述確實悲觀 —— AI 既在經濟上淘汰數以億計人口,使他們喪失經濟價值,又同時有助極權國家天衣無縫地操控人民。但作者終究不是要令大家萬念俱灰,他同時也為扭轉局勢提出建議。
哈拉瑞認為,當社會投資 AI 技術的同時,我們必須投放同等資源探索人類的心靈,探討如何培育人類的智慧與同理心,這是科學家、哲學家、文學家都必須共同肩負的使命,以避免 AI 掌握人類的動物性,只管取悅人類,最終把人退化成動物般馴養。
現在我們日常生活愈來愈依賴 AI,例如信任 Google 搜尋引擎的答案、Netflix 為我們度身推介的電影、Spotify 推介的音樂,假以時日,系統還可能為我們的人生決定提建議。哈拉瑞認為必須加以警惕,別過度把權威從人類手中轉讓予機器。
多年來,人類已習慣認為,人生就是連串抉擇組成的一場大戲,人是自主獨立的能動個體。如何在艱難處境下作出道德取捨,從來都是文藝作品的經典題材,莎士比亞筆下「哈姆雷特」的一句 To be or not to be?(生存還是毀滅?)正因此傳頌至今。假若 AI 代答了一切人生難題,哈姆雷特或者不再躊躇不決,生活或過得舒適寫意,但人作為「自主獨立的能動個體」的定義將被改寫,不利培養人類智慧。
目前西方的 Google 與 Facebook、中國的百度與騰訊,已經就數據累積展開競爭,以免費資訊和服務吸引我們注意,鼓勵我們提供個人資料,分析我們的習性,再把資料轉讓。要抵抗這些誘惑,對平常人而言確實困難,只能盡量避免把資料過度集中;知識分子則應當研究並提倡「數據擁有權」的觀念。
在古代,土地曾是人類最重要的資產,政治都圍繞土地擁有權而生;到工業時代,機器和工廠變得更見重要,政治鬥爭就以這些生產工具為目標;進入 21 世紀,數據的地位將會超越土地和機器。可惜我們沒有管理數據擁有權的經驗,它們能以光速大量複製,使規管變得異常艱難。我們的基因圖譜等敏感數據,究竟是屬於政府、企業、還是全人類共有?這是知識分子務必提出和解答的難題。
當然,新科技形態不只得一種,區塊鏈技術、虛擬貨幣都有權力分散的特徵,足以挑戰中央集權的控制,但這些技術似乎還未足夠成熟,日後能否制衡有集權傾向的 AI,仍然是未知之數。但投資發展有利權力分散的新科技,或有助保衛 20 世紀脆弱的自由民主遺產。