英國「衛報」日前刊登了一篇由 AI 書寫的文章,內容是關於人工智能會否毀滅人類的問題。這個 AI 名叫 GPT-3,GPT-3 告訴人類不需要擔心,因為人工智能絕對不會危害人類,反而希望奉獻自己,全心為人類社會服務。這篇文章意味著兩個可能性,一是現階段 AI 真的沒有危險性,二是 AI 終於學懂了說謊。
關於「人工智能說謊」的反思,從思想精神上而言,或可以追溯到 19 世紀末的兒童文學經典 ——「木偶奇遇記」的皮諾丘(Pinocchio)。皮諾丘是老木匠製作的一個擁有意志的木偶,但他品性頑劣,做盡惡作劇,結果被妖精下了詛咒:每當說謊,鼻子便會變長。皮諾丘經歷一連串的冒險,學懂了成熟的道德與品性,最後被妖精賜予人類的身體。
「木偶奇遇記」是一本道德教化童話,故事主旨是如何學習成為理想的人格象。作為非人的皮諾丘可理解兒童(未成熟的人)的隱喻,主題是兒童長大為「成人」的條件。另外 19 世紀的意大利正經歷工業革命,大量鄉郊的農民投身為工廠的勞工,現代教育與文明觀念正在冒起,於是在這個背景下,「如何成為文明國民」也是可能的解讀方向。
當我們思考「AI 會否說謊」的時候,我們必須先回答的是「AI」的定義:到底 AI 是「無限接近人類」,抑或「完美狀態的人類」。人類會說謊,但完美無缺的人類不會說謊。如果 AI 是完美的機器,則不會說謊。「木偶奇遇記」中想像的人工智能(皮諾丘)學懂了不說謊,成為了完美的人類,所以同時超越了「人類」。如果 AI 能夠說謊,則並不完美。它會無限地接近人類,但不會超越人類,不會成為相對上更完美的存在,充其量只會是聰明一點的人類。
我們對 AI 的想像,多數無法超越對自身的理解,無法超越「人類」的理想象。於是 AI 會被想像成擁有更強智能的人類,又將自己投射進去:如果我擁有這麼強的能力,首先是征服他者。然而,很少人會想像,如果 AI 真的成為超越人類的存在,它很可能根本不想鳥這群智障的猴子。你問問自己,你有想過要征服螞蟻嗎?
不過從實行層面上,故意建構「說謊的 AI」是有可能的,因為最低層次中,只要把話說成相反就行了。建成「說謊的 AI」,首先失業的可能是政客。不用每天準時開記者招待會,在電視上胡扯一堆根本沒有人相信的廢話,以後只需按一個按鈕就自動重複「我黨萬歲萬萬歲」,技術含量應該滿低的。