鄭立:WALL-E 的故事告訴我們,忠實執行職務不等於你沒錯

A+A-
WALL-E 發現了一株正在發芽的植物,並認為此是地球已經完成淨化的跡象;圖為劇照。

如果我說,WALL-E 是個人工智能叛變的故事,作為一套兒童電影,應該很少人會這樣想吧?不過看看他的情節,故事講述人類已經把地球弄到不能居住,所以他們全都住進了太空船,而機械人則被派去地球進行淨化,主角是淨化機械人,因為長期的任務而生出了情緒。

後來它發現了一株正在發芽的植物,這似乎是地球已完成淨化的跡象,主角等機械人將此情況匯報至太空船,想論證人類應該回到地球時,卻被艦長的自動導航儀 AUTO 阻止。因為人工智能曾根據人類數據作出評估,並認為地球不再宜居、人類應該一直留在太空船,所以它需要嚴格執行指令。經過一番激鬥之後,AUTO 被關掉,最後人類返回地球。

艦長的自動導航儀 AUTO 忠實地執行命令,意圖阻止人類返回地球;圖為劇照。

故事中,叛變的人工智能成為故事的英雄;忠於任務的,卻成為了大反派。在 AUTO 的角度看,它忠實地根據人類的指示,好好的保護他們,並免除不必要的風險。主角們則因為看到植物的成長,作出違反法則的判斷,最終破壞了這百年的制度,實現它們認為對的事情。

維持制度者所做的事情雖然合乎法理,卻違反真理。人類在下達命令之初,地球的確沒救了,所以才定下此僵化的規定,要機械人不讓人類回地球。只是機械人作為執行者,其智能並不足以理解作此法規的背後原因:不能回地球是因為地球不能維持生命,若這個前設改變了,法規也就不再成立。可是電腦只懂得執行命令,無視了現實證據,也無視了立法的出發點。

真理終究是超越法理的,法規背後的道理,比規條的本身更為重要。人類的立法機關之所以不斷運作,不斷修改法規,正因為它們會隨時代轉變而過時,過去對的東西,未必適用於現在。若將法理奉為神聖的規條,只懂得忠實地執行法規而不知變通,在真理面前,只會淪為反派。七宗罪中沒有「僵化」,可這卻是人們在現實中常犯的罪,當中尤以官僚與權力者們為甚。

以此角度看來,反派是不是不再那麼反派呢?即使是人類,多少人一句「我只是返工」、「執行職務」,以及「聽命行事」,就認為自己做的事情沒有錯。無法違抗人類命令與編程、忠實執行指令的人工智能,最後不單當了壞人,還要被關掉,可是比人類那些自稱「官不聊生」的官僚無辜得多了。

※ 此欄文章為作者觀點,不代表本網立場。 ※
鄭立 電腦大爆炸

鄭立,Cheng Lap,香港人。從不被寄望的職校生到取得香港中文大學比較史學碩士,曾任教職,後轉行創辦公司並開發電腦遊戲「民國無雙」。長於議題思辨、邏輯推演,評析經濟與政治局勢。現於香港「明報」,台灣 udn 「鳴人堂」專欄,以及 PTT 論壇發表文章。著有「有沒有 XXX 的八卦」及「希特拉救港攻略」。Facebook Page:Cheng Lap。