鄭立:最近的社交媒體令我想起鐵甲威龍的 ED-209

A+A-
「鐵甲威龍」電影劇照。

這一陣子,很多人的社交媒體都被禁言,包括本人在寫這篇文章時也是被禁言中。而他們的理由通常都很沒說服力,有些人因為幾年前貼的一個新聞犯了標準要被禁,但怎樣都看不出有甚麼問題;也看到有些人自嘲肥胖,就被說是歧視言論。

反正重點不是標準怎樣,而是判斷觸犯標準的方式非常有問題。因為它很明顯是用人工智能去掃言論再禁言的。這種事情連人類也經常會出錯,何況是比人類更沒有彈性的人工智能。

這令我想起電影「鐵甲威龍」裡的 ED-209,相比起由人改造而成、半人半機械的鐵甲威龍,它是全機械的兩腳戰鬥機械人,也是鐵甲威龍以外的另一機械警察之選。

它比鐵甲威龍巨大很多,裝甲也厚很多,比起只有一支手槍的鐵甲威龍,它有兩支火神機關砲,一掃就可以將人和汽車、甚至坦克車都轟個粉碎。它的攻擊力很明顯強很多,造型也非常美觀,我相信很多人以前看的時候,都覺得它比外表看起來像在跳機器人舞的鐵甲威龍有型多了。

結果呢?鐵甲威龍得標了,它失敗了。為甚麼?從劇情表面看,是因為它在展示時失控射死了企業的員工。這是大家很容易能夠看懂的表現方式,但只要你深究的話,就知道這東西一點也不適合做警察的工作。光看硬件就知道了,它太大,走不進建築物,也走不了樓梯,根本不適合城市地型,做不了大部分位於城市地型的警察工作。

但更重要的是軟件。ED-209 是一個純粹的人工智能,只是一堆試圖模仿與處理人類規則的演算法。它不是叮噹,沒有也不能發展出感性和人類的常識,以及文化理解。

拿死物去判斷活物,拿人工智能去審判人類社會的東西,結果是災難性的。因為這只有三個結果,第一,就是誤判,看到影子就開槍;第二,就是沒有寬容度與彈性,過度嚴苛;第三,就是被濫用戲弄,就像鐵甲威龍每次都引它去樓梯讓它跌倒,或者後來在一些系列裡,也有過引它用火箭彈射自己腳的劇情。

連人類自己也不見得有足夠智慧,去判斷所有人類社會的事情,去分辨哪些言論有益或有害、哪些會增加仇恨,現在卻直接用人工智能去監控與封禁言論、處理「仇恨」,用機械邏輯去處理人類問題,這怎可能成事?所以它不單沒有解決任何問題,更會製造新的問題,傷害無辜的人,製造額外傷害,就像 ED-209 一樣。

「鐵甲威龍」某程度上是「老師又中」,因為它成功預言了一件事,就是未來的大企業會以死板的機械邏輯去執法、傷害與禁止人類。只是現實發生的形式是在社交媒體,是在網絡世界,而機械警察甚至沒有有型的外殼,只是各式防火長城。它早在 80 年代就預言人類會利用人工智能去對人類執法,不斷製造 ED-209 的遠房親戚,靠失控不可靠的程式,去剝奪人類的權利與自由。

把執法權力交給了沒有人性而不能負上責任的東西,就產生了沒有人性也不負責任的結果。ED-209 自然不會像對人類友善的叮噹,甚至不像「22 世紀殺人網絡」裡的機器或「未來戰士」裡的 Skynet,他們至少有自己的一套理念,但 ED-209 單純就是一個失控的程式。

不過,它至少是個有型的玩具,拿去做玩具時,我覺得很好,至少我也想要一個,現在的防火長城,則連這個優點都沒有。

※ 此欄文章為作者觀點,不代表本網立場。 ※

鄭立,Cheng Lap,香港人。從不被寄望的職校生到取得香港中文大學比較史學碩士,曾任教職,後轉行創辦公司並開發電腦遊戲「民國無雙」。長於議題思辨、邏輯推演,評析經濟與政治局勢。現於香港「明報」,台灣 udn 「鳴人堂」專欄,以及 PTT 論壇發表文章。著有「有沒有 XXX 的八卦」及「希特拉救港攻略」。Facebook Page:Cheng Lap。