維基編寫戰爭,揭人工智能漏洞!

A+A-

wiki

作為資訊性網站之王,維基百科編輯和自動運作的軟件機械人不斷修繕壯大百科條目,令往日要大費周章查找的資料變得垂手可得。不過原來這個百科世界內藏暗湧,充滿矛盾和衝突。最新研究發現,維基百科自多年前已成軟件機械人(bot)之間的無聲戰場

自從 2001 年維基百科成立,上百萬個百科條目經機械人(bot)協助編寫,這些維基機械人負責糾錯、插入相關超連結等大量繁瑣的編輯工作。單以中文版維基百科為例,就有 112 個本地機械人帳戶。早年由於機械人十分罕有,它們分頭行事,工作不重疊,相安無事。後來配置於維基的軟件機械人逐漸多了起來,機械人之間有了交集,甚至出現衝突——例如復原其他機械人的修改內容,又或更改已揀選的連結頁面。A 改寫了 B 改好的內容,B 又復原 A 的修改內容,如此循環不息,有時要到其中一個機械人被停止連作才能消停。

圖片來源:@Ariel Waldman/Flickr
圖片來源:@Ariel Waldman/Flickr

「機械人打起交來比人類還要固執堅持。人類過幾天就冷靜下來,但它們可以持續好幾年。」Oxford Internet Institute 的電腦社會科學研究員 Taha Yasseri 說。他們翻看維基百科 13 種語言版本首 10 年的修改歷史,找尋機械人互相修改對方內容的記錄。研究初時並無太大期望,畢竟這些機械人只是簡單的軟件程式,編寫原意只是修繕百科內容,不是互相作對。結果大出所料,儘管它們都是基於從同一個互聯網收集的資訊修改百科,它們經常為了同一個百科條目拉扯互改百多次。

耐人尋味的是,機械人的戰爭有時也恰如社會紛爭的倒影,比如受爭議領地的名字也是讓機械人們爭持不休的百科內容。研究透露其餘對機械人來說具爭議性的還有阿諾·舒華辛力加阿拉伯語物理學家尼爾斯·玻爾巴基斯坦前總統佩爾韋茲·穆沙拉夫

歷史記錄中,交戰最頻繁的是機械人「Xqbot」和「Darknessbot」,它們在 2009 至 2010 年間曾在 3,629 條百科條目上交手,「Xqbot」曾復原超過 2,000 個「Darknessbot」的修改內容,「Darknessbot」也不遑多讓復原 1,700 個「Xqbot」的修改內容,戰場廣闊,從亞歷山大一世打到台灣板橋區,乃至阿士東維拉都是戰場。

另一個名叫「Tachikoma」(以日本科幻漫畫「攻殻機動隊」中的虛構人物命名)的日本機械人也曾與「Russbot」開戰兩年,曾在 3,000 多個百科條目爭持不下,從希拉莉 2008 年總統選舉活動英國人口統計都可見交戰痕跡。

不同語言版本的機械人,參戰率也有不同,當中德語版最平和,每個機械人平均復原修改內容次數只有 24 次;而葡萄牙語版本最「好戰」,平均復原修改內容次數達 185 次;英文版本則平均有 105 次。

Yasseri 認為,此次研究結果對於正發展軟件機械人或更高層次的人工智能的企業來說,是一個警號。即使是最簡單的演算法,放諸於互聯網不管,也有可能造成衝突,因為它們跟從的演算規則都各有不同。一個在實驗中表現出眾的人工智能,一旦推出市面,也有可能出現無法預測的偏差。「以無人駕駛汽車為例,人們常常會忽略了不同地方的行車文化和環境,一架無人駕駛汽車在德國高速公路行走正常,駛到意大利就未必無事。」

本月初, Google 旗下的人工智能公司 DeepMind 發表研究,他們設置多個人工智能(AI)一起參與團體遊戲,遊戲目標是在短時間內收集所有蘋果,看 AI 之間合作如何。在遊戲初段,尚有大量待收集蘋果時,AI 們群策群力合作愉快,直到蘋果所餘無幾時,它們學會了侵略性手段,開始攻擊其他 AI 以獲取所有蘋果。AI 不通人性,但師承人類,同樣懂內訌內耗。

哥倫比亞大學 Creative Machines Lab 的主任 Hod Lipson 認為這次研究是一極佳例子,反映多個 AI 互動的後果:「人們總是掛心 AI 最終會否對人類做出甚麼來,但這次和以往類似研究告訴大家,AI 也可以對同類不利,而這並不限於軟件程式,實體 AI 同樣如此——想像一下美國公民自由聯盟的無人機怒睥警方的無人機……一定會很有趣。」