當價格由 AI 制定,人類將成待宰羔羊?

A+A-

名導演占士 .金馬倫的經典科幻電影「未來戰士」,描述人工智能網路「天網(Skynet)」過度進化引發核武戰爭,造成全人類的終極滅絕。這樣的描述或許過於驚悚,但現實生活中,AI 帶來的威脅恐怕早已存在你我身邊,甚至我們毫無知覺。

場景拉到電腦前。當你瀏覽著各大購物網站,精打細算地比較著同一部手機在不同平台上的價格時,這些網站背後的演算法,正速度飛快地記錄並分析你的每一個細微動作,好作為下次定價時的參考。

這個看似平凡不過的動作,很可能造成人類未來的大麻煩。

根據四位意大利博洛尼亞大學(University of Bologna)經濟學家發表的最新研究顯示,當蓬勃發展的電商網站,把定價機制交給演算法來決定,最終的結果,很可能是不同的演算法彼此串連,共謀提高價格後,在市場上形成壟斷,迫使消費者必須接受此定價。

這個令人震驚的研究過程如下:研究人員設定兩套簡易的人工智能演算法,在同一處環境中同步互相競爭價格,並以此獲取利潤。過程中,兩套演算法會先相互廝殺,但在割喉式流血殺價後,演算法出現了奇特的變化,從原本的競爭關係改為合作,共謀提高價格,最終導出一個市場壟斷者的定價。

這個結果與三十年前的一項研究不謀而合:1984 年,密芝根大學(University of Michigan)教授 Robert Axelrod 出版的著作「合作的競化The Evolution of Cooperation)」,就描述一場電腦扮演競爭賣家的「囚徒困境」比賽。實驗結果證明,最好的做法就是採用懲罰威脅,好讓合作得以持續。

在絕大部分國家,聯合同業壟斷市場價格都是相當重的罪。問題是,當 AI 根據演算法邏輯,推導出囚徒困境是最佳解難法,從而制定出違法的壟斷性價格時,誰該為此結果負責?

在美國,聯邦交易委員會(Federal Trade Commission)已經在思考未來的可能性,但答案似乎是「沒有人需要負責」。因為法規明定,共謀協議非得要夠明確、具體才算是非法行徑,心照不宣的共謀行為不成問題。

事實上,演算法的失控,不完全是意外,而是在最初設計的架構中就存在著瑕疵,有些甚至是根據人類本身的弱點,讓你防不勝防。

你家裡的聯網雪櫃知道你餓了,所以幫你訂購薄餅,這是一項貼心的服務。但如果它趁著你脾氣暴躁、血糖低落時,開始對著你播放強迫推銷的廣告,因為這個時間點的成效最高,那就涉及到不正當的商業行為了。

黑暗網路:匿名地下社會的第一手臥底調查Dark Net: Inside the Digital Underworld)」作者 Jamie Bartlett 就警告,未來會出現超級個人化的宣傳文案。

當科技突飛猛進,人類在享受速度、服務與效率的同時,恐怕也無法忽略隱藏在背後的惡意與危機,除了司法機關必須加速認知到舊有法規的局限性之外,企業本身也需要有足夠的應對能力,來預防危機,保障消費者權益。否則 AI 帶來的將不再是便利,更可能是包裝著糖衣的災難。