未來報告:一早知你係兵係賊?

A+A-
電影「未來報告」便是講述如果一個人被認為有犯罪可能(還要是百發百中的先知認定),有甚麼下場。

美國各州警方逐步引入數據挖掘(Data Mining)及演算法(Algorithm),預測何時何地最有可能發生罪案,當然系統最關注的是「誰」最有機會犯案了。不論在大型群眾活動或防止罪案,其實各地警方早有採用模擬推論,而且也有該區「心水」目標人物,不過用到大型數據系統結合模擬推算,自然又再掀起關注。但說穿了,爭論與系統無關,只是警察誠信能否服眾的問題吧?現在香港警方說要全天候保護朱凱迪,香港人會信這是保護還是監視呢?

現時,美國已約有 20 個州(包括紐約市、芝加哥及洛杉磯)的 50 間大型警局,採用這種預測型監察系統(Predictive policing)。民權團體及技術研究組織們便聯署聲明,批評這預測式監察系統,認為該軟件經常採用偏頗或不完整的數據,合理化警方,讓其在警力過度的地方再加強執法,騷擾社區。刑事司法改革專家認為,做法或有種族偏見及過度監管。

這種預測式監控系統,必然引起人權私隱及社會治安的衝突,再加上美國警察近期的表現,確實引起激烈反彈。聯署聲明認為預防式監察系統,只會進一步惡化歧視問題。

系統並不是首次遭到批評,在 8 月時,芝加哥的系統被指費時失事,無所作為,並不能阻止城市的槍擊風波:警方羅列有高犯罪機率(特別是槍械暴力)的人,製成「策略人物列表」,讓電腦分析推演。但有報告指出名單中的人,更有可能成為槍擊受害者,多於拿槍殺人,認為警方誤定監視目標。而芝加哥警方回應記者時,指出報告的發現已經無效,因為該套預防式治安系統已經更新了數次,並經 RAND 檢測程式,現已大大改善了。

美國警方表現飽受批評,圖為己採用預測性監察的紐約警方。(圖片來源:路透社)
美國警方表現飽受批評,圖為已採用預測性監察的紐約警方。 圖片來源:路透社

電腦不壞,問題在人

但話說回頭,警方採用預測式的監察防治,其實遠早於電腦及相關程式的出現,密芝根大學的數據科學家 H.V. Jagadish 表示。警方會在大型公眾活動調動人手資源,也會根據過往數據作預測,例如,部門會預計參加人數,發生罪案的潛在機率、及需要派多少人手。這種預防式監察,問題不在於採用大數據或電腦程式,而是低估這做法會引起的人權問題,「警方也須要認知,系統指出的機會率(Probabilities),而非必然(Certainties)」,Jagadish 說道。

至於因為可能侵犯人權及造成偏見為由,便要求警方避免使用相關的軟件,Jagadish 認為這並不明智,他認為警方須清楚認知這防治工具對於人及社群的影響,「你總不能說,不理過往模式,也不做任何事。預防式監察的確引來不少人權問題討論。我想這也是問題,因為起步時,不少警察部門只是看到其正面之處,而並不深入細想其負面影響。」Jagadish 還預測式監察系統一個公道,說明了系統中立,只是有人在開初判定潛在罪犯時,因各種偏見出了問題。

電腦可以中肯推演,未來如果結合人工智能,會否可以取代人類,公正不阿地認真預測誰是誠信守法的好人,誰是腦中滿載歪念的壞人?