美國達拉斯(Dallas)早前發生警民衝突,事源槍手對黑人被警殺死深深不忿,故此展開復仇,狙擊 5 名白人警察。對峙多時後,警方派機械人放置炸彈,炸死槍手。是次槍擊案中,除了種族衝突,警方以機械人殺死兇徒的手法亦激起社會爭論。有論者警告:讓機械人替警方行殺人任務,可帶來嚴重的潛在危機。為何此事會引來各界激辯?機械人警察又是否維持社會秩序的未來?
在上星期美國達拉斯的槍擊案中,5 個白人警察遇害,當時,警方圍堵美軍背景的槍手 Micah Xavier Johnson 後,經過長時間對峙,最後決定派遣遙控機械人引爆炸彈,殺死槍手。雖然以往美軍也有使用戰鬥機械人的經驗,但這次是美警史上首次遙控機械人以炸藥殺犯,故此惹來社會關注。
事後,當地警方解釋,派遣機械人是唯一方法,「其他手段只會令警察再次身陷險境。」雖然在行動中,達拉斯警方對機械人和炸彈仍有遙距操作權,而且合情、合理、合法。可是,不少人害怕此先例會打開「潘朵拉盒子」,令炸藥機械人的使用常規化,甚至出現配備武器的人工智慧機械人警察(Robot Cops)。像美國 Santa Clara 大學的科技道德學者 Shannon Vallor 指出:「這帶來的可能性讓人不安:機械人殺人常規化,這種新式遙距執法行為,將廣泛使用。」
涉事的機械人 Mark V-A1 在美國執法部門十分普及,不過通常多數負責拆彈,從未有以殺人目的之用。但其實現時的機械人功能繁多,就像 Mark V-A1,其最高武力能夠配上特製的散彈槍,又或 X-Ray 掃描機等工具。換言之,機械人充分具備殺人能力,只是現在還受人類控制——即代表,機械人的行動正確與否,基於使用者判斷。
Vallor 警告:「我們必須正視這種殺傷力大、又危險的殺人方式。」目前已有美國商場購入機械人警察,巡視環境時意外使小童受傷。將來,機械人將愈來愈頻常在各個崗位輔助人類,難免帶來潛在危機。日趨成熟的機械人自動化技術,更使此議題變得逼切,無論在法律還是道德上,都需要考慮:誰要負上決定使用自動或人工智能機械人殺人的後果和責任?
另外,網絡安全的問題亦不可忽略。現時,戰鬥機械人正在軍事用途發展,例如殺人無人機、檢測到體溫會自動射擊的槍械機械人等。此等軍事科技威力巨大,不禁令人恐懼——不只是敵人,連自己人也有可能遭殃:萬一出錯,或者當機械人走向數據化,連接網絡,就有被入侵的可能,黑客輸入指令,能使機械人調轉槍頭,射擊己方。
電影「智能叛侶」(Ex-Machina)中,人工智能(AI)有了意識,決意為爭取自由而倒戈對付製造者。雖然,現階段仍看似沒可能,但是未來,當 AI 演化出如同人類的思想和判斷力,再加上機械人警察的執法地位,社會是否比以前和平?這又是否維持社會秩序的未來呢?
我們應當恐懼。如 Vallor 所說:「科技經常超越法律及道德規限,所以需要確保警察機械人的使用,符合已經搖搖欲墜的正義、安全和公信。」
- Knightscope 公司出產的機械人警察,廣告短片。