電影「鐵甲威龍」(Robocop)劇照,主角為機器戰警。
電影「鐵甲威龍」(Robocop)劇照,主角為機器戰警。

美國達拉斯(Dallas)早前發生警民衝突,事源槍手對黑人被警殺死深深不忿,故此展開復仇,狙擊 5 名白人警察。對峙多時後,警方派機械人放置炸彈,炸死槍手。是次槍擊案中,除了種族衝突,警方以機械人殺死兇徒的手法亦激起社會爭論。有論者警告:讓機械人替警方行殺人任務,可帶來嚴重的潛在危機。為何此事會引來各界激辯?機械人警察又是否維持社會秩序的未來?

在上星期美國達拉斯的槍擊案中,5 個白人警察遇害,當時,警方圍堵美軍背景的槍手 Micah Xavier Johnson 後,經過長時間對峙,最後決定派遣遙控機械人引爆炸彈,殺死槍手。雖然以往美軍也有使用戰鬥機械人的經驗,但這次是美警史上首次遙控機械人以炸藥殺犯,故此惹來社會關注

事後,當地警方解釋,派遣機械人是唯一方法,「其他手段只會令警察再次身陷險境。」雖然在行動中,達拉斯警方對機械人和炸彈仍有遙距操作權,而且合情、合理、合法。可是,不少人害怕此先例會打開「潘朵拉盒子」,令炸藥機械人的使用常規化,甚至出現配備武器的人工智慧機械人警察(Robot Cops)。像美國 Santa Clara 大學的科技道德學者 Shannon Vallor 指出:「這帶來的可能性讓人不安:機械人殺人常規化,這種新式遙距執法行為,將廣泛使用。」

EquipmentImage_412
上圖是是次行動中警方所使用的機械人:Remotec Andros Mark V-A1,由軍火商 Northrop Grumman 製造。警方透過遙距操作,安置及引爆炸藥,殺死兇徒。

涉事的機械人 Mark V-A1 在美國執法部門十分普及,不過通常多數負責拆彈,從未有以殺人目的之用。但其實現時的機械人功能繁多,就像 Mark V-A1,其最高武力能夠配上特製的散彈槍,又或 X-Ray 掃描機等工具。換言之,機械人充分具備殺人能力,只是現在還受人類控制——即代表,機械人的行動正確與否,基於使用者判斷。

Vallor 警告:「我們必須正視這種殺傷力大、又危險的殺人方式。」目前已有美國商場購入機械人警察,巡視環境時意外使小童受傷。將來,機械人將愈來愈頻常在各個崗位輔助人類,難免帶來潛在危機。日趨成熟的機械人自動化技術,更使此議題變得逼切,無論在法律還是道德上,都需要考慮:誰要負上決定使用自動或人工智能機械人殺人的後果和責任?

另外,網絡安全的問題亦不可忽略。現時,戰鬥機械人正在軍事用途發展,例如殺人無人機、檢測到體溫會自動射擊的槍械機械人等。此等軍事科技威力巨大,不禁令人恐懼——不只是敵人,連自己人也有可能遭殃:萬一出錯,或者當機械人走向數據化,連接網絡,就有被入侵的可能,黑客輸入指令,能使機械人調轉槍頭,射擊己方。

電影「智能叛侶」(Ex-Machina)中,人工智能(AI)有了意識,決意為爭取自由而倒戈對付製造者。雖然,現階段仍看似沒可能,但是未來,當 AI 演化出如同人類的思想和判斷力,再加上機械人警察的執法地位,社會是否比以前和平?這又是否維持社會秩序的未來呢?

我們應當恐懼。如 Vallor 所說:「科技經常超越法律及道德規限,所以需要確保警察機械人的使用,符合已經搖搖欲墜的正義、安全和公信。」

  • Knightscope 公司出產的機械人警察,廣告短片。