經典的倫理學思想實驗「電車難題」設定了兩難的處境，一輛電車正在高速駛來，而你握有軌道轉換器的操縱桿，火車僅有的兩條軌道上分別躺了一人與五人。如果電車繼續行駛，將輾過五個人，但你可以拉下操縱桿，使電車轉向，變成輾過一個人：你願意用一個人的生命換取五個人嗎？
這個倫理難題的核心思想其實是在問，是否應該犧牲少數人來成全多數人。通常是引伸探討實用主義與道德義務論之間的差異，前者主張犧牲少數人來達到最大效益，後者則認同「不可以殺人」是道德義務，所以寧可犧牲五人也不能主動殺一人。
這個問題一直是在問「人」，因為人類就是唯一的道德主體，你總不能期待一頭牛能回答道德難題。但現今出現另一個能夠回答、也需要回答這個問題的對象 —— AI。雖然嚴格上，現行的「人工智能」未達到真正「智能」的水準，只是處理速度稍快的程式，但已差不多進入實用的階段，在某些情況下無可避免要面對道德難題，尤其是自動駕駛系統。
所謂「自動駕駛」，從字面上來看，只不過是讓車子自己動起來的技術，從「沿著車道動起來」的要求來看，自動駕駛技術已經可以投入市場。但擋在自動駕駛面前的高牆不是「動起來」，而是法律與道德問題。例如自動駕駛車輛出現交通意外後，應該由 AI 系統工程公司、車廠、抑或根本沒有在駕駛的駕駛者負責？在解決這個問題前，自動駕駛永遠無法成為商品。
若文首的「電車難題」轉換成交通意外場景，等於詢問自動駕駛 AI 應該優先保護駕駛者抑或路面使用者。試設想在電光火石間，車輛只能選擇直駛，撞上障礙物；或者扭軚剷上路面。前者會導致駕駛者死亡；後者會殺死路人。這個 AI 應該如何選擇？車廠應該如何設定這個 AI？法律該如何規管這設計？
如果以實用主義方法設計，自動駕駛 AI 應該選擇人命傷亡最少的結果 —— 然而這個結論是基於「所有人命都是同價」的原則上。大家心裡都明白，人命其實不是同價的。在交通意外的人命選項裡，如果天秤的另一方是政府要員，那你就輸定了。
再多推一步，「自動駕駛 AI 技術」如果搭上「社會信用系統」以及「大數據分析」，交通意外裡的人命選擇，可能只基於你當天早上在社交媒體所發表的幾條動態。道德選擇很可怕，但將道德選擇外判更可怕。所以民主投票很重要，把一切都交給系統而自己不聞不問，與自殺沒有分別。在交通意外中撞車，與政治選擇中撞車，兩者最壞的結果都是死。
當大家以為 2020 年已經是想像的界限，但說不定數碼龐克的世界在今天才悄悄開始。
