科研學習要在道德課之後?

A+A-
圖片來源:路透社

矽谷曾有一信條:「先建構,再求原諒」重點旨在快及有創見,往後有甚麼問題才補救,但在建構時沒有考慮周全,往後的麻煩愈來愈多。因科技不只是單純一個新技術出現,更影響不同的道德倫理層面,所以美國各大學正打算先從行業未來人才着手,設立類似於醫學倫理的電腦科學道德倫理課程,以改善科技所牽涉的道德難題。

科技不只是科技

大型科技公司一直努力處理道德的後遺,如 Facebook 上的假新聞、Twitter 的假冒追隨者、YouTube 的猥褻兒童影片等,種種都有違建構時的初衷,更令矽谷各大公司面臨道德危機,這同時警誡他們在驗證及審核問題上需要更為注意。紐約大學數據科學中心的博士後助理 Laura Norén 這個學期開始教授新的數據科學倫理課程,他說:「我們至少要教會人們:當你想走得更前並創新時,應想想當中的黑暗面。軟件可以修補,但如果某人的聲譽受損,你就無法補救了。」

至於貴為電腦科學行業學術中心的史丹福大學,明年亦將開辦電腦科學道德課程,暫取名為「道德、公共政策和電腦科學」,參與課程籌備的大學電腦科學系教授 Mehran Sahami 曾提拔 Facebook 的創始人朱克伯格,亦曾在 Google 擔任高級研究科學家。他指出課程希望培訓下一代技術人員和決策者,在推出自主武器(autonomous weapons)或無人駕駛汽車等產品前再三思量,「識別出未來十年我們預計會出現的問題,從這裡畢業的學生,以後不得不面對這些情況。科技不能獨善其身,建構科技時所作的選擇,都會對社會產生影響。」如自主武器及無人駕駛汽車如何避免觸犯法律,而若是誤傷他人,責任誰屬等。

建立電腦科學的道德倫理

設立電腦科學道德課在美國已成新趨勢,哈佛大學和麻省理工學院(MIT)在這個學期亦會聯合舉辦人工智能的道德與規範課程,內容側重於人工智能的道德、政策和法律影響。部分資金來自新成立的人工智能道德研究基金,捐助者包括 LinkedIn 的共同創始人 Reid Hoffman、eBay 創始人 Pierre Omidyar 及慈善投資公司 Omidyar Network。

教授兩校聯合倫理課程的 M.I.T. 媒體實驗室總監伊藤穰一舉例,像電腦演算法可以通過分析大量數據來自主學習,這樣的強大工具普及化的話 ,最終可能會改變人類社會,所以大學急於幫助學生了解其潛在的後果。他說:「當我們開始看到自動駕駛汽車有能力拯救人類,但又會造成傷害時,我認為這是人們加緊建立一套道德體系的原因。」

課程還涵蓋了數據(資料)演算法風險評估,例如一個人是否曾經被停學,他的朋友有沒有被捕紀錄,以預測他是否有可能犯罪。伊藤說希望由這門課能激勵學生提出基本的道德問題,如:技術是否公平?如何確保數據沒有偏見?機器應該評審人類嗎?

康乃爾大學信息科學助理教授 Karen Levy,亦正教導學生更關注科技公司應有的道德規範。Levy 說:「許多有道德責任的決策與公司做出的選擇有關:他們選擇開發哪些產品,他們採用甚麼策略來處理用戶數據,如果數據科學倫理培訓完全側重於數據科學家的個人責任,那就可能忽視影響更大的企業角色。」

這些新的道德課程涵蓋人工智能和自動化機械、私隱、公民權利、政策以及社交平台等主題。史丹佛大學政治學教授 Rob Reich 表示,將要求學生從軟件工程師、產品設計師和決策者的角度去考慮這些話題,而學生也要把理想中的解決方案,轉化為電腦代碼。