關注生命倫理 正視社會歪風

大數據的傲慢與偏見

好書推介
07/01/2020

《大數據的傲慢與偏見:一個「圈內數學家」對演算法霸權的警告與揭發》
WEAPONS OF MATH DESTRUCTION: HOW BIG DATA INCREASES INEQUALITY AND THREATENS DEMOCRACY
作者:凱西.歐尼爾(Cathy O’Neil)
譯者:許瑞宋
出版地:台北市
出版:大寫出版
出版年份:2019年

《大數據的傲慢與偏見》的作者從小熱愛數學,其後取得數學哲學博士學位,曾在大型對沖基金公司擔任量化分析師。作者一度認為數字是公平及客觀的,但隨著2008年的全球金融海嘯引發經濟崩潰,這信念便瓦解,她描述自己「上了可怕的一課,了解到數學可以如何暗中為害、毀滅世界。」大家都相信程式設計師和統計學家的數學分析,卻很少人質疑統計系統如何運作,它們又是否公平公正。數學——其實可以成為毀滅性武器。

作者走訪了中小學、大學、法院、職場、投票站,為大家揭示所謂客觀的評估其實一點也不客觀。例如在教育方面,美國政府以學生的分數來釐定老師的質素,但作者指出數字並不能說明一切,一位有心力有能力的好老師也可以敗在評分系統上。老師的表現雖然有可能影響學生的成績,但影響學生成績的因素還有許多,包括家庭問題、經濟壓力或個人形象。單單透過演算法歸納人的行為、表現及潛力,並非容易的事情。作者更提到一位經驗豐富的老師,有一年被紐約公立學校增值模型給了六分,第二年卻有96分,兩年來,這位老師都一如既往的盡力。如果不是這位老師的合約是終身制,這位好老師早在只得六分的那年被辭退了。另一位優秀的老師由於她的合約不是終身制,即使她得到校方及學生家長的讚賞,卻因為被增值模型打了一個奇差的分數,而要被迫要離開任職的公立學校。校方願意推薦這位傑出的老師到另一個富裕社區的學校任教。作者諷刺的說:「拜一個非常可疑的模型所賜,貧窮社區的學校失去了一名好老師,富裕社區一間不會根據學生的分數開除教師的學校,則得到了一名好老師。」

由於美國大眾極度「擁護」數字,美國的大學也受到影響。自從《美國新聞》在1988年公佈了第一份仰賴數據的大學排名,當中的排名變成了一種國家標準,大學都想被加分,以致本來的特色都不再重要,反而致力於改進由報社所制定出來的15項準則,這無疑讓教育制度走進一個僵化的模型。有些大學為了推高學校的排名而出錢讓學生重考SAT考試(由美國大學理事會提供的考試);有些直接捏造數據;有些選擇建設豪華的宿舍和健身房。這些費用當然會轉嫁到學生身上。1985年至2013年,美國高等教育成本增加超過500%,學生的借貸也變得愈來愈沉重。

讓人人都有機會接受高等教育是好事,但在美國,有很多「文憑工廠」,目標精準地鎖定為比較容易上當的清貧人士。很多人都在網絡留下足印,一經分析,富人或窮人,以及他們的喜好或需要很容易被劃分出來,精準廣告會出現在不同階層人士的眼前。「文憑工廠」的廣告會說服生活艱苦的人,文憑可以改變他們的生活,可惜的是這些文憑得不到社會承認,入讀大學而來的借貸只會令窮人的生活百上加斤。

數據化時代,亦代表著人人被監視,無所遁形的時代。美國充斥著不少收集市民資訊的公司,以供其他人付費查閱:如Experian、Acxiom、RealPage等,問題是它們所提供的資料不一定精準。不準確或未及時更新的資料可能剝削了居民應有的權利,有位女士便是其中的受害人,她申請老人院時被拒,事緣是RealPage在網上顯示了她的被捕記錄,事實是她的確曾被捕,但卻沒有留下案底,該項記錄亦早已從政府的資料庫中被刪除了。作者指出這些數據公司只管收集市民的資訊,卻不願花時間更新他們的資料,影響了不少人的名譽或權益。

工作方面,為了找出有創意、有智慧和魄力的人才,Gild這類人力資源公司不單會分析員工的履歷表,還會留意他們在網絡上曾否跟相關人才作交流,看看他們是否該領域的活躍人才。作者認為此法並不周全,雖然未至於成為數學毀滅性武器,但隨著數據世界持續地擴張,僱主如何解讀潛在員工在網上發放的生活動態,值得大家留心。另外,作者建議在美國找工作的人,最好不要拖欠信用卡賬單,因為有調查顯示,接近一半的美國僱主在選擇應徵者時,會檢視其信用報告。有時候,拖欠債務可能是事出無奈或一時疏忽,並不能完全反映員工的責任感出了問題,只是當中原因未能在大數據中顯示出來。

作者並非打算推翻統計工具及數據,她只是想喚起大眾的警覺性,知道它們如何對社會造成不公,特別讓低下階層的人成為被追擊的對象,她提出「大數據模型將某種歷史狀態寫進程式裡。它們並不創造未來。創造未來需要『道德想像力』(moral imagination),而那是人類才有的。我們必須明確地將比較好的價值觀寫進演算法,創造出在道德上聽從我們領導的大數據模型。有時候這意味著我們必須重視公平甚於利潤。」

這本書讓讀者明白大數據並不如大家想像的那麼客觀或中性,作者邀請大家多作思考如何善用手中的利劍,才可以讓它們為人類服務,而不是反過來讓它們掌控人類。