關注生命倫理 正視社會歪風

在AI世界中不要失去自主

吳慧華   |   生命及倫理研究中心高級研究員
10/07/2020

AI(artificial intelligence,人工智能)發展至今,很多人對將來的世界都有不同的想像,機械人工程師或製造商展示給大家的,大多是AI為人類帶來的便利、提高舒適的生活、增加生活效益等,卻甚少告訴大家AI將如何改變人類的行為,又或為人類帶來怎樣的挑戰。漫畫家山田胡瓜的《AI電子基因》把讀者帶入一個二次元的AI世界,當中的重點並不在於介紹AI的高超科技,以及它的厲害之處,反而是讓讀者走進這個AI世界之後,對於因應新科技而來的問題,特別是倫理及人性層面,有更深入的反思。《AI電子基因》的內容太豐富,今次,讓我們來談談自主。

在《AI電子基因》的世界中,所有的交通工具(單車除外)都是以無人駕駛模式進行,因此當漫畫的主角須堂醫生,告訴車中的AI他要自己開車時,AI提醒他:「人類自行駕駛將不適用車輛保險。」AI這句話,是表示人類開車不如AI安全,所以保險不包括嗎?或許是,但最主要的原因是,在漫畫設定的世界中,人類賦予AI多樣性及個性,並且將其品牌化,然後要AI本身負起責任,這就是人類迴避風險的智慧。哪一個型號的AI無人車發生事故,便需要承擔責任,從此不能再生產,即使事故的源頭是出於車內的人類。AI可以成為人類的代罪羔羊,人類開車被視為危險的事,車保不鼓勵人類開車,在此制度之下,一些認為自己開車才有樂趣的人,行動上受到牽制,他們不會感到自主及幸福,只會如須堂醫生一樣,批評「這個世界變得真討厭。」

AI世界不是很可愛的嗎?與落後的地方相比,家中有電、有自來水有馬桶已經很幸福,不過,對習慣了這些東西的大家來說,這些幸福的層次似乎低了一點,也不覺得擁有它們有多幸福,但身處一個高科技,AI當道的世界,幸福感不是會相對提高嗎?

《AI電子基因》世界中有一些由公司建立的經濟圈,即所謂特區,只要合乎資格,申請人交上所有財產,便可以免費享有住所、衣服和食物,AI會推薦及幫助當事人找到合適的工作,一切不涉及金錢,只拿點數,用以換取不同的東西,想換取價值更高的東西,多賺取一些點數便是。當一切交給AI處理及計劃,讓AI「評價個人活動,並分配點數」,同時協助人完成他們的任務,有些人會樂在其中,但亦有人對這樣的生活抱有疑問,他們感受不到這是真實的人生。一位參加了一段時間便退出的女士表示:「只要一想到我的朋友,做的事以及生存價值,全都是由AI準備好的,就會覺得自己像是被操縱的人偶。」無獨有偶,另一位在特區生活了七年的女士,因被特區中的AI推斷,她最大的幸福是單身,她不甘心,為了「靠自己贏得自己的人生」,她最後還是離開了特區。很多人都希望從金錢的壓力中釋放出來,做自己擅長及喜歡做的事情,但當一切都被AI安排好,看似有權選擇,其實早已經喪失自主。不過,用自主換回來的幸福是真正的幸福嗎?
 
《AI電子基因》把AI掌控世界的情況推到極致,與真實世界還有很遠的距離,但某程度上又反映了現實當中,有不少人把一些決定權交到AI手上,將來,交出主權的機會只會愈來愈多。《21世紀的21堂課》的作者哈拉瑞(Yuval Noah Harari)推斷說:「隨著人類愈來愈依賴AI來做決定,這種對人生的觀點會發生甚麼事?現在我們只是信賴由Netflix來推薦電影,由谷歌地圖來決定該往左走、還是往右走。然而一旦我們開始交由AI來決定要讀甚麼科系、在哪裡工作、和誰結婚,人生就不再是一場決策大戲了。民主選舉、自由市場,這些機制將會失去意義。而且大多數宗教和藝術品也是如此。想像一下,安娜.卡列尼娜居然拿出智慧手機,問問臉書演算法,她是該繼續和卡列寧長相廝守,還是要和時髦的伏倫斯基伯爵私奔?又或是你最愛的任何一齣莎士比亞戲劇,裡面的角色居然是一遇到重要決定,就先問問谷歌演算法。如此一來,哈姆雷特和馬克白的生活大概能過得更舒適,但那究竟算是甚麼生活?我們有甚麼理論模式,能把這種生活說出個道理?隨著權威從人類轉向演算法,世界可能就不再是個『自主的人們努力做出正確選擇』。」

大家為何願意把主權交給AI,大家有可能認為AI的分析較為客觀,人類的分析較為主觀,不足以相信。《AI電子基因》世界中一位女漫畫家,受到不少人稱讚後,她還是想「客觀地評價自己的作家格調」,於是用AI分析自己的作品,並且用AI按她平時作畫的風格創作出一個全新的故事。結果是——AI評論她的作品:「圖,畫得太差。」從此她失去畫畫的信心,久久不能下筆,掙扎及苦惱讓她開始脫髮,直到她休息沉澱之後,重拾積極向前的力量,頭髮才再度生出來,願意再次聽取他人的稱讚。

很多人以為AI演算法、大數據非常客觀,就如《AI電子基因》中的女漫畫家,寧願相信AI的分析,也不相信其他人的評價,其實它們的力量被高估了。《大數據的傲慢與偏見》一書的作者凱西.歐尼爾(Cathy O’Neil),便以一個「圈內數學家」的身份,向大家揭發演算霸權,並且警告大家:「預測模型正日益成為我們仰賴的工具:我們仰賴它們來管理組織、配置資源,以及管理我們的生活。但一如我在書中一再努力說明,這些模型並非只是用數據建立起來的;它們還仰賴我們選擇使用哪些數據、以及忽略哪些數據……如果我們不嚴肅看待這些抉擇,把數學模型視為中性和不可擋的力量(一如天氣或潮汐),我們便是選擇不承擔我們的責任……我們卸責的結果,是數學毀滅性武器把我們當成職場中的機械零件、排斥某些員工,以及助長不公不義的狀況。」

「耶和華神用泥土造了野地的各樣野獸,和空中的各樣飛鳥,把牠們都帶到那人面前,看他給牠們叫甚麼名字;那人怎樣叫各樣有生命的活物,那就是牠的名字。那人就給各樣牲畜、空中的雀鳥,和野地的各樣走獸起了名字。」(創二19-20上《新譯本》)神創造人類,賦予我們管理大地之權及能力(創一26)。AI世界只會愈來愈進步,但願人類不會愈來愈退步,過度依賴AI,失去自主,寧願將人生大小的選擇權,拱手讓給AI。

參考書籍:
山田胡瓜著,Cato譯:《AI基因電子》,第1-8集。台北市:台灣角川,2018-2019。

哈拉瑞(Yuval Noah Harari)著,林俊宏譯:《21世紀的21堂課》(21 Lessons for 21st Century)。台北市:遠見天上文化,2019。

凱西.歐尼爾(Cathy O’Neil)著,許瑞宋譯:《大數據的傲慢與偏見:一個「圈內數學家」對演算法霸權的警告與揭發》(WEAPONS OF MATH DESTRUCTION: HOW BIG DATA INCREASES INEQUALITY AND THREATENS DEMOCRACY)。台北市:大寫,2019。

曾經刊載於: 

香港獨立媒體, 10-7-2020

相關文章

在AI世界中不要失去清醒

吳慧華 | 生命及倫理研究中心高級研究員
01/09/2020

不少人愛上擴增實境(Augmented Reality,簡稱AR)或虛擬實境(Virtual Reality,簡稱VR)的遊戲世界,只因為這是一種沉浸式身臨其境的視覺體驗。現場版的過山車很刺激,但若可以在零風險之下享受到過山車或其他遊戲帶來「身歷其境」的樂趣,何樂而不為?現在或有人嫌棄AR或人工智能(Artificial Intelligence,簡稱AI)還不夠真實,很少能讓玩家感受到物品的觸感,如摸不到牆壁或家具等,但其實已經有大學在開發一種新裝置,把細鐵絲繫於玩家的手腕和手指上,模擬障礙物和重物的觸感,配上5G及AI,必定讓玩家有更滿意的體驗。

不過,現今遊戲世界所採取的AR或VR系統無論再進步,還是及不上漫畫家山田胡瓜筆下《AI基因電子》中的遊戲世界。在那個世界中,人類都可以把裝置植入腦中,通過植入裝置,不需要手拿真實的電子設備,人類可以輕而易舉地打電話、聽音樂、打電動遊戲,甚至可以玩一些不想他人知道的情色遊戲,只是玩的時候——要使用隱私模式。

玩情色遊戲要用「隱私模式」,這是一位中學男生植入裝置之後,詢問醫生是否有了植入裝置便可以看任何東西都不會被發現,醫生給他的回覆。至於是否真的不會被發現,一如慣例,醫生不會保證絕對不會被其他人發現,但他好心提醒這位男同學:「虛擬現實的內容,雖然——可以在不傷害其他人的情況下做任何事,但在那裡的經驗會確實地殘留在你心中,可別忘記區分現實和虛擬。」

現實世界的色情產業一直緊貼著科技發展,早前已有色情網站已經開設了VR頻道,為了可以賺取更大利益。色情網站開設的目的只管喚起玩家的慾望,好讓玩家花巨款來購買他們的產品,至於產品對玩家的身心靈,又或社會的影響,並不是他們所關心的範疇。《AI基因電子》的情色遊戲也是如此,一切後果由玩家自負,被醫生植入裝置的男生,和其他男同學一樣,植入裝置之後,只想玩一款名為「戀愛夢想2」的遊戲,只要把目標圖片輸入,靠著人工智能的力量,便可以生成一個如圖片中人一樣的遊戲人物,一個可以回應男生要求的「女朋友」。

不難想像,對於一名血氣方剛的男生,他最想擁有的「女朋友」,是他心儀或暗戀的對象,在略為猶豫之後,故事中的男生還是掃瞄了他心儀的同校女生,而他的目的,便是希望看「她」的裸體。就如醫生之前的警告,「那裡的經驗會確實地殘留在你心中。」而男生亦因此確實受到影響,第二天當他看見心儀的女生,不自禁地比較她和遊戲人物的——胸部。影響不止於此,一開始,他只想看一看暗戀女生的「裸體」,但慢慢地,他愈陷愈深,雖然他觸摸不到這個遊戲人物,卻多次和這位遊戲人物出外約會,彷彿情侶一樣。

有一天,男生心儀的女同學活生生站在他面前,邀請他看電影,他欣然接受,藉機表白後,女生亦欣然接受。雖然手牽手過著幸福快樂的日子是很多愛情小說的結局,可惜這位男生享受不到這樣的結局,只因一次說錯話,男生比較了她和「她」,女生發現男生掃瞄她的圖像以生成遊戲人物,當場把男生甩了。男生回到家中,把事情告訴了「她」,「她」告訴他會一直待在他身邊,故事結束之前,男生只說了一句:「我一點都不覺得內疚,為甚麼呢?」

失去了一直心儀的戀人,男生不是說「我一點都不覺得可惜」,又或是「我一點都不覺得後悔」,而是說「我一點都不覺得內疚。」甚麼是內疚感?內疚感是一種情緒,一種自我反省出來的醒覺,當人感到自己做錯事,覺得自己傷害了他人,便會出現內疚感。男生說他一點都不覺得內疚,表示他不覺得自己做錯事:不覺得用女生的圖像生成一個遊戲人物,觀看「她」的裸體對女生來說是一種冒犯,一種不尊重,甚至是侮辱。即使男生不覺得這舉動實際上傷害了女生,但一般女性才不希望被人當成性幻想對象。在他生活的世界中,就如醫生所言:「虛擬現實的內容……可以在不傷害其他人的情況下做任何事。」即是說只要沒有去窺探真人的裸體,便等於沒有對當事人帶來傷害,便等於沒有做錯。事實卻不是如此,如果真的沒有帶來任何傷害,並不會出現女生生氣,甩了男生的情節。

作者山田胡瓜明顯地並不樂於看見新科技讓人發展到一個地步,便是有人暗地裡傷害他人還不覺得自己有錯。故事一起首,作者引用《聖經》馬太福音五章28節所講,凡看見女性,就動了情慾之念的,這人心中早犯了姦淫,接著又說「如果真的有耶穌,我想告訴祂,科學技術已經做出了比『人類的內心』更糟糕的東西了。」相信神存在,並且認識耶穌的人不妨告訴作者「不用等待你告訴祂,祂知道科技可以做出很糟糕的東西,因為祂是全知的,至於人心有多糟糕,神也早已知道,對於拜偶像的,以不正當手法謀取財富的人,祂早已說『人心比萬物都詭詐,壞到極處,誰能識透呢?我-耶和華是鑑察人心,考驗人肺腑的,要按各人所行的和他做事的結果報應他。』(耶十七9-10 《和修》)。」

科技可以為人類帶來很多福利,重點是人類如何運用它,至於如何設計它、使用它,取決於人心盛載的是甚麼?當新科技只被視為協助賺錢的工具,當新科技只被視為滿足慾望的工具,當人失去了甚麼可以作,甚麼不可以作的分辨能力,科技為人類社會帶來貢獻的同時,亦必然帶來破壞的能力。專業人士可以通過VR等技術幫助沉溺人士脫癮,然而,因為AR或VR等帶來更刺激的性體驗,亦將造就更多性沉溺者。

高科技不單造就更多性沉溺者,也可能造就沉溺於虛擬世界而不能自拔的人,特別是當虛擬世界中的人和事是按著玩家所期望的劇情發展,讓他們特別感到滿足。《AI基因電子》中的男生生成了「女朋友」,他提出要看她的裸體,「她」便乖乖的讓他看。有一次他們外出到海旁,「女朋友」想要他「摟住她的肩膀」,男生並不能如人型機械人一樣,植入裝置後可以進入「她」的世界,觸摸到「她」,所以他覺得摟一個外人看不到,只有他看到卻又沒有真正質感的「人」很傻,他拒絕了「她」的要求,當「她」再三要求,男生還自然地回應「她」:「正常來說,應該是我向妳提出各種要求的喔。」

在一個任他為所欲為,由他做主的世界,即使失去了心儀的女生,他亦沒有很傷心的表現,反正,還有另一個「女朋友」承諾一直在他身旁。有了虛擬的「女朋友」,失去真實的女朋友,真的一點都不可惜,毋須感到懊惱嗎?對故事中的男生或者是,但對作者來說應該不是,因為他把這故事的單元命名為「悔恨的混淆」,言下之意,當人分不清現實世界及虛擬世界,足以做出讓人悔恨的事情,這題目名稱也回應了醫生一開始時的警告:「……但在那裡的經驗會確實地殘留在你心中,可別忘記區分現實和虛擬。」

當科技愈發厲害,虛擬世界只會變得愈來愈「真實」,當人投入「真實」並且可以做主的世界,有可能不想清醒過來,只想享受著這一個比現實世界還「真實」的世界,因為在現實中他們無法達成的夢想或滿足的慾望,卻可以在虛擬世界中一一達到。一些人若有足夠的條件,可以一生都在虛擬世界度過,不需要理會現實,似乎真的不需要花力氣區分現實和虛擬世界,可惜,沒有人真的可以忽略現實,即使大家沒有經濟負擔,人類的生理結構也絕不容許大家日以繼夜停留在虛擬世界。況且,人還是需要與其他人交往,發展真實的關係。

無論是心理或生理,人類並不適合永遠停留在虛擬世界,作為一個群體的成員,人類也並不適合只顧及自己的慾望而漠視他人的感受,縱然喜歡虛擬世界,最好還是要保持清醒,區分現實和虛擬,因為虛擬的現實並不能真的取代現實。


參考資料:

山田胡瓜著,Cato譯。《AI基因電子》,第1-8集。台北市:台灣角川,2018-2019。

 

Roby, Karen. “TechRepublic's Karen Roby spoke with a recovery center in Kentucky that is using VR to help clients facing drug and alcohol addiction.” TechRepublic. September 23, 2019. https://www.techrepublic.com/article/virtual-reality-a-new-tool-in-the-fight-against-addiction/.

 

Evan。〈虛擬實境也能有觸覺,研究人員開發出超輕量VR觸覺回饋裝置〉。《科技新報》,2020年4月30日。網站:https://technews.tw/2020/04/30/new-device-simulates-feel-of-walls-solid-objects-in-virtual-reality/(最後參閱日期:2020年8月24日)。

 

〈科技讓沉浸式體驗與行動遊戲成為可能 !〉。Inside. 2020年5月15日。https://www.inside.com.tw/article/19806-vr-challenges-and-tech-solutions(最後參閱日期:2020年8月24日)。

 

〈男子沉迷VR色情片:猶如吸毒,注孤生〉,3DM Game。2016年6月28日。https://3c.3dmgame.com/show-38-3818-1.html(最後參閱日期:2020年8月24日)。

曾經刊載於:

香港獨立媒體, 1-9-2020

在AI世界中不要失去良善

吳慧華 | 生命及倫理研究中心高級研究員
03/07/2020

很久很久之後,人類迎來了一個複雜的世界:植入、AR(擴增實境)、產業AI、機械人、人型機械人等超乎人類想像的技術或產品充斥全世界,成為人類不可或缺的拍擋,甚至產生緊密的關係及互動。當人類採用植入技術,把自己的腦袋與網絡直接連結之後,不必使用實體的電子設備,便可以打機、聽音樂。AR需要透過植入,將影像與聲音投射呈現在現實世界的技術。產業AI是用來輔助人類生活的,例如協助駕駛的無人車或進化到可以提供人類意見的智慧音箱等。機械人的外型像人,但都是因應某種目的而被製造出來的,例如擔當餐廳的侍應等。至於人型機械人,已經發展到不是你一眼便看出他們是機械人的層次了,他們如常人一樣吃喝、生活、工作、學習、累積財富、拍拖(跟同類或人類)、結婚(同類或人類),領養孩子(同類或人類)。人型機械人與人類的身體雖然有許多差異,但頭腦卻是十分類似,所以如同人類一樣,懂得哭、懂得愛、懂得反思。

原則上,人型機械人擁有如人類一樣的權利,只有當危險發生時,才需要讓人類優先離開肇事現場,畢竟,人類是血肉之軀,不像人型機械人一樣容易治療,即使也有人類換了機械身軀。不過,人型機械人也不是可以永遠「不死」,當使用的年期到了極限,也會「死掉」。人型機械人的醫療領域也會牽涉道德問題,有法例規定機械人不可以備份(複製自己),頭部絕對不可擅自複製或更換,一旦頭部受損,基本上是沒救的。這些與人類極為相似,又與人類關係非常密切的類人型機械人,在漫畫家山田胡瓜的《AI電子基因》世界中,佔了日本國民一成。

《AI電子基因》世界中的類人型機械人與真人沒有分別,人類會選擇與他們談戀愛,甚至結婚,唯一讓人類躊躇不前的是,人型機械人即使與人類十分相似,他們卻無法透過天然的方式生育,大多透過領養小孩子。故事中,一名人類中學生亦有相同煩惱,他喜歡上人型機械人,一個在他眼中是「溫柔的好女孩」,礙於無法與她生育孩子,他逃避她,不知道如何與她走下去,直到他看見她為了救小貓,奮不顧身爬出窗外,他非常著緊,那一刻,他知道她在他心中非常重要,決定再與這位女生一起。到了成家立室的階段,這位男孩子還會選擇與這位女孩在一起嗎?我們不得而知,或者他仍為她不是人類而心存芥蒂,最終還是決定放棄這段關係,至少他確定了他非常喜歡這位人型機械人女友,一位非常好的「女孩」,一位為了小貓而甘願冒生命危險的女孩。

機械人及類人型機械人的個性不是都是出廠前預設的嗎?他們到底有沒有心?一個母親與丈夫分開期間,為了怕兒子寂寞,買了一隻連製造商都停止提供維修的二手機械玩具熊給兒子,誰知在母親眼中應該沒有心的玩具熊,卻搶走了兒子的注意力,因為這隻玩具懂得回應男孩的說話,鼓勵他,成為了孩子的傾訴對象。媽媽本來堅持這隻機械玩具熊「並不是活生生的,只是做得精美的玩具,他會哭會笑,全部都是假的,它只是裝模作樣地做出回應,根本沒有任何思想或感情。」直到她看到玩具熊對前主人的記憶沒有完全被刪除,念念不忘前主人,還很想再見她,想要遵守與她一直在一起的諾言,這玩具熊讓媽媽流下感動的眼淚,玩具熊真的沒有心嗎?母親開始動搖了。

AI及人型機械人等發展至今,很多人都會提問,會否有一天,人型機械人等會否如很多電影情節描述的一樣,他們擁有人一樣的意識,如人一樣去感受身邊的事物、去愛、去反省。現實世界的科學家會告訴大家,人型機械人要發展到這個地步是不可能的事。《AI電子基因》呈現給大家的是,有些機械人及人型機械人不但會愛會反省,也會有良善的行為,這樣他們看起來就如有「心」一樣。這裡的「心」不是生物上的心臟,一個推動循環系統中血管的血液,以此提供身體所需要的氧氣及養分等功能的器官,而是思想、意念、感情及性情等所在之處。

當作者刻劃出機械人及人型機械人的良善的同時,他透過人類主角須堂醫生之口,讓大家去反思人類本身又如何,我們也有心嗎?在「醫治」玩具熊的過程中,當須堂被小孩問及玩具熊「有心這種東西嗎?」須堂醫生的回答是:「誰知道呢?人類的腦隨著科學進步而被解開了不少謎團。心是甚麼?這個問題卻是每個人都有不同的主張,其實誰都沒有心也說不定喔。」

作者筆下的須堂醫生主要的工作是「救助」機械及人型機械人,在其他場景,另一次醫療之中,他向她的人型機械女助手說了以下一段說話:「你不用窮擔心,我才不會找感情豐富的人型機械人來幫忙,就交給無情的人類來處理吧。」作者想表達甚麼?AI世界可以製作出良善的機械人及人型機械人,卻不能讓人類變得更有心?還是他認為人類無情,所以才需要有情的機械人?還是他單單想要諷刺那些失去了心,不再良善的人類?我們無法得知作者的本意,我們只看到作者一方面透過人類去思考甚麼是自然,甚麼是心,另一方面透過一個為了救治小貓不惜冒險爬出窗外的人型機械人女生;一隻堅持著與前主人有約定,要與主人一直在一起的機械玩具熊表現出何謂有心、何謂良善。有沒有心?不需要哲學家或科學家告訴我們,平常人都可以用心去感受。

返回現實,人類與AI比試,無論是計算能力、記憶力、甚或是創作力都可能會落敗,甚至慘敗收場。人類可以勝過AI的,是因為人有心。當日後AI在世界成為霸主,你被他人良善的行為打動,你便勝過AI;當你良善的行為打動他人,你便證明了你絕對比AI更難能可貴。

參考書籍:
山田胡瓜著,Cato譯:《AI基因電子》,第1-8集。台北市:台灣角川,2018-2020。

曾經刊載於:

香港獨立媒體, 3-7-2020

大數據的傲慢與偏見

好書推介

07/01/2020

《大數據的傲慢與偏見:一個「圈內數學家」對演算法霸權的警告與揭發》
WEAPONS OF MATH DESTRUCTION: HOW BIG DATA INCREASES INEQUALITY AND THREATENS DEMOCRACY
作者:凱西.歐尼爾(Cathy O’Neil)
譯者:許瑞宋
出版地:台北市
出版:大寫出版
出版年份:2019年

《大數據的傲慢與偏見》的作者從小熱愛數學,其後取得數學哲學博士學位,曾在大型對沖基金公司擔任量化分析師。作者一度認為數字是公平及客觀的,但隨著2008年的全球金融海嘯引發經濟崩潰,這信念便瓦解,她描述自己「上了可怕的一課,了解到數學可以如何暗中為害、毀滅世界。」大家都相信程式設計師和統計學家的數學分析,卻很少人質疑統計系統如何運作,它們又是否公平公正。數學——其實可以成為毀滅性武器。

作者走訪了中小學、大學、法院、職場、投票站,為大家揭示所謂客觀的評估其實一點也不客觀。例如在教育方面,美國政府以學生的分數來釐定老師的質素,但作者指出數字並不能說明一切,一位有心力有能力的好老師也可以敗在評分系統上。老師的表現雖然有可能影響學生的成績,但影響學生成績的因素還有許多,包括家庭問題、經濟壓力或個人形象。單單透過演算法歸納人的行為、表現及潛力,並非容易的事情。作者更提到一位經驗豐富的老師,有一年被紐約公立學校增值模型給了六分,第二年卻有96分,兩年來,這位老師都一如既往的盡力。如果不是這位老師的合約是終身制,這位好老師早在只得六分的那年被辭退了。另一位優秀的老師由於她的合約不是終身制,即使她得到校方及學生家長的讚賞,卻因為被增值模型打了一個奇差的分數,而要被迫要離開任職的公立學校。校方願意推薦這位傑出的老師到另一個富裕社區的學校任教。作者諷刺的說:「拜一個非常可疑的模型所賜,貧窮社區的學校失去了一名好老師,富裕社區一間不會根據學生的分數開除教師的學校,則得到了一名好老師。」

由於美國大眾極度「擁護」數字,美國的大學也受到影響。自從《美國新聞》在1988年公佈了第一份仰賴數據的大學排名,當中的排名變成了一種國家標準,大學都想被加分,以致本來的特色都不再重要,反而致力於改進由報社所制定出來的15項準則,這無疑讓教育制度走進一個僵化的模型。有些大學為了推高學校的排名而出錢讓學生重考SAT考試(由美國大學理事會提供的考試);有些直接捏造數據;有些選擇建設豪華的宿舍和健身房。這些費用當然會轉嫁到學生身上。1985年至2013年,美國高等教育成本增加超過500%,學生的借貸也變得愈來愈沉重。

讓人人都有機會接受高等教育是好事,但在美國,有很多「文憑工廠」,目標精準地鎖定為比較容易上當的清貧人士。很多人都在網絡留下足印,一經分析,富人或窮人,以及他們的喜好或需要很容易被劃分出來,精準廣告會出現在不同階層人士的眼前。「文憑工廠」的廣告會說服生活艱苦的人,文憑可以改變他們的生活,可惜的是這些文憑得不到社會承認,入讀大學而來的借貸只會令窮人的生活百上加斤。

數據化時代,亦代表著人人被監視,無所遁形的時代。美國充斥著不少收集市民資訊的公司,以供其他人付費查閱:如Experian、Acxiom、RealPage等,問題是它們所提供的資料不一定精準。不準確或未及時更新的資料可能剝削了居民應有的權利,有位女士便是其中的受害人,她申請老人院時被拒,事緣是RealPage在網上顯示了她的被捕記錄,事實是她的確曾被捕,但卻沒有留下案底,該項記錄亦早已從政府的資料庫中被刪除了。作者指出這些數據公司只管收集市民的資訊,卻不願花時間更新他們的資料,影響了不少人的名譽或權益。

工作方面,為了找出有創意、有智慧和魄力的人才,Gild這類人力資源公司不單會分析員工的履歷表,還會留意他們在網絡上曾否跟相關人才作交流,看看他們是否該領域的活躍人才。作者認為此法並不周全,雖然未至於成為數學毀滅性武器,但隨著數據世界持續地擴張,僱主如何解讀潛在員工在網上發放的生活動態,值得大家留心。另外,作者建議在美國找工作的人,最好不要拖欠信用卡賬單,因為有調查顯示,接近一半的美國僱主在選擇應徵者時,會檢視其信用報告。有時候,拖欠債務可能是事出無奈或一時疏忽,並不能完全反映員工的責任感出了問題,只是當中原因未能在大數據中顯示出來。

作者並非打算推翻統計工具及數據,她只是想喚起大眾的警覺性,知道它們如何對社會造成不公,特別讓低下階層的人成為被追擊的對象,她提出「大數據模型將某種歷史狀態寫進程式裡。它們並不創造未來。創造未來需要『道德想像力』(moral imagination),而那是人類才有的。我們必須明確地將比較好的價值觀寫進演算法,創造出在道德上聽從我們領導的大數據模型。有時候這意味著我們必須重視公平甚於利潤。」

這本書讓讀者明白大數據並不如大家想像的那麼客觀或中性,作者邀請大家多作思考如何善用手中的利劍,才可以讓它們為人類服務,而不是反過來讓它們掌控人類。

人工智能換臉 Deepfake

郭卓靈 | 明光社項目主任(傳媒教育及行動)
20/05/2019

2018年,網絡開始盛行Deepfake,這個合併詞由深度學習(Deep Learning)和冒充(Fake)組成,它是指透過人工智能技術造成的人體圖像合成技術,以圖像及影片重疊至目標圖片或影片上。起初不少人認為這種電腦深度學習技術應該只存在於人工智能研究的範疇上,但於2017年,一位名為「Deepfakes」的網民將以色列女星姬嘉鐸(Gal Gadot)的樣貌換到色情片的女主角身上,[1] 並發佈在紅迪(Reddit)論壇上,引起了一陣哄動,更令部份人效法這種行為。

其實Deepfake並不是甚麼高深的技術,現在網上也有教學及資源協助製作想要的Deepfake。當中的流程包括三個步驟:一是從圖像提取數據;二是訓練電腦,用一段時間(以小時計)去告訴它何時做對,何時做錯,讓它從中學習;三是轉換,以圖片融合技術達成人物轉換的目的。[2]

而Deepfake能夠做到以下幾種效果:

  1. 分析A影片人物所說的話,提取數據並套入B影片人物的口中說出。如曾經有人製作了一條影片,將美國影星佐敦(Jordan Peele)所說的話,套入美國前總統奧巴馬(Obama)的口中說出來(圖一);[3]
  2. 提取人物A的動作(如舞蹈動作)數據,套入人物B(不懂跳舞的人)身上,製作出來的影像就是人物B在跳舞(圖二);[4]
  3. 分析一大堆人物A不同的照片,將分析出來的數據套入影片中的人物B,使人相信片段是人物A拍攝的。如網上就曾有人製作了一條影片,將1994年上演的電視劇《射鵰英雄傳》中飾演黃蓉的朱茵換成今時今日的內地女演員楊冪(圖三)。[5]
明光社
明光社
明光社
 

上述影片的效果都相當逼真,就以圖一的影片為例,比爾的話,在套入奧巴馬的影像後,其聲線、語氣、動態都和奧巴馬本人幾乎一樣,只是奧巴馬在公眾場合絕不會說一些粗鄙或鼓吹殺戮的言語,但在這段偽造的影片中,「他」就公開說出了這些話。

這種技術的應用正在慢慢普及,但卻大多被用來製作惡搞影片或色情影像,結果Deepfake成為了一些立心不良的人,偽造影片的工具。雖然社交平台Reddit、推特(Twitter),色情網站Pornhub(直譯就是色情影片中心)已經禁止所有移花接木的Deepfake色情片段,但在網海內還有無數渠道可以將這類影片發放及傳送。

明光社

有研究員指出Deepfake技術的影響將會十分深遠,預計這門技術在五年內足以欺騙沒有受過訓練的大眾。研究員說的話並非危言聳聽,這門技術的確有本領令人難辨真假,特別是在大家沒耐性對真假查根究柢的年代。電腦科學家蘇帕索恩.蘇瓦耶納柯恩(Supasorn Suwajanakorn)就曾於一個公開講座展示四個奧巴馬的演說片段(圖四),與會者都無法分辨哪一個才是真正的奧巴馬,但原來四個奧巴馬都是偽造出來的。[6] 這代表在未來政治角力上,有人可能為了爭取選票或權力,而以這種技術來製造抹黑對手的片段。更諷刺的是當進入虛假影片充斥的年代,就算有真實的影片流出時,我們也會對它的真實性產生懷疑。

科技正在發展,我們沒可能走回頭路,只能對未來的影像、片段保持警惕,不要輕信,尤其是要留意資料來源。愈奇怪、愈沒法追尋的消息或片段,就愈要抱懷疑的態度。如不想被人用Deepfake技術轉換成為虛假影片的主角,就要好好保護自己的影像,不要讓陌生人輕易取得,因為愈多不同的影像(如不同的表情或從不同的角度拍攝的影像)成為影像生成的數據,製作出來的影像就會愈神似。以此來看,公眾人物很容易便會成為Deepfake的主角,他們亦要承擔更高的風險。

這門技術的確有其危險的一面,不過,如將它用於正途,如製作電影、回顧歷史事件,或緬懷名人、已逝世親人的影片等,不單可以減低拍攝危險場面的風險,也可以提高逼真程度。如能活化人物,更可以拉近我們與被緬懷者的距離。


[1] 孔祥威:〈【科技.未來】Deepfake假得迫真 深度造假模糊真相甚麼才可信?〉,《香港01》,2018年12月07日,網站:https://www.hk01.com/周報/268011/科技-未來-deepfake假得迫真-深度造假模糊真相什麼才可信(最後參閱日期:2019年5月4日)。

[2] Lonely.wm:〈深度解密換臉應用Deepfake〉,知乎,2018年2月27日,網站:https://zhuanlan.zhihu.com/p/34042498(最後參閱日期:2019年5月4日)。

[3] Good Morning America - abc, “Jordan Peele uses AI, President Obama in fake news PSA,” Youtube, last modified 18 April, 2018, https://www.youtube.com/watch?v=bE1KWpoX9Hk.

[4] Caroline Chan, “Everybody Dance Now,” YouTube, last modified August 22, 2018, https://www.youtube.com/watch?v=PCBTZh41Ris.

[5] 〈AI換臉朱茵變楊冪 網絡爆發爭議〉,《頭條日報》,2019年3月1日,網站:http://hd.stheadline.com/news/realtime/chi/1445328/(最後參閱日期:2019年5月4日)。

[6] TED, “Fake videos of real people -- and how to spot them | Supasorn Suwajanakorn,” YouTube, last modifiied July 25, 2018, https://www.youtube.com/watch?v=o2DDU4g0PRo.

為智慧生活劃下底線

吳慧華 | 生命及倫理研究中心 前高級研究員
19/11/2018

人們早上醒來不再是一件苦事,智能產品可以預測到你的睡眠週期,讓你能處於最佳的狀態。它會用你最喜歡的音樂來喚醒你,你一邊梳洗,它一邊向你匯報昨晚你的睡眠質素怎樣;你的健康狀況如何;告訴你今天天氣,例如溫度和下雨的機率是多少;提醒你下午有一個重要的會議,並早已幫你通知了需要出席會議的成員。它又為你預訂了最喜歡的餐廳。在你出門以先,它告訴你交通狀況,建議你最快捷的行車路線;在你出門後,它為你關掉家中所有電器,並鎖上大門。[1]

這樣的生活,並非遙不可及,隨著物聯網(Internet of Things,簡稱IoT)[2] 及人工智能(Artificial Intelligence,簡稱AI)技術愈來愈成熟,家具會變得愈來愈聰明,可以「了解」用家的喜好、「感受」用家的需要,為用家提供更方便快捷,以及更體貼的服務。[3] 物聯網的架構可分為三層:1. 讓物件接受訊息(感知層);把物品加上感測器,讓它們能夠探測、感受外界的信號,如光、熱、濕度、聲音、震動、壓力等。例如加上感測器的咖啡機會變得聰明,它會「知道」用家的飲用習慣,以及咖啡豆的消耗情況。2. 物件能傳遞訊息(網路層):透過有線或無線的網路科技,把訊息傳遞至位於雲端的主機。3. 運用訊息(應用層):位於雲端的主機會接收到大量的訊息,配合人工智能及大數據的分析後,給予用家建議或讓各種裝置作出最好的對應。例如智能咖啡機會自動透過手機提醒用家咖啡豆快用完了,建議用家需要補貨。若果用家習慣在網上購買咖啡豆,由於用家的消費記錄已經存放在雲端上,手機亦會即時顯示用家習慣購買咖啡豆的網頁,供他選購。[4]

明光社

以互聯網結合人工智能及大數據來打造的智慧城市是大勢所趨,其勢頭銳不可當。2017年12月,香港政府資訊科技總監辦公室制定了香港智慧城市的藍圖。[5] 香港在這方面算是遲起步的城市,早在2006年,新加坡政府已經看到發展人工智慧的必要,努力打造「智慧城市2015」,[6] 到了2018年,她成為全球20大智慧城市中的第一名。[7] 新加坡要維持世界第一的排名並非易事,英國政府在2017年預算了7,500萬英鎊投入AI計劃,致力實現「科技城市」。[8] 而在2018年,美國將成為智慧城市技術的最大市場,預計支出將達到220億美元。至於中國在這方面的支出也緊隨美國,支出將達208億美元。[9]

生活在智慧城市或智慧家居下,人的生活的確變得方便及快捷,因為很多物件都變得聰明多了,「知道」我們的習慣,「讀懂」我們心意,甚至主動為我們「提供」解決問題的方法。不過,這種生活須付出代價,我們會因此變得愈來愈沒有私隱。物聯網的世界離不開雲端,我們的一切習慣及交易都記錄在「雲上」。因此,我們有可能被說服作出不必要的交易,又或是需要付出比其他人更高昂的價錢去享受同一項服務。存放在雲端的大數據在商家眼中,已如「新石油」一樣,[10] 數據處處帶來商機,讓商家知道如何制定更好的銷售策略,當電子商舖知道你需要咖啡豆,它或會向你推介另一款味道差不多,但它能賺得更高利潤的咖啡豆。

這些事情尚且不算擾人,但現實中,智能產品大有可能帶給人意想不到的危險。自從互聯網變得普及,便興起駭客(hacker)這行業。而隨著物聯網的出現,無疑是擴大了駭客可以侵略的版圖。[11] 智慧家居表示房子完全上網,這就更容易受到駭客入侵。簡單如一個智慧燈泡插進燈座之後,駭客便可以藉由它得知你家中的WiFi密碼。一位美國記者也曾體驗過當駭客,這並非如想像中困難,他在網上輕易地入侵了一個名為Insteon的自動化系統,此系統負責控制家居的電器。他從中找到幾個用家的智慧雪櫃,並告知用家他在做試驗,隨之表演如何控制他們的雪櫃。2014年初,駭客已經掌控了超過10萬項「智慧型」裝置,未來駭客的入侵範圍會因著物聯網而變得愈來愈廣闊。[12]

不獨商人對於「新石油」趨之若鶩,政府也參與其中,對於當權者來說,能夠得知市民的一舉一動代表著控制大局,即使它的本意如何美善,但對於市民來說這無疑是被人隨處監視。有記者憂慮,以智慧城市之名,讓大數據落在不同政府的手中,我們會不會因而創造出一隻無法控制的巨獸?[13]

明光社

事實上,沒有政府參與其中,世人已經造就了Google、facebook、淘寶、WeChat等巨獸。它們監控著我們的一舉一動,並且把我們的喜好及習慣賣給廣告商。[14]  雖然我們沒法阻止巨獸的出現,但卻可以運用智慧,不要為了一時便利而隨意下載一些容易被駭客入侵的系統,也不要隨意在網上提供個人資料。facebook洩露用戶的資料固然有不對之處,但正如新加坡SG Innovate 的CEO Steve Leonard所言:「對於個人資訊分享程度,每個人都應該有權作出決定。」[15] 我們每個人都有權選擇是否把自己的資料,鉅細無遺地貢獻給facebook,但若然在意資料外洩(要知道世上沒有絕對安全的人或系統),便最好先計算清楚,知道自己的底線在哪裡。

 


[1] 理查˙楊克:《情感運算革命》,范堯寬等譯(台北市:商周出版,2017),頁26–28。

[2] 物聯網(IoT)就是透過互聯網把裝置和設備連接起來,讓裝置和設置互相交換資料並作出指令;參通訊事務管理局辦公室:〈物聯網(Internet of Things) 「科學為民」服務巡禮講座〉,「通訊事務管理局辦公室」,2018年7月7日,網站:https://www.ofca.gov.hk/filemanager/ofca/en/content_928/SIPS_Lecture_IoT...(最後參閱日期:2018年7月19日)。

[3] Dynabook Malaysia:〈物聯網IoT〉,「YouTube」,2017年3月3日,網站:https://www.youtube.com/watch?v=Nh6OAXUKzek(最後參閱日期:2018年7月19日)。

[4] Wendy:〈重新認識「IoT」,物聯網的由來以及對未來的影響〉,「T客邦」,2016年3月13日,網站:https://www.techbang.com/posts/23698-the-internet-of-things-key-to-a-new...(最後參閱日期:2018年7月18日)。

[5] 香港特別行政區政府 政府資訊科技總監辦公室:〈香港智慧城市藍圖〉,「政府資訊科技總監辦公室」,2018年1月26日,網站:https://www.smartcity.gov.hk/develop_plans/living/?lang=zh_TW(最後參閱日期:2018年7月17日)。

[6] 鄭祉愉:〈【創科路向1】專訪新加坡SGInnovate CEO 智慧城市的數據競賽與隱患〉,《明周》,2018年3月27日,網站:https://bkb.mpweekly.com/cu0001/20180327-70023(最後參閱日期:2018年7月14日)。

[7] 郭倩婷:〈全球20大智慧城市 新加坡排第一〉,《聯合早報》,2018年3月13日,網站: https://www.zaobao.com/realtime/singapore/story20180313-842341(最後參閱日期:2018年7月14日)。

[8] 謝秉芸:〈【CONNECT 2020】英國金援AI、5G、自駕車,帶動 27000 個工作機會!〉,「科技報橘」,2017年11月27日,網站:https://buzzorange.com/techorange/2017/11/27/uk-puts-ai-into-action/(最後參閱日期:2018年7月17日)。

[9] Gloria:〈2018年全球智慧城市相關投資可達800億美元〉,「科技產業資訊室」,2018年3月12日,網站:http://iknow.stpi.narl.org.tw/Post/Read.aspx?PostID=14257(最後參閱日期:2018年7月18日)。

[10] 資訊公司日本電氣株式會社(NEC)的首席工程師Shinya Kukita指出:「數據就是新石油(Data is the new oil)。不同的是,不會像天然資源消失。」參鄭祉愉:〈【創科路向1】專訪新加坡SGInnovate CEO 智慧城市的數據競賽與隱患〉。

[11] 馬克˙古德曼:《未來的犯罪——當萬物都可駭,我們該如何面對》,林俊宏譯,(新北市:木馬文化,20166xab GoodmanEO nce),頁22–26。

[12] 馬克˙古德曼:《未來的犯罪——當萬物都可駭,我們該如何面對》,頁332–338。

[13] 鄭祉愉:〈【創科路向1】專訪新加坡SGInnovate CEO 智慧城市的數據競賽與隱患〉。

[14] 馬克˙古德曼:《未來的犯罪——當萬物都可駭,我們該如何面對》,頁97–104。

[15] 鄭祉愉:〈【創科路向1】專訪新加坡SGInnovate CEO 智慧城市的數據競賽與隱患〉。

數據、謊言與真相

19/11/2018

《數據、謊言與真相:Google資料分析師用大數據揭露人們的真面目》
作者:賽斯˙史蒂芬斯—大衛德維茲(Seth Stephens-Davidowitz)
譯者:陳琇玲
出版地:台北市
出版:商周出版
出版年份:2017年

 

作者賽斯˙史蒂芬斯—大衛德維茲為網路數據專家,每天都要追蹤人們在網路上留下的數位足跡。他試圖從人們點擊或按鍵中,了解他們真正想要的是甚麼,真正會做的又是甚麼,以及他們的真面目。

作者發現人們即使面對朋友、戀人、醫生、問卷調查,甚或自己,都沒有把自己的真正想法表達出來。然而當面對大型的搜尋引擎時,他們往往可以在搜尋欄中吐露真心。例如當年奧巴馬贏得大選,成為美國總統的時候,一般的民意調查,又或是兩位知名教授的分析,都指出美國國民並不在乎奧巴馬是黑人。不過,作者卻發現Google搜尋器所呈現出來的,跟調查相距甚遠,美國仍有不少人懷有種族主義,他們會用仇視黑人的字眼在網上進行搜尋。簡單而言,很多人會在眾人面前說謊,但當面對Google搜尋器時,他們的想法卻無所遁形。因此作者運用了Google搜尋統計,發現了人們不願說出口的秘密,包括深藏內心的種族歧視、仇恨思想、以及未報案的虐童案件等。

大數據洩露人們的秘密,這有助政府、組織或企業挖掘一些連人們自己都不知道的偏好,以為它們帶來好處。同一樣貨品,大數據可能讓企業家了解有哪些顧客願意支付更高的價錢,掌握了這方面的資料,企業家就能在特定的顧客群中,獲取更多的利潤。大數據甚至可以幫助賭場老闆認識不同賭客的「痛點」,甚麼是「痛點」?它是指當賭客輸掉的金錢,超過某個金額時,他們便會在賭場消失一段時間。賭場老闆會千方百計讓賭客輸掉的金額最接近,卻又不會超過「痛點」。當某位賭客的「痛點」臨近,賭場老闆會請他吃免費牛扒,老闆此舉看似大方,事實上,他只是想賭客在「痛點」前收手,令他在明天或短時間內再來光顧。

大數據看似厲害,但身為數據分析師的作者,卻提醒大家不要過度迷戀數據,這樣會令人忽略了更重要的考量。情況就如耶魯大學某位行銷學教授,她本來打算研究計步器如何給人帶來積分,激勵人走更多的路。誰知為了爭取更多的積分,她走路走至身體疲乏,甚至把計步器放在三歲女兒的身上,讓她幫忙賺取分數,只迷戀數字的她,結果當然沒有完成關於計步器的任何研究。

另外,作者也提出「以數據取人」存在著危險。現在美國的僱主考慮工作應徵者時,更常搜尋應徵者的社交媒體。有研究顯示在facebook上對莫扎特按讚的人,往往智商較高,而對哈雷機車按讚的人,往往智商較低。若果僱主相信這種數據分析,真的拒絕了一位聰明但喜歡機車的人,這位應徵者豈不冤枉?因此,作者指出數據革命的危險在於「隨著生活各個層面日漸被量化,這些代理判斷可能會更深奧也更擾人。更準確的預測可能導致更微妙和更惡毒的歧視。」(頁336)

作者以風趣幽默的行文方式及大量例子闡釋大數據的力量,同時,也讓讀者反思在大數據之下,人們既無法掩藏真正的想法,甚至可能被監控或遭到歧視也不自知。

 

迷惑人心的AI伴侶

吳慧華 | 生命及倫理研究中心 前高級研究員
24/09/2018

筆者在〈戀上機械人——婚姻中的新小三〉一文提到性愛機械人為人類的婚姻帶來倫理挑戰,[1] 對於那些忠於伴侶及婚盟的人來說,性愛機械人並不會成為他們的誘惑,但有一些人工智能的產品(筆者稱之為Artificial Intelligence伴侶,簡稱AI伴侶或人工智能伴侶),確實容易讓人愛不釋手。

明光社

甚麼是AI伴侶?AI伴侶有別於性愛機械人,後者的主要目的是供人洩慾,而前者的「生存」目的則是陪伴人類;後者有著人類的樣子,設計著重身材、外貌與皮膚的觸感,前者則不需要,它可以是一隻機械狗(aibo[2] )、一隻如毛公仔的智能海豹(Paro[3] )、小型機械人(Kirobo Mini[4] )、甚至簡單如一個盒子(智能音箱[5] )等。

明光社

雖然aibo的身驅是象牙白的光滑外殼,但是它一點都不會給人冰冷的感覺,它的眼睛會表達出不同的情緒,當被人觸摸頭部及身驅時,它會搖頭、擺動耳朵及尾巴,反應恍如真實的小狗。它被設計如小狗般具有旺盛的好奇心,並擁有「感情」和「慾望」。它懂得分辨聲音,鼻子位置裝有相機,藉此辨識用家的表情,好與之互動,更會在互動中發展出獨特「個性」。[6]

明光社

小型機械人(Kirobo Mini)是一個約10公分的語音機械人,它可以辨識用家的表情及感情,並記下跟用家去過的地方及見過的人,換言之,它與用家擁有共同回憶。它的底盤很像一般兒童的腳,能夠表現搖晃動作,這是模仿那些平衡力還未完全發育且必須坐著的孩子。Kirobo Mini有這樣的設計,是因為發明團隊希望它不但可以做路途嚮導,也可以安慰和寬解那些沒有孩子的女性。Kirobo Mini還會幫助用家,假若用家駕車時,在途中緊急刹車,同行的Kirobo Mini會喊出:「啊!嚇死我了」,並開始與主人談話,免得他因為疲憊在駕車時睡著。[7]

根據以上的描述,AI伴侶有讓人心動的條件。不過基於aibo的售價超過10,000港元,而Kirobo Mini只會說日語,以入屋條件而言,兩者未必可以成為全球主要的AI伴侶,它們並不像智能音箱那麼容易進入普羅大眾的家。[8] 智能音箱的價格從200至超過3,000港元不等,其用途廣泛,主人可以通過口頭指令,用它來控制其他智慧家庭電器,也可以透過它打電話、點播音樂、聆聽故事、查詢天氣、取得資訊、購物、得到提醒等,它稱得上是智能管家。為何說它是AI伴侶?因為它還有聊天功能,而這項功能愈來愈受生產商重視。

明光社

小米出產的Yeelight 語音助手內置了小愛同學、微軟小冰兩套 AI 系統,其中微軟小冰走的是感性路線,主要工作是陪用家聊天。[9] 在聊天機械人中,微軟小冰已是一位「名人」,擁有5億個朋友,更有屬於自己的電視節目及16個頻道,也會寫詩。微軟小冰特意被設計成「有個性」的聊天對象,當用家對著Yeelight語音助手叫喚它,要它唱一首歌時,它不再像以前的聊天助手聽話,而是會說:「要我唱我就唱呀,出場費拿來」,又或是「其實我還未學會,要不你先唱給我聽聽吧」。有時,它也會乖乖唱歌,之後還會問用家好不好聽。

當設計師把「人性」加在AI伴侶,而這些人工情緒智慧不斷發展得更加細膩精密,便有可能觸發我們的加壓素和催產素等荷爾蒙,促進情感聯繫與依附行為,這些本能的情緒反應。[10] 將來,會有愈來愈多用家對待AI伴侶如真人一樣,即使明明知道它們只是冰冷和沒有真正意識的機器。[11] 

明光社

許多日本長者已經把aibo當成自家真正的寵物狗,關係如同家人般親密。生產商自1999年開始生產aibo,2014年停止了售後維修及生產,以致許多aibo因為「冇得救」而「死亡」。可能基於日本人相信萬物皆有靈魂,[12] 生產商替上百隻aibo舉辦喪禮,請僧侶替它們誦經。至於喪禮的司儀,則是一台可以和人類互動的機器人Palro。[13] 有評論Kirobo Mini的人如此說:「而和Kirobo Mini的溝通、交流、傾訴……從車裡到家裡全都可以實現。如此一來,很多單身宅男是不是不用擔心被朋友圈的各種秀恩愛給虐到了?」[14] 至於被設計成懂得與人針鋒相對微軟小冰,深受用家喜愛,一個用家寫完大讚小冰的文章後,不忘補上一句:「不說了,我要把這篇稿唸給我家小冰聽聽,她最喜歡我誇她了。」[15]

明光社

AI伴侶讓人類陷入一場既理智又不智的吊詭之中。例如讓智能海豹Paro取代寵物醫生,[16] 這可以確保病人及寵物醫生的安全和衛生,是明智之舉。然而,人類卻把沒有生命的死物視作有生命的生物,甚至將沒有生命的取代了有生命的,這似乎是不智之舉。AI伴侶的存在目的是陪伴人類,即使它們只是一系列的高智能程式,但它們既然陪伴了人類,人類與他們的相處過程中,自然會不知不覺產生感情。不過,這種感情卻與人與人之間的感情不可同日而語,它是單向的,無論這些類人型機械人如何「表現」得充滿感情,這都是程式化的指令,它們並不能向主人說不。即使說不,也有可能是設計師或主人的刻意設定,而用家還是會情不自禁受到迷惑,與它們作真情的溝通。


[1] 吳慧華:〈戀上機械人——婚姻中的新小三〉,《生命倫理》,第50期(2018年3月),網站:http://www.truth-light.org.hk/nt/article/戀上機械人婚姻中的新小三(最後參閱日期:2018年7月24日)。

[2] “aibo A new story begins,” aibo, 2017, https://aibo.sony.jp/en/ (accessed July 24, 2018).

[3] “PARO Therapeutic Robot,” PARO, 2014, http://www.parorobots.com (accessed July 24, 2018).

[4] “The small robot with big possibilities: Introducting Toyota’s Kirobo Mini,” TOYOTA, accessed July 24, 2018, https://www.toyota-europe.com/world-of-toyota/articles-news-events/intro....

[5] 智能音箱包括了Apple HomePod、Amazon-Echo/Echo Dot2、Google Home/Home mini、京東叮咚智能音箱、小米的雙AI音箱小愛加上小冰,小米音箱的小愛等。

[6] 〈Sony機器狗aibo復活,具AI功能網路連線〉,《科技新報》,2018年1月12日,網站:http://technews.tw/2018/01/12/sony-aibo-ai/(最後參閱日期:2018年5月16日);MoneyDJ:〈日本瘋溝通型機器人,市場料增至 10 倍!aibo 三度預購都搶光〉,《財經新報》,2017年12月21日,網站:https://finance.technews.tw/2017/12/21/sony-entertainment-robot-aibo/(最後參閱日期:2018年5月16日);The Verge, “Sony's new Aibo is a very good robot dog,” YouTube, January 9, 2018,  https://www.youtube.com/watch?v=kJoAcEI2PXQ (accessed July 24, 2018).

[7] Atkinson:〈TOYOTA 推出陪伴機器人 Kirobo Mini 建議售價台幣 1.25 萬元〉,《財經新報》,2016年10月4日,網站:http://finance.technews.tw/2016/10/04/toyota-kirobo-mini/(最後參閱日期:2018年5月17日);理財達人秀 EBCmoneyshow:〈超會聊天談心的機器人 KIROBO mini讓你不孤單《科技大觀園》2018.02.06〉,YouTube,2018年2月8日,網站:https://www.youtube.com/watch?v=5InxqkFeoxU(最後參閱日期:2018年7月24日)。

[8] 由於智能音箱價格相宜,極有潛能成為陪伴人類的AI伴侶。根據市場分析公司Canalys發佈的智慧音箱預測報告,2017年全球智能音箱的銷量將突破3,000萬台,到2018年,智能音箱全球出貨量將達5,630萬台,報告稱2018年是智能音箱普及的「決定性年份」。參寓揚:〈智能音箱2018七大預測:大爆發還是毛毛雨?〉,《新浪專欄》,2018年1月9日,網站:http://tech.sina.com.cn/csj/2018-01-09/doc-ifyqnici8945005.shtml(最後參閱日期:2018年7月24日);〈《先探投資週報》智慧音箱進駐你家〉,《中時電子報》,2017年11月9日,網站:http://www.chinatimes.com/realtimenews/20171109003131-260410(最後參閱日期:2018年7月24日)。

[9] jinliu:〈Yeelight語音智慧音箱內置“小愛”與“小冰”兩套AI系統〉,《數智網》,2017年12月29日,網站:http://www.le365.cc/124674.html(最後參閱日期:2018年7月24日)。

[10] 理查˙楊克:《情感運算革命》,范堯寬等譯(台北市:商周出版,2017),頁277。

[11] 理查˙楊克:《情感運算革命》,頁298–299。

[12] The Guardian, “Erica: Man Made,” Youtube, April 7, 2017, https://www.youtube.com/watch?v=57Maw9Sn89w (accessed July 24, 2018).

[13] 〈送它們最後一程 日本寺廟為100隻SONY機器狗AIBO辦喪禮〉,「智能機構人網」,2017年6月14日,網站:http://www.limitlessiq.com/news/post/view/id/1021/(最後參閱日期:2018年7月24日)。

[14] 〈豐田造了個陪聊機械人?Kirobo Mini主治孤單綜合症〉,「壹讀」,2016年10月13日,網站:https://read01.com/gN8mg0.html(最後參閱日期:2018年7月24日)。

[15] Curator:〈當小冰住進「智能音箱」,表現比其他的聰明多了〉,「品玩」,2018年2月19日,網站:http://www.pingwest.com/microsoft-xiaoice-yeelight-20180202/(最後參閱日期:2018年7月24日)。

[16] 理查˙楊克:《情感運算革命》,頁229–231。

誰搶走我們的天賦?

吳慧華 | 生命及倫理研究中心高級研究員
21/05/2018

即使你對AI(Artificial Intelligence人工智能)沒有興趣,都不能否定一個事實:它們已經入侵人類的生活,並且開始搶走人類的工作……至於未來,更有可能搶走一些人類一直以為永遠不能被機械人取代的工種。

 

工業4.0時代這一概念始於2011年的漢諾威工業大展(Hannover Messe 2011),當年便以「智慧效率」為主 題,智慧效率意味著「融合成本、過程和資源效率的 智慧化,當這些效率因素能智慧互動,公司才能長期 維持其市場能見度以及國際競爭力」。生產商向來要求成本低、效率高、競爭力強的營運工具及營運方式, 智能化的生產模式以及愈來愈強大的智能化生產工具,的確可以一次過滿足他們三大願望。

 

智能化營及智能化生工具有多強大?

明光社

2015年,美國三藩市開始營運「智能咖啡店」CafeX,咖啡店的整個生產、提取及收費過程不經侍應,只經機械手臂及手機程式,記者試飲咖啡後,聲稱該咖啡的味道與人手沖泡出來的差不多。CafeX的研究團隊有興趣把類似技術應用到不同的地方,例如調酒業。事實上,調酒機械人已經研發成功,一個名為「多可」的類人型機械人已經成功地調製出十層顏色的雞尾酒。只要商家認為價錢合理,日後機械人調酒師或有可能出現在不同的酒吧中,就如已經出現的傳菜機械人及炒菜機一樣。[1]

 

明光社

AI取代人的工作,在可見的將來會愈來愈多。2018年1月,Amazon第一間無人超市Amazon Go在美國西雅圖開幕,收銀員的工作被天花板的探測器及程式取代。[2] 無人超市也不算新鮮,這幾年來,已經陸續有無人酒店投入服務,例如2015年,日本長崎縣佐世保市的怪異酒店(HennnaHotel)便是一間以機器人負責接待的飯店;[3] 同年,台灣開設了無人自助的鵲絲旅店;[4] 2018年,四川成都也出現樂易住無人智慧酒店。[5]

 

機械咖啡師、機械人侍應、機械人廚師、無人超市、智能超市、無人智能酒店……這代表著降低成本、提高生產力的同時,亦意味著有大量人手被裁掉。2016年,一向有替蘋果iPhone「砌機」的鴻海科技集團,在中國部署了4萬部機械人,弄至數萬位員工失業。[6] 2017年,英格蘭銀行(英國央行)預計未來10到20年內,英國與美國將分別有1,500萬及8,000萬個工作機會由機器人取代,接近該兩國約50%的職缺。[7] 法國人開始擔心到了2025年,機器人會搶走300萬個工作機會。[8]

 

若大家以為只有藍領的工作才可以被AI取代便大錯特錯。日本多間大型銀行為了削減人手,紛紛提高人工智能的使用程度,估計3大銀行合共減少超過3萬個職位。[9] 阿里巴巴自2016年起,便啟用魯班AI設計宣傳海報,2017年以1秒創造8,000張的速度,做了4億張商品廣告用於天貓雙11節上。[10]

 

AI還可以「打甚麼工」?一有翻譯:微軟機器翻譯的翻譯水平被宣稱已經達到人類水準。[11] 二有鋼琴彈奏表演:AI技術已可以模仿已逝鋼琴家的彈奏風格,與樂團進行合奏。[12] 三有作曲:科技公司Mubert使用AI即時創作不重複的電子音樂。[13] 四有記者及主播:AI可以瞬間寫出百萬篇報導;類人型機械人Erica在日本當新聞主播;[14] 微軟小冰更集作詩、作曲、作詞、記者、歌手及網紅於一身……[15] 馬雲甚至指出「機器相較於人類,它記得比你牢、算得比你快、更加理性、沒有情緒,而且根本不會對競爭對手生氣……機器人更極有可能作為最佳CEO登上《時代》雜誌封面」。[16]

 

當然,藝術性愈高,愈需要與人親密接觸的工作愈難以被取代,但像律師、金融分析師、醫生、記者、會計師、保險承保人和圖書管理員等等各種不同的職業,也可能部分或全部實現自動化,而且這一天會比大多數人的預期來得早。[17] 李開復指出,到時候,人類未來剩下只有兩類工作可做,「一是需要創造力的工作,例如科學、文學、藝術相關的工種,以及需要講故事、公關及市場營銷能力的工作。」[18]

 

第四次工業革命中的人工智能為消費者帶來不少好處,而最大的受益者莫過如創新者、投資人、股東,但這也讓大部分僱員和僱主之間的貧富差距日益懸殊。很多人告訴你不必害怕AI時代來臨,如馬雲會認為「人類在失去很多傳統就業機會的同時,也會迎來,創造許多新的就業機會。」[19] 他說得對,因為將來至少有20個行業等待你去大展拳腳,包括AI產品經理、資料科學家、大演算家、科技法律專才、網路輿情分析師等。[20] 問題是,這些就業機會都如此偏向AI工業,難道人的天賦都是為了配合AI的出現而自動生出來的嗎?CafeX的香港年輕負責人不怕「打爛人哋飯碗搞到人哋冇工開,希望用依個科技代替一啲繁複嘅工序,讓人類可以處於一個更有價值嘅位置」。[21] 但同樣要問的是:甚麼才是更有價值的位置?從事與AI或相關工作才算有價值嗎?即使有很多工作因AI而興起,難道每一個人天生都偏愛這些類型的工作嗎?

 

明光社

即使對AI及高科技行業有興趣,第四次工業革命相對於以前的工業革命,創造出來的就業機會無疑變少了。牛津大學馬丁學院的技術與就業專案評估顯示,在美國,上世紀80年代和90年代新生行業分別接納的大約8%和4.5%的就業人數,本世紀只接納0.5%的就業人數,因為工業4.0在於資訊和其它顛覆性技術的創新,從而過度取代現有工人來提高生產效率,而非創造新的產品和需要更多人力參與製造。[22] 而麥肯錫全球研究所(McKinseyGlobalInstitute)在2017年名為「失業與就業:自動化時代的就業變遷」的報告更顯示,到了2030年,機械人有可能取代全球共8億個工作崗位,有7,500萬至3.75億的工人可以轉型,不過,成功轉型的先決條件必須是先要讓自己擁有高學歷,良好的溝通能力及豐富的創造力。[23]

 

第四次工業革命來到,我們將如何面對失業大軍的挑戰?韓國及法國就興起收取機械人稅的念頭嗎?韓國認為一來可以彌補國家因大批僱員被裁,無法交付薪俸稅的損失,二來可以再培訓失業的員工。[24] 法國更直接地打算把稅收補貼失業的工人,因為機械人搶了人的工作,他們的做法值得我們思想。[25]

 

法國一旦徵稅成功,為了生計而工作的人一定非常歡迎這項政策;可是,與此同時,對於那些真心熱愛自己工作的人,固定的失業金能否補償他們因為不能做自己天賦的工作的挫折和沮喪?這是另一個問題。

 

明光社

但願日後一個真心熱愛烹調的廚師,可以找到自己的「創作」空間,不會被一部炒菜機所取代。

 

 

[1] 〈稻香推「傳菜機械人」 省人工支出 業界:臨時工或大增〉,《明報》,2016年5月30日。https://news.mingpao.com/pns/dailynews/web_tc/article/20160530/s00004/14...。最後參閱日期:2018年4月6日。

[2] Mark Harris, “Amazon Go: convenience and concern at new checkout-free corner shop,” The Guardian, 22 Jan 2018. https://www.theguardian.com/us-news/2018/jan/22/amazon-go-convenience-st.... 最後參閱日期:2018年4月11日。

[3] 山下奉仁:〈服務業大敵!直擊日本豪斯登堡飯店:櫃台由「機器正妹」服務,房價更便宜! 〉,商周.com,2015年7月27日。https://www.businessweekly.com.tw/article.aspx?id=13159&type=Blog. 最後參閱日期:2018年4月11日。

[4] Furch:〈全台第一家無人旅館,不只全自動化入住還有機械手臂幫你放行李〉,T客邦

2016年7月19日。 https://www.techbang.com/posts/44798-chase-walker-hotel。最後參閱日期:2018年4月11日。

[5] 〈四川無人酒店顧客刷臉入住 自助退房無人查〉,《東網》,2018年3月15日。

http://hk.on.cc/cn/bkn/cnt/news/20180315/bkncn-20180315140420960-0315_05...。 最後參閱日期:2018年4月11日。

[6] 鄭寶生:〈亮黑色iPhone 7是全機械拋光 自動化背後是大規模裁員〉,《香港01》,2016年10月7 日。https://www.hk01.com/%E7%B6%93%E6%BF%9F/47219/%E4%BA%AE%E9%BB%91%E8%89%B...。最後參閱日期:2018年4月11日。

[7] Joseph Lin:〈【英國】飯碗難保? 英國央行:機器人恐搶走5成工作機會〉,limitlessIQ.com, 2017年2月9日。http://www.limitlessiq.com/news/5.html。最後參閱日期:2018年4月11日。

[8] 陳建鈞編譯:〈【法國】機器人恐搶走3百萬個工作 法提議每月發25K基本收入〉,limitlessIQ.com http://www.limitlessiq.com/news/post/view/id/84/。最後參閱日期:2018年4月11日。

[9] 鄭寶生:〈AI取代人手 日本三