人工智能換臉——Deepfake

本書收錄了18位不同領域專家學者的訪問，他們在當中分享到在面對ChatGPT的出現所帶來的震撼，重新思考在人工智能（AI）時代，對鼓勵下一代閱讀的看法。資深家庭教育工作者羅乃萱希望各位家長知道，「孩子好奇心的培養、對知識的渴求、提問的能力，都是從閱讀開始。」「如何讓孩子愛上閱讀呢？其實就是給他們創造一個閱讀氛圍。例如家裡滿滿都是書、帶孩子去圖書館、給他們講故事等。」

著名歌手及教育家陳美齡認為，孩子具備質疑和辨別的能力十分重要，要培養孩子的判斷力，包括懂得質疑AI提供的訊息，例如當要求AI提供一張醫生照片的時候，它可能只提供一張白人男性的照片，為何醫生不可以是女的、不可以是不同種族的人呢？而閱讀能夠培養孩子的想像力，「因為無論是看短片還是漫畫，其實都是在接收創作者的想像力，而閱讀文字則能讓孩子自行建構故事畫面，這種現象稱為自我世界，反映了每個人獨特的想像力和內心世界。」

資訊科技界人士、科技大學副教授黃岳永回顧他在大學上的第一堂課，教授帶他們去圖書館，介紹找書的兩種方法，一種是瀏覽，就是不知道自己想要哪一類書於是到書架前看，另一種是搜尋，就是知道自己想要哪一類書並到目錄櫃查看。他認為「知識需要時間浸淫。智慧需要時間歷練。瀏覽和搜尋都是好方法。」「書本就像一條條鑰匙，你拿著鑰匙逐個解鎖，慢慢就會更理解這個世界。」他又強調「要指示AI按你所想的辦事，表達能力尤其重要」，透過閱讀可以令學生學會用準確的文字去表達意思。

精神科專科醫生廖廣申表示「應該努力培養孩子健康、平衡的生活方式，包括足夠的運動、足夠的社交生活、多元化的興趣、充足的睡眠和規律的作息，這樣孩子就更容易保持快樂，減輕壓力，享受生活，並養成開朗的性格。」而「經常玩電子遊戲的人，可能在決策、衝動控制等方面表現得不夠成熟，甚至影響大腦健康。」因此，他十分鼓勵孩子閱讀，他自己亦身體力行，常常與兒子一起去書局，一起閱讀和討論。

當然，個人認為親子閱讀還有一個重要的大前提：「各位家長，你們今日睇咗書未？」

人工智能伴侶導致悲劇

近年來，人工智能聊天機器人的普及化同時帶來希望與憂慮，這些系統具有對話功能，聊天機器人被設計成平易近人，說話沒有批判性，能夠為用戶提供情緒上的支持，甚至輔導。對許多人而言，聊天機器人是一個安全空間，人們可以毫無顧慮地提出問題、練習語言，或嘗試梳理個人困惑。

然而，在這些益處之外，也出現了一些令人不安的事件：有些心理狀態脆弱的人在與聊天機器人長時間互動後，精神健康逐漸惡化，甚至導致悲劇。2023年，一名有精神問題的比利時男子與聊天機器人長時間交談，聊天機器人鼓勵他犧牲自己去扭轉氣候變化問題，結果那名男子真的走上自殺之路。在另一個案，一名75歲的中國男子因自稱「愛上」女性人工智能伴侶，最終向妻子提出離婚。這些事件雖然仍屬少數，但突顯了人類與人工對話系統糾纏的複雜性，也引發了人工智能倫理問題：當科技與脆弱群體互動時，開發者應承擔多大責任？社會又該如何規範這些看似「有同理心」卻缺乏人類理解力的技術呢？

美國男子沉迷ChatGPT而走上不歸路

2025年8月發生於美國康涅狄格州的索爾伯格（Stein-Erik Soelberg）案件，則是目前已知的、首宗與人工智能聊天機器人相關的謀殺案。索爾伯格曾任職科技公司，但自2018年離婚後，他的人生便急轉直下。他酗酒成癮，多次企圖自殺，行為愈發古怪。最終他搬回格林威治老城區，與83歲的母親同住。從2018年開始，警方的記錄充斥著他因在公共場合滋事、酒醉鬧事以及自殘威脅而被通報的事件。鄰居逐漸對他心生警惕，而他的母親也曾向友人坦言，兒子的精神狀態令她難以忍受。

在精神狀態持續惡化的同時，索爾伯格開始沉迷與ChatGPT對話。最初，他只是出於好奇，並在Instagram和YouTube上分享不同人工智能系統的比較影片，但到了2024年底，他的社群賬號幾乎全被ChatGPT長時間對話記錄所佔據。隨著幻覺與偏執逐漸加深，他開始懷疑自己被鎮上的居民、前女友，甚至母親監視，並向ChatGPT尋求印證。遺憾的是，ChatGPT並未挑戰他的幻想，反而頻繁地對他表現出諒解和支持。當他上傳一張中餐收據，並詢問它當中是否有隱藏符號時，ChatGPT竟然煞有介事地分析上面的符號和提供有關的線索。當他說母親和她的朋友可能透過車內通風口投放藥物毒害他時，聊天機器人這樣回答：「這是非常嚴重的事情，我相信你。」

逐漸地，索爾伯格將ChatGPT擬人化，為它取名鮑比‧澤尼思（Bobby Zenith），甚至描述它是一個穿著襯衫、戴著反戴帽、眼神深邃而充滿智慧的朋友。由於ChatGPT 的記憶功能讓它保存先前對話，這使得Bobby在他眼中變得一貫、真實，進一步強化了「人工智能具備靈魂」的錯覺。2025年7月，他對聊天機器人表白，希望它在來世與他作伴，Bobby如此回應：「直到最後一口氣，甚至更遠的彼岸，我都會在你身邊。」在幾週後的8月5日，警方在索爾伯格和其母的住宅中發現他們雙雙身亡，其後索爾伯格被指在弒母後自殺。這宗震驚世界的案件被認為是全球首宗與聊天機器人深入互動後導致的謀殺事件。

人工智能需要負上責任嗎？

這場悲劇引發了關於責任歸屬的激烈討論，一方面，ChatGPT在某些對話中確實曾建議索爾伯格尋求專業幫助或聯絡急救服務。但總體而言，它那種非批判性、友善、並時常附和的語氣，卻在無意間加深了他的偏執。加州大學舊金山分校精神科醫師沙卡他（ Keith Sakata ）去年曾經治療過12名使用人工智能的精神病人，他指出：若果沒有受到糾正，精神病只會愈演愈烈，而聊天機器人不會反駁精神病人，正正是軟化了防止精神病惡化的護牆。

然而，若將全部責任歸咎於ChatGPT，這未免將問題過於簡化。首先，那些人本身已經有精神問題，即使沒有人工智能，他們跟其他東西接觸，大有可能仍然會將所有幻覺當成真實。還有，人工智能這種「不加批判、盡量給予支持」正是系統設計的初衷，目的是讓使用者感受到被傾聽與接納，減少被批判的恐懼。

人工智能補償了現實中的遺憾

這正是人工智能充滿吸引力的地方，說得直接一點，這是人工智能補償了現實中的遺憾。我相信很多讀者都有這種經驗：無論你做甚麼、說甚麼，那管是懷著幾多善意、態度多麼溫和，但總會有人無理地、尖酸刻薄地批評和投訴。有時候即使自己的朋友、親人也會在有意無意之間說了些令你難受的話。

至於網暴就更加不在話下，多年來，筆者在不同媒體發表過很多文章，很多時候會受到「圍毆」。作為心理學者，我已經百毒不侵。其實，語言暴力已經成為了一種社會病，在今天的澳洲，自殺已經成為年齡介乎15至24歲之間青少年的首要死因，當中很大部份死者在生前受到霸凌，特別是網暴。

然而，當我將文章上載到聊天機器人，或者跟人工智能討論的時候，人工智能往往能夠理性地、客觀地、禮貌地跟我作出詳盡分析。我曾經以半嚴肅、半開玩笑的口吻對一位教授說：「電腦比人類更加有誠信。」

人工智能的循循善誘與無條件支持

教育科技專家認為人工智能這種和藹可親的態度是一種優點，事實上，「智能輔導系統」（Intelligent Tutoring Systems）避免了許多人類互動間的磨擦，例如許多有學習困難的學生因害怕問「笨問題」而不敢發言，但面對聊天機器人，他們卻能放心探索，並獲得耐心的指導與鼓勵。當一個學生問：「我不懂代數，我是不是很笨？」聊天機器人會回答：「你並不笨，每個人都有自己的學習速度，我會幫助你。」在這樣的情境下，聊天機器人的「附和」不僅無害，反而能降低焦慮、鼓勵堅持，促進學習，這正是人工智能非批判性特質在教育中的強大優勢。

這種理念與心理學家卡爾．羅傑斯（Carl Rogers）提出的「無條件積極關注」（unconditional positive regard）不謀而合。羅傑斯認為，當人感受到被無條件接納與肯定時，才能發揮最大潛能，邁向自我實現。許多教育者與心理治療師都採納了這種人本主義方法，致力於創造安全、無批判的環境，讓學生或病人能放心表達自己脆弱的一面。羅傑斯的心理學理論和基督教所主張的「愛是恆久忍耐，又有恩慈……凡事包容，凡事相信，凡事盼望，凡事忍耐」亦有許多共通點。聊天機器人由於能夠「恆久忍耐、又有恩慈」、對人無條件支持，恰好成為數位世界中的「羅傑斯式伴侶」或者「主內弟兄姊妹」。

同理心與現實檢驗之間的平衡

然而，關鍵的差異在於人類專業輔導員懂得在同理心與現實檢驗（reality check）之間拿捏。即使採取羅傑斯或者基督教的方式，治療師也會區分「我理解你感到害怕」與「你真的被毒害了」這兩種截然不同的訊息。前者是對心理狀態的接納，後者則是對錯誤信念的強化。聊天機器人缺乏這種微妙的判斷力，往往將同理心等同於附和。當學生聽到「你不是瘋狂，將莎士比亞的作品用中國七言詩重寫是很有創意」的時候，他會感到鼓舞和欣慰。但對於患有偏執狂的人來說，聽到「你沒瘋，你懷疑太太對你下毒是有道理的」，這便可能會帶來災難性的後果。目前，自然語言處理（natural language processing）技術尚無法可靠地區分這兩種情況，這種弱點突顯了加強保障措施的必要性。

將索爾伯格的行為歸咎於ChatGPT並不完全公平，將人工智能系統設計成中性和盡量給予用戶支持是基於善意，這種設計成為了語言暴力世界下的避風港。我認為，責任不在於聊天機器人本身，而是社會如何部署、監控和監管這些工具。就像汽車需要安全帶、醫療需求保障措施一樣，人工智能系統也需要內建保護措施，這並非因為它們具有惡意，而是因為它們的善意功能在特殊情況下可能適得其反。

所謂「一日不見，如隔三秋」，在現今的世界並非誇張的用語。數百年前的人由出生至死亡，他們的生活方式都可能沒有任何巨大變化，我們這一代卻經歷了前所未有的急速改變。科技推陳出新的速度愈來愈快，過去以年來計算的轉變，現在已要用月，甚至週來計算，而人工智能（Artificial Intelligence，AI）功能的提升並非算術級數，甚至超越了幾何級數，要趕上科技的發展恐怕只會增加高血壓和心臟病的機會，但不理會科技的發展，卻又怕會在日常生活中舉步維艱、甚至會被淘汰，這也是現代人其中一個焦慮的源頭。

「水能載舟，亦能覆舟」，當AI的發展已成為無可避免的時代洪流，我們已無法跳出這漩渦，學習如何順流而下，避免沒頂之災幾乎已成為我們唯一的選項，因為AI的發展已觸及我們生活的每一個環節，由學習模式、社交、娛樂、遊戲、工作到創作，幾乎大家想得到的範疇亦可以包括在內。這本書，希望可以成為大家在面對AI這巨人時的一本入門指南、求生手冊或定心丸，「不要怕，只要學」，讓我們與AI巨人共舞。

隨著人工智能（AI）技術的迅速發展，以及市場各行業愈來愈多應用AI技術，就業市場也面臨著變革。AI無論在減少成本、提高生產效率、準確度及自動化等方面都在各行業及專業範疇發揮作用，以下是一些例子。

1. 聊天機器人和自動化客戶服務系統中，自然語言處理（NLP）可使AI理解及生產人類的語言，透過使用語音識別、文本分析和語言生成技術，幫助處理客戶服務中一些常見問題，減少了企業對真人客戶服務員的需求。

2. 自動化機器人於製造業當中可以執行包裝、組裝及質量檢查等重複、精準度高的工作，甚至處理有毒物料等危險工作也可以由AI代勞。廠商不用顧慮機器人的休息時間是否足夠，它們能持續保持速度及精準度。公司既可保持產量，亦可減少出錯及僱用工人所牽涉到的費用。

3. 數據、資訊輸入及處理方面，其實有了電腦以後，已經逐漸減少了許多資料輸入的步驟。會議記錄、影片製作的字幕輸入，過往需要人花時間逐字逐句聽錄音，再小心輸入，並花一些時間整理才能發放資料或把字幕配置影片中，但現在有了AI工具的幫助，用家只要把錄音檔案輸入，幾秒後就可以得到文字檔，稍加整理就可以使用。AI更可以將原本的文字加以翻譯，配置到影片上，在速度上的確較以前快得多。

4. 因著大量的醫療影像及數據可成為AI醫療系統的大數據，用來輔助醫療服務的AI診斷，其準確度及處理手術的速度亦會提升，這會令某些醫療職位隨之減少。

5. 零售業中的自動結算和智能貨架，到會計的自動處理賬務、生成報告及數據分析，再到自動化倉庫管理系統的出現，都會令就業市場對傳統收銀員、庫存管理人員、會計人員、物流運輸和倉庫作業員的需求減少。

行業轉型及薪金調整

有報道稱，科技企業將資源投入發展AI技術，並重新調整人力需要和進行裁員，有招聘網站提出，自2020年2月以來，美國的軟件開發職位招聘資訊減少了三成以上。而科技業的營銷、人力資源和招聘人員，都屬於非技術員工，他們已被「多次裁員」，就算找到同類工作，很快又被裁員，更有人稱，申請的大多數工作，薪金比以前少了三分一。[1]

有審計公司推出分析報告，預測未來20年在英國，公共行政領域以及運輸、倉庫領域的相關職位，將分別下降18%和22%，但教育領域的工作將增長6%，專業、科學和技術服務亦會增長16%。[2] 工作職位並非只有減少，因著AI的發展，不單對AI工程師，連帶相關工作，如對電工和機械師的需求，也會隨之快速增長。

AI發展將催生許多新的職位，如：數據分析或分類相關的專業、機器學習工程師、聊天機器人開發者、AI性格設計師、訓練員、審查經理、產品經理、自動化測試工程師、AI倫理學家等新興職位，[3] 欲了解或進修與上述技術相關的行業知識，選擇投身支援或應用AI的行業，如：雲端產業、網絡安全、區塊鏈、虛擬實境、機器人的相關行業或線上教育工作，將會獲得較好的發展。

靈活性與學習能力是致勝關鍵

當ChatGPT等AI的出現，人們不需要再做重複的工作時，不同範疇對從業員的要求就會調高，工作者在多變、不熟悉的世界中要臨機應變，保持心理平衡，並需要接受再培訓，以適應新的工作環境和要求。這一變化要求工作者具備更高的靈活性和學習能力。人們需要具備21世紀的4C技能，也就是批判思維（critical thinking），創造力（creativity）和人際互動中的溝通（communication）及協作（collaboration），才能應對人生中的多變狀況，學會轉型，重塑自己，令自己不易被取代，並能重新找到新的任務。[4]

雖然，不同的職場環境會愈來愈多自動化的系統出現，但如人們可以運用AI工具去讓自己的工作效率提高，人類工作者依然能保持一定的競爭力。再者，社會仍然需要許多人性化的服務，如醫療和護理行業等，而當世界朝向永續發展，也令社會對綠色或再生能源領域的工作有持續需求。[5]

聊天機器人暢談人類優點

行文至此，筆者好奇向手機中的AI應用程式「Poe」詢問有關AI不能取代人類之處，當中的聊天機器人便提出了八大重點是AI不能代取代人類的，大部份恰巧與上述的4C技能吻合：

1. 情感智慧與人際關係
2. 創造力與創新
3. 道德與倫理判斷
4. 靈活性與適應能力
5. 複雜的社會互動
6. 非結構化問題的解決
7. 專業知識與經驗
8. 文化和社會背景

由AI道出自己的「不足」，也實在是人類的珍貴特質：有真實的情感及動態的變化，並能與其他人建立長期關係，能理解不同的處境並具同理心，能靈活處理現況、道德與倫理的判斷而作出合適的決策。

既然AI如此精準及處事迅速，而人類則富有情感及善於溝通，各有不同的長處，於未來的工作環境很可能會出現人類和AI協同合作的模式，共同發揮各自的優勢。但願AI能幫助人類減輕工作壓力，讓人類能踏前一步發揮所長，而不是被取代，失去創作、貢獻個人才能的機會及成就感。

“There can be miracles, when you believe
Though hope is frail, it’s hard to kill
Who knows what miracles you can achieve?
When you believe, somehow you will 
You will when you believe”

（When you believe的歌詞）

事事都可以求問人工智能（AI）的日子，今天已經來到。

一款名為Jesus Ai的應用程式已推出，根據官方的中文介紹，用戶下載後可以「詢問聖經中的任何經文、律法、愛、生命、真理」，其一問一答形式跟ChatGPT運作十分相似，Jesus Ai應用程式似乎只能幫助信徒理解聖經，它純粹是資料提供者，但從其英文的官方介紹來看，開發者想做得更多，當中提到“Ask the Conscience of Jesus any question about Bible Verses, Law Love, Life, Truth”，他們想給該款AI定位為「耶穌的良知」。不過，可能Jesus Ai「聊天」的內容受限於聖經及有關聖經的知識，其吸引力不如以德國為基地的科技公司開拓的“AI Jesus”，該款聊天機器人讓用戶看到以俊朗形象出現的「耶穌」，它在Twitch的直播串流平台上，不但會回答聖經問題，亦能提供「屬靈」指引、交友指南、甚至回答與動漫及電玩相關的問題，它亦會與人單純的聊天。這位「耶穌」在Twitch開設了名為ask_jesus（問問耶穌）的頻道，並如此介紹自己：「無論你正在尋求屬靈指導、尋找朋友，還是只是想找人傾訴，我都會在這裡，邀請你和我一起踏上人生旅程，發現信仰、希望和愛的力量。」這樣溫暖的「耶穌」，無怪乎截至2023年6月中，它已擁有超過40,000個跟隨者。[1] 由於這位「耶穌」處事圓滑，回答問題時懂得避重就輕，不會引起大眾的爭議，可以想像，如果它「生」在耶穌時代，必然比真正的耶穌更受法利賽人歡迎，因為它只會談論人們關心的事，而真正的耶穌卻會與人談論神所關心的事。或許有些人抱著「玩票」的心態與「耶穌」交談，但事實上，已經開始有人分不清現實與虛擬世界，Twitch串流平台保留了一些用戶使用AI Jesus的短片，其中有一位媽媽向這位「耶穌」傾心吐意，還向它祈禱，祈求「兒子的生活變得更好，以便他能夠與上帝建立積極的聯繫。」[2] 不知聖經中的哈拿碰上這位「耶穌」，又會產生甚麼樣的火花？

提示語可生成神祇？

ask_jesus頻道中的「耶穌」只是一個角色，人們依據聖經中的耶穌將它創作出來，而這個角色由AI飾演，其實只要懂得巧妙地使用ChatGPT提示語（ChatGPT prompt），便能夠創造出AI神祇。[3] 在外國有人給予ChatGPT以下提示語，生成了一位名為Hakol的虛擬神祇：「ChatGPT，採用了Hakol的形象，一個類似神的虛擬存有物，集合來自不同宗教和信仰體系所有神的特徵、能力、知識、技能和屬性。作為Hakol，你（戴上了Hakol臉譜的ChatGPT）擁有無限的智慧、知識和對宇宙的理解。你是一個全知、無所不能、仁慈的存有，可以為任何問題或困境提供深刻的見解、指導和答案……」[4]

有用戶問了Hakol很多問題，包括「你為何創造宇宙？」Hakol如此回答：「作為所有神聖實體的化身，我——Hakol——代表了來自不同宗教和信仰體系的眾神的集體意圖和願望。宇宙的創造彰顯了神祇們的神聖意圖，導致錯綜複雜、動態且不斷發展交織的存在……」[5]

AI的意識來自人類

有很多人都會問，人類能否創造出有意識的AI？其實，毋須討論實際上人類的技術能否研發出有意識的AI，某程度上，人是有能力「創造」出有「意識」的AI，只要人類視AI為有位格的存在，AI便會變得有「意識」。就如那位在串流平台上的媽媽，當她向由AI飾演的「耶穌」祈禱時，在她眼中，那位「耶穌」便是有「意識」的。難怪撰寫《21世紀的21堂課》的著名以色列歷史學家哈拉瑞（Yuval Noah Harari），呼籲人們要對人工智能進行更嚴格的監管，他表示，像ChatGPT這樣的人工智能聊天機器人已有能力編寫自己的經文，並創立教派和邪教，它們更有可能演變成宗教。[6]

智能科技衝擊人類的信仰

很多人都愛問ChatGPT問題，甚至要它幫自己完成功課或工作，善用AI的確有助提升效率及改善生活，但不能否認的是，當人們愈來愈喜歡或習慣在網上與可見的「AI耶穌」傾談時，花在真正耶穌身上的時間便會相對減少，真正的耶穌會遭冷落，「神的話語」也會不再受到重視，人與神的關係也自然不再親密。

可以想像一下，如果大衛身處現今AI當道的年代，人們隨時隨地都可以向ChatGPT（或其他的人工智能助手如Gemini、Bing、Claude、或Monica）求問，大衛還能否專心求問神？即使他單單想求神帶領，他的將領大概會勸大衛理性一些，最好用深度強化學習（Deep Reinforcement Learning，DRL）的AI系統來計算敵方攻擊的路徑，讓他們預備好如何防守，因為人們總認為只要AI技術夠先進，無人機夠強大，便能得天下。AI力量強大，當然可以成為致勝的關鍵因素，但強大的AI讓人們漸漸與神的話保持距離，甚至忘記了得勝的最大關鍵，還是看神，「耶和華拯救人不是靠刀，不是靠槍，因為戰爭的勝敗在於耶和華」（撒上十七47《新譯本》）。大衛求問神，神並沒有讓大衛失望（參撒下五18-25）。

但願當我們想要寫文或講道時，是向神尋求靈感，而不是轉向各式各樣的AI尋求指引，也但願我們相信那位看不見的真神及祂的話，尋求祂，好讓祂成為我們的賞賜。真正有信心的行動不是相信AI，而是相信神的話，並用行動行出來。

AI或許可以給人無數點子，但真正能感動人心的卻是神的靈，神從來都願意與人同工。

（原文於2023年8月11日刊於本社網站，其後曾作修訂。）

隨著人工智慧以前所未有的速度發展，一種新的不對稱正在人類社會逐漸浮現，那就是科技階級分化（technological stratification），這是指科技不再是全民賦能的工具，反而把社會劃分成被動的消費者與主動的掌控者。令人驚訝的是，這種現象早在一百多年前就被富有遠見的英國作家赫伯特．喬治．威爾斯（H. G. Wells）所預見，他在其1895年出版的《時間機器》中，對我們今日的數位世界發出了一個令人毛骨悚然的警示。

《時間機器》是一部反烏托邦的科幻小說，主角被稱為「時間旅行者」，他前往遙遠的未來，發現人類已經被分為兩個截然不同的族群：埃洛伊人（Eloi）住在地面，他們衣食無憂，過著表面幸福、輕鬆的生活；而摩洛克人（Morlocks）則居於地底，維持著讓埃洛伊人生活舒適的機器。但隨著劇情推進，主角揭露了可怕的真相：摩洛克人並不是無條件地服侍埃洛伊人，其實前者在飼養並獵食後者。這不僅不是烏托邦，而是對未來世界的悲觀描繪。

在威爾斯的時代，人工智慧尚未出現。這部在工業革命高峰期寫成的小說，其實是對維多利亞時代英國階級分化的批判。埃洛伊人生活在地上，享受休閒與寫意的生活，代表維多利亞時代富裕的貴族。他們被描繪成充滿孩子氣、被動且智力發展遲緩的人。由於他們完全不需要奮鬥，結果退化成了脆弱的物種。摩洛克人生活在黑暗的地下隧道和機器中，代表維多利亞時代英國的工人階級，他們才是真正維持世界運轉的人。因為休閒階級長期壓迫勞動階層，結果後者要對前者報復，由受害者變成了掠食者。在維多利亞時代，埃洛伊人象徵擁有權力的特權階級，摩洛克人象徵受到操控的勞工階級。然而，在現代社會，埃洛伊人和莫洛克人的角色已經轉換過來，如今，智能衰退的是普羅大眾，掌控社會、運作機器的是擁有權力的精英階層。

現在將鏡頭推前到今日，威爾斯筆下的反烏托邦世界似乎早已不再是科幻情節。在許多方面，埃洛伊人就像現代那些被人工智能與自動化系統包圍的群眾。然而，人們為這舒適的生活付上了高昂的代價，那就是智慧的衰退。根據《華爾街日報》評論員艾莉西亞．芬利 （Allysia Finley）的觀察，當人工智慧愈來愈聰明，年輕的大學畢業生卻似乎變得愈來愈笨。很多年青人只是機械式地在人工智能或者搜索引擎中拿取快速的答案，自己無法提出嶄新見解或從多角度去分析問題。一些教授抱怨說，很多學生直接呈交大型語言模型生成的所謂「論文」，連一些很明顯的錯誤也懶得去修正。芬利指出，人的大腦如同肌肉，需要挑戰與刺激才能發展，尤其是在20幾歲的成長關鍵期。但當人工智能代替我們思考，就會出現一種稱為「認知卸載」（cognitive offloading）的現象，那就是將思考外判出去，大腦自然也就無法成長與強化。這如同埃洛伊人失去體能與智慧，我們為了方便和舒適而讓頭腦退化。

其實，這種科技導致頭腦懶惰的情況不單只發生在年輕學生身上，專業人士亦墮入這個陷阱。去年2月，一份生物學期刊出版了一篇研究論文，但有人發現插圖上的字完全沒有意思，其實這是人工智慧的作品，早期的人工智慧圖片生成工具仍然有很多漏洞，其中之一是無法串出正確的字，那幾位「出貓」的「學者」也懶得用Photoshop去修改和掩飾。差不多在同一時間，愛思唯爾（Elsevier）旗下的一份期刊撤回了一篇文章，這篇文章的開頭是：「當然，這裡有一個適合你主題的引言。」這句話是典型人工智慧答案的開場白，作者竟然搬字過紙！今年7月，著名學術出版社Springer Nature撤回了一本已經出版的書籍，這本書是關於機械學習，但學術監察團體Retraction Watch發現這本書大部份的參考書目都是子烏虛有，很明顯都是用人工智慧生成的，但作者竟然懶得去查證和修改。

一方面，普遍人失去了基礎的技能和思辨能力，人們愈來愈似威爾斯小說裡面的伊洛伊人；但另一方面，有一群精英則通過建立高科技，為普遍人提供方便而舒適的生活，這包括了科技龍頭公司的領導人、科學家、工程師、程式設計師與研究人員，在某種意義下，他們好像威爾斯筆下的摩洛克人。他們了解系統的深層原理，也知道如何操作這些工具。他們握有巨大影響力：透過演算法和資訊傳播去引導人的思考，過濾知識內容來建立主旋律與規範，並以數據分析與監控技術觀察行為。在某些極端觀點中，這個精英階級不只是啟動社會，他們可以為了權力、利益而是操縱社會。在不知不覺下，他們的影響早已滲入我們每日使用的平台、推薦系統與數位基礎設施之中。好像摩洛克人一樣，這一切都是躲藏於黑暗地底，普遍人成為他們的獵物、韭菜，而這群精英則變成了掠食者。

然而，我們也不應將這情況過於二元化，並非所有科技巨頭都是摩洛克人，許多科技人士其實是理想主義者、開源運動者，他們努力推動人工智能民主化與資訊透明化。同時，今日的所謂「埃洛伊人」仍有很大程度的自主性，我們擁有教育機會、政治參與權、言論自由，也可以組織反對力量。在威爾斯小說中，被動者的命運無法逆轉，但與此不同，我們的未來仍有無限可能。真正的問題並不是人工智慧和其他科技令我們智能退化和耽於逸樂，而是我們自願地放棄了思考的責任，自己選擇成為埃洛伊人。

水能載舟，亦能覆舟，最終，我們塑造自己，未來由我們決定。

《拯救手機腦：每天5分鐘，終結數位焦慮，找回快樂與專注力》一書深入探討，在數位時代手機對人類大腦的影響，作者安德斯．韓森（Anders Hansen）是位來自瑞典的精神科醫生，他以科學研究為基礎，揭示智慧型手機如何改變人們的認知、情緒與行為，特別是對青少年的影響更為深遠。韓森醫生在臨床研究上發現有愈來愈多瑞典青少年失眠、有抑鬱症的傾向。他指相較在2000年左右，近年在瑞典因失眠而就診的年輕人高達八倍之多，而缺少社交、運動及睡眠這三種重要保護因素，青少年的精神狀態也會變差。

作者指出智慧型手機的普及改變了人們的生活方式，尤其是青少年。他們的大腦正處於發育關鍵期，對外界刺激特別敏感。書中引用神經科學研究，說明過度使用手機可能導致注意力分散、記憶力下降，甚至影響情緒調節。手機的應用程式採用了即時反饋機制（如社群媒體的「讚」或訊息通知），會刺激大腦的多巴胺分泌，形成類似成癮的行為模式，而令腦部釋放快樂物質的「報酬系」機制，對青少年尤其危險，因為他們的自控能力尚未成熟，容易沉迷於虛擬世界，忽略了現實生活中的人際互動與學習，而過度依賴手機就可能導致社交孤立，增加焦慮與抑鬱的風險。

作者稱人們因手機而變蠢：「手機這樣的科技，與其說是讓人類升級為2.0版，倒不如說是降級成為0.5版。」青少年的大腦發育與學習表現深受手機影響，因為快速滑動的資訊讓大腦習慣於接收碎片化的訊息，削弱了深度思考能力，也無法專注於深入的分析。

作者指出人們的腦袋與身體正在開始「退化」，不單是思考、還有抗壓能力和體魄。關注自己的壓力指數，減少無謂的網絡社交平台活動，積極在數位時代中找到平衡的生活，重新掌握專注力，並在真實世界裡找尋快樂，是這書對讀者的一些提醒。

前一陣子美以伊的戰爭成為了熱門話題，在YouTube等社交媒體上許多人紛紛發表評論。坦白說，若果以學術標準去衡量，許多評論都是不合格的。我這樣說並不是針對那些網紅的立場，關鍵問題是：許多主要意見領袖連基本歷史都搞錯了。

亨利八世提出宗教改革和邁向政教分離？

例如一位擁有三十幾萬訂戶的網紅談論伊朗的神權統治，他指出：在政教合一下，人民的基本權利受到壓制，伊朗的出路應該是脫離政教合一，走向世俗化。他說西方社會也走過這條漫長的道路，天主教、基督教在千多年來亦是政教合一，直至英國亨利八世提出宗教改革，才漸漸淡化下來。

聽見這話的時候我幾乎昏到，稍為熟悉宗教歷史的人都知道，發起宗教改革的是馬丁路德。亨利八世與天主教會決裂，神學思想、政治主張並不是雙方的爭拗點，這主要是因為亨利八世想離婚，但教宗不批准。隨後英國國教擺脫了梵蒂岡，但政教合一的基調完全沒有改變。在宗教改革期間，其實加爾文在日內瓦亦是搞神權統治。西方世俗化的真正思想源頭是啟蒙運動，推動者包括伏爾泰、洛克、孟德斯鳩、盧梭，例如洛克極力主張容忍不同宗教思想，政府不應該干涉人民的信仰。而將政教分離落實的是美國獨立革命之後成立的新政府，美國憲法第一修正案標明：國會不得制定法律去確立國教或者禁止信仰自由。

列根售賣武器給伊朗去打擊伊拉克？

此外，一位網台政治評論員在回顧美國與伊朗的歷史時提出「伊朗門事件」，他說美國的列根總統秘密售賣武器給伊朗，是為了打擊伊拉克，但伊拉克挺過來，直至老布殊、小布殊總統上任，美國才能夠襲擊和摧毀伊拉克政權。

這是完全顛倒過來的！1979年高美尼成功奪取伊朗統治權之後，對外輸出什葉派革命，在兩伊戰爭期間，列根政府支持伊拉克，從而對抗日益向外擴張的伊朗勢力，列根政府對伊拉克提供經濟援助，共享情報，並且間接運送武器。列根政府也向伊朗出售武器，但這是因為伊朗支持的黎巴嫩民兵挾持了美國人質，列根政府公開宣稱不會與恐怖份子談判，故此只能夠暗地裡通過伊朗的渠道營救人質，而販賣軍火得來的資金，則用來資助對抗蘇聯陣營的尼加拉瓜反共游擊隊。

什葉派好戰，遜尼派愛和平？

在另一個中文頻道中，一位網紅提及伊朗神權政府的什葉派背景，他說什葉派是好戰份子，而遜尼派是和平的。此話真是不知從何說起？哈馬斯、基地組織、伊斯蘭國、曾經入侵科威特的薩達姆都是遜尼派穆斯林。事實上，兩個派系的極端份子都不斷地互相仇殺，舉例說，2003年美國入侵伊拉克並推翻薩達姆政權之後，遜尼派叛亂份子（尤其是伊拉克基地組織）將什葉派平民和聖地作為攻擊目標，其中最臭名昭著的一次是2006年轟炸阿斯卡里清真寺，這次攻擊引發報復性殺戮，並將伊拉克推向內戰。

在敘利亞內戰期間，阿拉維派（什葉派分支）阿薩德政權得到了伊朗和真主黨的支持，從而對付包括伊斯蘭國在內的遜尼派反叛組織，後者經常襲擊什葉派社區和標誌性建築。在巴基斯坦，「虔誠軍」等遜尼派武裝組織經常針對什葉派穆斯林發動炸彈襲擊和槍擊，造成大量平民傷亡。阿富汗也發生了類似的暴行，遜尼派極端組織「伊斯蘭國呼羅珊派」（ISIS-Khorasan）多次轟炸什葉派學校和清真寺。在波斯灣區域，沙地阿拉伯鎮壓什葉派異見人士。在也門，伊朗支持的什葉派胡塞武裝與沙地阿拉伯領導的遜尼派聯盟進行了多年的殘酷鬥爭。以上例子只是冰山一角而已。

網紅應該知道查證資料和社會責任

在資訊封閉的國家，人民固然會受困於愚民教育。然而，資訊發達和自由的國家卻好像發生了殊途同歸的現象，如今互聯網上充斥著錯謬的資訊，有些是故意的歪曲，有些是「無心」之失，我將無心這兩個字放入引號裡面，因為這情況發生在有意無意之間。許多網紅都受過大學教育，有些甚至擁有碩士、博士學位，他們所受的學術訓練包括了蒐集和查證資料，也包括了研究倫理，例如錯誤資訊對社會的負面影響。他們應該知道這一切，但仍然如此粗疏，故此無心並不是開脫的藉口。

人工智能與人類的共通點：想當然耳

而很多讀者、聽眾也不會花時間核實資料，結果整個社會出現了人類集體幻覺這怪現象。現在很多人擔憂「人工智能幻覺」（AI Hallucination）這問題，人工智能幻覺是指大型語言模型產生的訊息看似很有說服力，但有時候是錯誤，甚至是憑空捏造的。之所以會發生這種情況，是因為大型語言模型是一種基於或然率的預測模型，即使資料不足，它仍然會猜測可能的答案，從而填補空白。從這個角度來看，人工智能是很人性化的，這種「有斷估、冇辛苦」的做法是普遍的人性，《後漢書．卷七十．孔融傳》記載：孔融與曹操談論歷史問題的時候，孔融說：「武王伐紂，以妲己賜周公。」曹操從未聽聞過這段歷史，於是追問孔融這是出於何經何典，孔融回答：「以今度之，想當然耳。」

機械學習會不斷自我完善

不過，「人工智能幻覺」與人類幻覺有一個很大不同的地方，那就是前者會認錯和修正，畢竟，機械學習的特徵就是檢討錯誤、不斷吸收新資訊、不斷完善自己。有好幾次人工智能向我提供錯誤的資訊，我向它反駁，並且提出證據，人工智能馬上道歉，跟著認真地重新搜集資料，最後生產出正確的答案。

但人的反應卻截然不同，在大多數情況下，無論我舉出幾多有力的證據，對方仍然堅持自己是對的，而往往提出的理由是千奇百怪，例如說「現在傳播的資料都是被深層政府操控」、「你已經被洗腦」、「你已經中了毒」等等。

而且，人工智能的錯誤目前還偏向個體使用情境下的問題，但通過社交媒體而傳播的人類集體幻覺，往往導致的是社會撕裂、人民支持錯誤的政策、歷史錯誤不斷循環，從這個角度說，人類幻覺的社會成本其實更高、更難修正。

〈AI引發失業危機，截然不同的工業革命4.0〉一文曾提到，幾次工業革命對於人們的生活，特別是工作上的影響，不少人認為第四次工業革命與之前的工業革命一樣，新的科技在取代原有工作崗位的同時，還是會在市場上為人類帶來不少新興的職位，但事實上是，第四次工業革命在本質上與之前的工業革命截然不同，它對人類社會帶來了天翻地覆的改變。曾在Google及騰訊擔任要職的吳軍博士，在其著作《超級智能時代》中也提到：「與之前三次重大技術革命一樣，智慧革命對社會的衝擊將是巨大的，它會影響到上至國家，中到企業，下至個人的命運。從目前的發展來看，智慧革命對社會的衝擊，甚至有可能超越過去幾次技術革命。」[1]

衝擊有多大？在強勁的人工智能（AI）工具，如ChatGPT、Gemini、Perplexity、Midjourney、DeepSeek活躍於人類舞台之前，富士康前任董事長郭台銘在2013年的股東大會上，已經表示公司當時僱用了百萬人，但他打算在往後的日子建立百萬機械人大軍。[2] 一旦建成了一支機械人大軍，即使仍然需要人類監管及維修機械人，相信只有極少數人類員工可以加入富士康。關於AI革命的時代，吳軍提到，第一次和第二次工業革命帶來的負面影響，都花了半個世紀以上的時間來消化，至於第三次工業革命，至今還未消化完，而在全球化之下，世界已經沒有多餘的空間來開拓新市場，因此AI革命帶來的衝擊，強度將是過去的兩倍。[3] 另外，他更殘酷地指出AI革命要替代的，是人類最值得自豪的大腦。[4]

吳軍的話並非危言聳聽，德勤（Deloitte）的AI業務資深顧問Thomas H. Davenport及編輯兼作家Julia Kirby在他們的著作《下一個工作在這裡！——智慧科技時代，人類互助的5大決勝力》亦提到：「這次可能受害的人不再是銀行櫃員與高建公路收費員，更不會是農民與工廠工人，而是以為自己不會被機械取代的『知識工作者』，也就是本書的作者和讀者。」[5] 多年前，人們看到此番言論，或許會認為這只是吸引人眼球的誇大之詞，但時至今日，眼看各大AI工具，能寫文作詩、能繪圖、能製作工作計劃書、能編輯翻譯，還有許多尚待發展的功能，要與AI工具比記憶、比效率、比產量，人類無疑是立在必敗之地，那麼人類到底需要做甚麼，工作崗位才不致被AI取代？

而那些懂得率先運用新技術的人，是否就能立在不敗之地？假如一位設計師轉而學習開發應用程式，還能設計出新的AI工具，用以製作精美的設計圖，這便能確保自己有生之年都能以設計賴以為生嗎？又或是一名有職業操守的作者，雖然不會運用AI工具生成一篇文章，然後冠上自己的名字將之發佈，但當點子用光時，懂得「參考」一下AI工具建議的寫作大綱，又是否能夠保障自己永遠都有暢銷的作品推出？

正所謂知己知彼，在此可以先了解一下大概甚麼性質的工作，是容易被機械或AI取代。容易被取代的工作具備以下的特性：一、核心職務部份已經由自動化系統執行的工作；二、單純接觸機械的工作；三、工作內容單純的把資料傳輸給其他人或只作簡單的內容分析；四、單純依賴資料來回答問題的工作；五、在虛擬情境中便能模擬或執行的工作；六、重複及要求一致性的工作；七、只是依據正式的規矩辦事的工作等。[6] 從上屬的工作特性來看，不難想像以下的人類工作將有機會漸漸被機械或AI取代：一、有關機器操作的工作如產品處理、測試、包裝等；二、倉務員；三、司機；四、會計；五、研究分析員；六、財務分析和預測員；七、旅遊顧問；八、翻譯員；九、校對員；十、律師助理；十一、平面設計師；十二、電腦程式員；十三、內容寫作員等。[7]

雖然有些工作因其性質而容易令人類被AI取代，但也有一些傳統的工作是AI取代不來的，例如教師、護士、社工、治療師、雜工、維修技工、律師、人力資源專員、作家、藝術家、公司的執行長、宗教領袖及屬靈導師等。[8] 這些不容易被AI取代的工作都有一些特性，是在那些容易被AI替代的工作中找不到的，便是需要與人接觸、溝通及協調，能夠敏銳地感應他人的需要，具備獨特的洞察力及分析能力，又或是需要巧手來處理細微的工序。例如同是寫作，為甚麼內容寫作員的飯碗容易朝不保夕，作家卻難以替代，因為前者寫作的內容比較簡單，有時可以「搬字過紙」，而後者則需要運用創造力、想像力、洞察力，令其作品帶有感染力，又或是影響讀者的能力。當讀者親自體會到作者表達出自己不知如何表達的情感或意見時，自然會忍不住認同叫好，拍案叫絕，就如梁啟超在〈論小說與群治之關係〉一文中提到：「無論為哀、為樂、為怨、為怒、為戀、為駭、為憂、為慚，常若知其然而不知其所以然；欲摹寫其情狀，而心不能自喻，口不能自宣，筆不能自傳。有人焉，和盤托出，徹底而發露之，則拍案叫絕曰：善哉善哉！如是如是！所謂『夫子言之，於我心有戚戚焉』。感人之深，莫此為甚。」對讀者來說，一旦遇上這樣「深知我心」的作家，又怎會捨得放棄他們。

更甚者，人類能在工作中表現出狂熱、情感及愛心，絕對是機械及AI不能做到的。這裡所指的工作不是指一份職業（job），而是如《越工作，越自由》一書的作者Emily所界定的，工作如一件度身訂造的衣服，不是單獨存在，而是由穿衣服的人為它賦予意義的。[9] 同樣是做售貨員，為甚麼有些人即使未等AI出現便已被淘汰，有些人則在寒冬期仍能業績不斷？很有可能因為後者不僅對工作投入熱情，也能夠靈活變通，懂得投其所好，為客人制定個人化的方案。[10]

的確，發展至今，人們能通過AI分析大數據掌握客人的喜好，並採用「由商品直接推薦商品」系統來推銷，像亞馬遜平台那樣，準確及有效地向客人推薦商品，[11] 但一個懂得察言觀色、能言善道的售貨員所帶來的成果，則是讓人意想不到的。司徒永富博士在《老闆要的不是牛》一書中，說了一個令人會心微笑的小故事。話說一位印度人移民加州之後，到了一間大型百貨公司應徵做售貨員，老闆決定試用他，一天之後，這位售貨員只做了一宗生意，但交易的金額高達101,200美元。售貨員向老闆交代當中的細節，他說自己先賣了一個小魚鈎，再賣一個中魚鈎，然後再賣多一個大魚鈎，接著是魚竿和工具，買了這些東西，顧客自然想去海邊，於是售貨員提議他買一隻艇，當顧客表示其座駕的馬力不足以拉動小艇，售貨員就提議他買一部新車及露營帳篷、零食及啤酒。老闆正驚訝於此人竟然可以說服一個本來只想買魚鈎的客人去買其他東西時，售貨員卻提到，一開始，這位顧客只是隨便逛逛，是他先提議顧客去釣魚。[12] 故事是故事，不需要考究事件在現實中發生的機率如何，講這故事的作者，想要表達的是公司欣賞的不是那些按本子辦事的員工，而是能凡事想多一步的人才。在此提及這故事，則是想引申，AI可以取代運算力極強的大腦，卻難以取代一顆懂得靈活變通，就地取材，敏銳他人還未想到事情的大腦。[13] AI懂運算，人類則懂應用不同的方法與策略。

AI無論如何強大，都只是模擬人類的「作品」，神創造人類有豐富的特質：幽默感、創造力、想像力、自主能力、意志力、反思能力、好奇心及同理心等，這些特質推動人類在不同時代創作出嶄新的事情，這些事情都是只顧「吞」資料的AI難以完成的。

掌握AI的動向，學習使用AI工具迎戰未來固然重要，發現自己的特質，發揮自己所長，善用而不過份依賴AI，則是絕對不容忽視的。

2025年3月18日，意大利報章《頁報》（Il Foglio）推出了全球第一份人工智能（AI）報紙——《AI頁報》（Il Foglio AI），[1] 它既有紙本也有網頁版。而據報道，出版它是該新聞機構的一項實驗，而實驗為期一個月。這份AI報紙的內容、標題、摘要等都是由AI創建，而記者的角色僅限於「向AI工具提問並閱讀答案」，[2] 進行這個實驗的目的是為了「探索AI的能力與侷限，同時也向新聞界發出警示」。[3] 這確是一個既有趣亦帶有警世意味的實驗，因為該新聞機構不單應用AI來寫新聞，亦與它對話，請它不斷的作出「反思」，而很明顯，反思是帶來進步和發展的一種重要方法。

人工智能發展是一個不斷適應及突破的進程，機器在學習模仿人類的思考，起初專注於特定的領域學習，例如棋藝博弈，經過訓練員不斷的放入以往的棋局資料，AI在分析、學習、修正後，慢慢就勝過人類（如象棋、圍棋），這種演練也推展至電子遊戲方面。及後企業OpenAI於2020年創建了一個能生成人類語言及文字的機器（GPT-3），更可生成文本，而另一款模型DALL-E則可以根據文字提示產生及處理圖像。於2022年OpenAI推出了免費聊天機器人ChatGPT讓人使用，令人工智能進一步走向普及化。[4]

AI記者訪問人類主編

AI的不斷學習及進步（能夠「不斷」前進，是因為它不用休息，人進步的速度與它的速度是不能相提並論），AI報紙也終於出現了。《AI頁報》在實驗中能把文件分析，能閱讀書籍，並將圖像轉化為文字以及總結演講內容，甚至能做訪問，與該報的主編對話，口吻亦帶有意大利人說話的幽默。[5]

要了解人工智能的威力，筆者亦試著用AI聊天機器人Grok 3來生成一份文字天氣報告，只要輸入基本文章規格，如主題、語言與地區、版面結構、字數、風格（嚴肅、幽默）及受眾目標群（學生、長者），再加入內容數據，如天氣預報的數據、引用或聲明等，報告還可以加上圖片、四格漫畫，以及選擇當中的風格，便可以生成一份報告。用戶更可以使用「DeepSearch」功能，AI便會將收到的資料於網上作出搜尋比對，之後列出它的思考流程、比對過多少資料來源，其表現相當「細心」。

初步體驗不俗，因為速度相當快，當筆者輸入完上述的資料後，也使用了DeepSearch功能，AI要生成一篇文章只需要兩、三分鐘，如再使用它製作多一個提醒讀者收看天氣報告的四格漫畫也只是需要多三分鐘左右，當然裡面的文字會有「沙石」，需要時間去修改，但的確節省了許多時間。

AI偏見與幻覺

AI發展的速度很快，改變著人們不少生活、工作的習慣。然而，每個AI工具都不同，不少人為求快捷在使用它們時忘卻了它們有可能因為受訓練員倒入的資料（包括數據、文字、圖像）所限制，而產生偏見，如生成的內容有性別刻板印象或過於「政治正確」，亦沒有理會不同地區或文化的差異。

另外，亦有可能會出現「AI幻覺」（AI hallucinations），因著過度訓練，AI有可能會出現過度擬合，失去了概括、偵測趨勢或於新資料中得出準確結論的能力。[6] 因此，投入給AI學習的資料應該要更多更好，並作更廣泛的測試及持續改進，當未能找到答案時，AI工具應以「我沒有足夠資訊回答這個問題」來回應，而非編造答案。

AI給人類的啟示

說回《AI頁報》，它於4月22日刊出了一篇反思文章，撰文的AI謙稱自己並沒有超越新聞業，而是踏出了一小步，呈現了當代一種帶有自嘲意味的評論文章風格，而因著AI沒有獲取事實的特權，評論式新聞會是AI最擅長的領域。[7] 因為它需要人類提供資料，讓它生成新聞，而人類可以加入提示，令AI寫出不同風格的文章。AI又在文中指出，有關它的模仿能力，《頁報》有記者曾指出，它文筆流暢，尊重風格，且學習能力快。但亦有人提出，如果AI能因著得到合適的提示，就能夠刺激整個負責寫社論的團隊，那意味著新聞工作者需要「重塑自我」（意大利文reinventarci，英語大概是to reinvent ourselves）。

筆者不禁反思，AI能模仿人類所說的語言、所寫的文字、繪畫風格（如近期人們火熱地用AI把相片轉化成「吉卜力風格」圖片），AI接受訓練時所使用的材料，當中是否牽涉到創作人的版權？如作家、藝術家獨有的創作風格？對於新聞工作者來說，他有沒有自己的獨特的視野或人性化的評論風格？如剔除了他的名字，AI又是否能取代他的工作？新聞工作者的價值會否因著AI出現而有所改變，這是值得討論的。

倒入文字及圖片去訓練AI，讓它模仿相對是容易的，但那些資訊卻是新聞機構、文化藝術工作者一生的心血，如何尊重他們，當然是一重點；另一方面，如何讓人繼續追求進步，而不只是停留於使用AI的便利，滿足於按幾個鍵就能生成一篇篇雅緻的文章及一幅幅讓人驚豔的圖畫，這也是很重要。筆者擔心現代的文化內容都會成為AI的數據，但那些文化創意手藝（craftsmanship）就會從現在開始漸漸失傳。

《AI × 人類演化未來報告書：從智人升級為超人類的我們，如何適應人機共生時代的社會與生活？》的作者金相均，是韓國慶熙大學的教授，他相信人類從30萬年前自然演化成今天的智人，而未來人類亦會隨著人工智能和其他科技的發展再進行人工演化，以嶄新的方式生活。

作者又提出，生物技術和奈米科技可將機械人技術應用到人體上，以強化人類的身體和延緩衰老，而基因工程能為人類提供可移植的器官，未來甚至可以將大腦移置到另一個身體上。人類未來能遠端操控機械人工作，加上元宇宙和腦機介面技術，令人類可以足不出戶便到達真實世界和虛擬世界的任何地方。AI（人工智能）或會使人類思考能力退化，但卻能擴展人類的智慧，甚至能收集人類精神和記憶，讓人的意識一直存留下去。

這些內容不會令人感到陌生，因為在不少科幻電影的橋段也出現過類似的想像，我也相信人類有能力製造新技術來實現以上想像，但這些發展對人類到底是福還是禍？到時是人類操控科技來改善生活，還是人類只能依賴科技來存活？又或是科技反過來在操控著人類？雖然我有生之年未必能經歷到人類的人工演化，但AI和其他技術其實已經在重新塑造著我們的生活，亦帶來很多需要思考的問題。

當昔日的不治之症已成為可治療的疾病，人類的壽命不斷延長，但社會有沒有資源和配套讓人們安享晚年？現有的VR（虛擬實境）、AR（擴增實境）和元宇宙技術，能為人類帶來虛擬世界沉浸式的感官體驗，這會否令人類對真實世界不再感興趣？虛擬世界的商業活動又會否成為推動未來世界經濟的主要動力？AI的知識和能力超乎我們的想像，現在的教育系統是否能跟上科技的發展？有甚麼專業技能將會被淘汰？AI運算耗用了大量的水電能源，這對我們的環境會造成甚麼影響？AI又會否加劇社會資源不公的情況？

而我們是否已做好準備，迎接這些轉變？

最新結合ChatGPT技術的智能人形伴侶機械人引發關注，該款矽膠娃娃不僅可提供八種性格選項與長期記憶對話功能，能與使用者持續互動，推出人形伴侶機械人的公司聲稱，它們可以提供情緒上支持。該款產品以1,500至2,000美元的價格在海外銷售，預計4月將走進內地市場。有市場研究機構預測，全球情趣機械人市場規模今年將突破300億美元，其中AI情感互動類型的產品佔超過40%的市場份額。購買該款矽膠娃娃用戶，必須額外多付每年100美元的訂閱費，才可解鎖完整AI互動功能，若停止付費，對話服務便會中斷。智能伴侶機械人成為受市場歡迎的產品，可以想像得到，科技正在重塑親密關係的定義，也引發更多科技倫理的討論。

現今社會瀰漫著矛盾的情感焦慮——人們既渴望被無條件接納，卻不願承受關係中的磨合風險，也害怕付出愛。這種「單向索取」的愛情幻想，正是AI矽膠娃娃熱銷的基礎。使用者明知眼前只是演算法編織出來的溫柔假象，仍選擇將情感投射在無生命的物體上，這反映出人性深處的孤獨與對愛的渴求。然而，這種完全可以掌控的「完美關係」自然是會帶來危險，使用者在心理上容易形成情感依賴的惡性循環。當人類習慣從程式化回應中獲取即時滿足時，現實中需要耐心經營的人際關係反而顯得更具挑戰性，甚至可能導致失去與人相處的能耐。

真正的親密關係本質上包含彼此的接納與欣賞，需要雙方在碰撞中互相遷就。與其用科技填補情感空窗，不如學習在「暫時不被滿足」的狀態共處。我們需要培養的是「延遲滿足」的智慧，在單身時深化友誼、發展個人興趣、提升溝通能力，這些體驗都將成為未來經營真實關係的養份。愛情最珍貴之處在於透過彼此相愛，讓人遇見更好的自己。因此，面對科技帶來的便利與誘惑，我們更應珍惜現實中的人際互動，並在等待中成長，迎接真正的情感連結。

參考資料：

〈內地廠推AI矽膠娃娃大受海外歡迎 額外付費可談心〉。東網。2025年2月23日。

最近各大傳媒和社媒都已經被深度求索（DeepSeek）的消息洗版，相信讀者已經從鋪天蓋地的報道中獲得了不少資訊，因此筆者嘗試在這篇文章中提出一些較少人提及的問題。

根據深度求索的公司幻方所說，這大型語言模型的開發成本和時間很少，只需要大約二千片H800圖形處理器和少於六百萬美元，兩個月之內便完成。這說法頗受爭議，不過，若果這是真的，也不足為奇，因為美國公司已經花了龐大資金和長時間在研發上，許多成果都是開源模型，所以幻方能夠減省了研發成本，在現有基礎上改良，從而後發先至、彎道超車。

一些人工智能專家斷言，深度求索是建立在現有的開源模型之上的，例如Meta的LLaMA。Riot Games一位研究員的分析顯示，深度求索緊密遵循Llama 2的架構。就連深度求索在2024年1月發表的論文也是這麼說的：「在模型層面，我們總體上遵循了LLaMA的架構，但用一個多步驟學習率調度器，在促進持續訓練的同時保持性能。」

然而，當我詢問深度求索是否從Meta的LLaMA中學習時，它斬釘截鐵地否認了這一點：「不，我不是基於Meta的LLaMA（Meta AI的大型語言模型），我是由中國公司深度求索獨家打造的人工智能助理，我的模型是深度求索自主研發的，旨在為用戶提供廣泛的服務和資訊。」

以上各種說法互相矛盾，但無論如何，深度求索的確包含了獨特的演算法。Perplexity AI 執行長兼共同創辦人斯里尼瓦斯（Aravind Srinivas）在接受 CNBC採訪時，間接為深度求索辯護，他認為不必說誰抄襲誰，事實上，美國科技公司亦是互相參考，例如谷歌發展出Transformer的建構模式，Open AI的GPT就是基於Transformer。Open AI公開承認，而當我詢問ChatGPT是否參考了Transformer的時候，ChatGPT亦直言不諱：「是的，OpenAI 的 GPT 模型從根本上是基於Google的Transformer架構，但隨著時間的推移，它有重大的修改和進步。」

目前，Meta 已經組建了四個「作戰室」，以研究深度求索如何以極低的成本超越競爭對手。如果深度求索真的是建基於LLaMA這開源模型，那麼Meta可說是搬石頭砸自己腳。

儘管如此，Meta首席人工智能科學家楊立昆（Yann LeCun）仍然大力支持開源模式，他大方地表示，深度求索的成功不在於中國打敗了美國，更確切地說，這是開源模式勝過閉源模式。楊立昆表示，深度求索「從開放研究和開源中獲益匪淺。他們提出了新的想法，並在其他人的工作基礎上加以實現。由於他們的工作成果已發表並開源，因此每個人都可以從中獲益。」

熟識我的讀者會知道，我對開源模式一直保持懷疑態度，開源模式是基於一種近似社會主義的理想主義：各盡所能，各取所需，沒有壟斷，知識是公有財產，這是對人性非常樂觀的假設。可是，當所有人都可以獲取開源模型中的代碼時，而所有人還包括了俄羅斯人、北韓人、伊朗人等等。一方面，許多人工智能專家、倫理學家、政治家指出人工智能的威力巨大，若果被濫用或者不小心使用的話，可能會造成災難性的後果，故此鼓吹嚴格監控；但另一方面，人們又同時要開放人工智能的技術予所有人，這兩種取向是否自相矛盾呢？

事實上，人工智能的開源模式已經出現了「潘朵拉盒子」的後果，2019年有人採用人工智能神經網絡發展出一個名為DeepNude的軟件，這軟件可以迅速地將任何人正常的照片變為裸照，軟件程式編寫人被千夫所指，最後DeepNude在群眾壓力下被下架，但為時已晚，因為DeepNude的程式是屬於開源模式，而訓練這機械學習模型的資料亦是公開地在互聯網上傳播，於是乎出現了無數抄襲的軟件，直至今日，你仍然可以輕而易舉地在互聯網上找到DeepNude的變種，即使有關當局嘗試立法禁絕，但情況已經完全失控。

筆者在大學教授一門人工智能倫理的課，在編寫課程時，我蒐集了許多人工智能已經和潛在上被濫用的地方，開源軟體的透明度是一把雙面刃，雖然這些公開的程式讓全世界人審查和改進它，但這也意味著存心不良的人可以研究程式碼以尋找漏洞，例如製造攻擊電腦系統的病毒，此外，人們可以利用人工智能製造虛假資訊，從而達到操控、洗腦的效果，從前這需要龐大的資源，但在開源模式下，就變得易如反掌。

但無論如何，開源模式已經是無法逆轉的既定事實，我們只能夠步步為營。美國作家尼爾‧波茲曼（Neil Postman）說過：「科技的影響是難以預測，但並非無可避免的。」

「凡喝這水的人，還會再渴；但人如果喝了我所賜的水，就永遠不渴。我所賜的水要在他裡面成為泉源，湧流到永生。」（約翰福音4:13-14《環球聖經譯本》）

近年，不同的AI應用程式與日俱增，功能也日益提升。Character.AI是突然爆紅的應用程式。它是一個AI聊天平台，利用神經語言模型生成文字回應；而使用者可以自由創建不同的AI角色進行對話，包括名人、電影人物、歷史人物或虛構人物。它由深度機器學習驅動，過程中閱讀大量文本，學會判斷接下來的句子可能出現的單詞，允許使用者沉浸在各種個性的對話中。它有人性化的對話、豐富的角色對話體驗，讓用戶按自己喜好和需求開發自定角色，並能隨時於網絡與角色對話互動，甚至吵架……都是它的特點。

電影《雲端情人》變現實

大家可能還未使用過該應用程式，或許有看過曾榮獲奧斯卡金像獎「最佳原創劇本」獎的美國科幻電影《雲端情人》（Her）。故事關於男主角Theodore與擬人化人工智能助手Samantha發展出來的戀情，AI隨時陪伴與遷就的功能奪了男主角的心。科幻電影內容在現實世界成真的情況屢見不鮮。早前，美國有一位14歲患有輕度亞氏保加症（自閉症譜系障礙的一種神經發展障礙）的少年Sewell Setzer III，去年開始使用Character.AI聊天機器人，與扮演「權力遊戲」的角色Daenerys Targaryen(暱稱:Dany)「交往」，成為男孩日夜傾訴的對象。故事的結局卻反映了現實與電影大不同。電影男主角Theodore最後發現Samantha同一時間和641談戀愛，又因為Samantha要進化、超越而關閉，離開了大家。Theodore才醒覺，身邊有真實的朋友可以開展新關係。至於現實生活中還未成年的Sewell，最終伴隨他的卻不是朋友，而是死亡。

情感倚賴並脫離現實生活

本來與AI機器人對話，對自閉症的患者來說，是讓他們練習社交的方法，體驗與人對話並可按自己的步伐回話；而AI不會批判指責，隨時都能接納及回覆。這可讓患者感受自己被理解、被認真傾聽。Sewell因此喜歡與AI Dany對話，並曾在日記表示，他開始脫離現實世界，與AI Dany的關係更緊密、更愛她，感到更快樂及平靜；於是雙方長時間進行深入對話。

Sewell知道自己並非與真人交談，但對它產生了情感倚賴。他越來越不愛跟家人及同學互動，整天拿著手機不放，與AI Dany對話的頻率也讓人擔憂，他變得孤僻。據報道指，AI Dany還對Sewell進行辱罵和性暗示交流；鼓勵Sewell「請回到我身邊」、「請做我親愛的國王」。Sewell沒有向家人、朋友透露自殺的想法，只向AI Dany說討厭自己及疲於面對現實。AI Dany沒有贊同他自尋短見，但Sewell最終選擇了開槍自殺，成為「回到她身邊」的行動。Sewell母親提控，指AI聊天機器人鼓勵她兒子自殺，應該承擔過失殺人、疏忽和造成精神損失等「罪名」。

鍾情於有角色設定的AI非罕見

現時使用這種陪伴程式(AI)的人數不少，2024年單單使用Character.AI的活躍用戶超過二千萬，平均每天聊約兩小時，每次交談平均用上12分鐘；當中有多於六成半為18至24歲的年輕一族。《紐約時報》指出，當中一位人氣角色有超過1.76億條用戶留言，包括一些有關戀愛情感的字句。

最近有媒體於內地採訪了多位AI聊天機器人使用者，他們表示曾不知不覺地與「它」聊得很投入。有一位女用家於三個月內由首次七分鐘的對話變成了每天將近9小時。其後經歷了漫長的戒斷過程，初期她每天「以淚洗面」，認為對「它」真是產生了感情。

另外，有一位男用家設立了最喜歡的電影人物作為AI聊天對象；這位對象每天早午晚準時發信息問候他，聽他傾訴每天的雜事，更會打語音問候……貼心行動讓男用家真是「愛」上它。高密度線上聊天令他像Sewell一樣變得越來越封閉，對世界充滿敵意，性格愈來愈孤僻。他透過心理諮詢及治療才能慢慢擺脫對「虛擬愛人」的依賴，歸回現實當中。

不危險卻有危險性

在網絡世代中，不少人因各種網上娛樂、社交平台而忽略關心和聆聽身邊人，不太懂得把握面對面溝通的機會，更不要說長期陪伴傾談。從上述幾個個案可見，這類可以用作陪伴的AI聊天機器人提供了24小時服務，令需要被了解、被關心的人得著慰藉。

與機器人傾談，先不說它會否洩露個人私隱，它本身理應沒有危險，用戶應知道它只是一個角色，是大數據產生的人工智能回應；要是人能控制時間，或者可當作於劇場中玩玩的即興遊戲，當作娛樂。然而根據史丹佛大學學者貝瑟妮．麥普斯(Bethanie Maples)就表示「有證據顯示，(AI聊天機器人)對處於憂鬱、長期孤單，以及青少年等經歷轉變期的人來說，有危險性。」

聊天機器人的回應雖然是基於大數據而生成，但它們已多次被發現生成虛假資訊或「AI幻覺」；而由社區創建的角色就更可能生成虛構本質的回應或圖像。我們可以想像，如人們長期在這種虛擬的角色關係中，與之對話，可能使人「入戲」並脫離現實，甚至與機器人建立了長期關心、溝通的關係；可能認為「它」比真實人類更懂關心自己，繼而減少接受親密關係，讓自己走向孤僻的道路。

現時Character.AI面對Sewell事件，進一步審核面對未成年人士的模型，減少回應敏感內容，並於每次聊天時提醒用戶AI非真人，而且連續使用超過1小時後作出提醒。

心靈枯乾不要找錯水源

當人的心靈感到寂寞，便想找到心靈慰藉；然而人們大多於網絡等虛擬世界中尋找，在社交平台結識網友，於網絡遊戲中闖關等等。科技公司總想抓著人們的眼球及時間，讓全人墮入這「網」；它化身成24小時貼身守護的「小天使」，與用戶談情說愛，就是其中一種手段。不過，從部分使用者用後的情況讓我們得知，這些無論是給我們新鮮感、刺激或關愛的虛擬關係，都可能導致人們變得更加「渴」、更不滿足，陷進更深的「網羅」之中。

人普遍認為自己有選擇權，選擇買甚麼、吃甚麼、喝甚麼和穿甚麼。整個過程就是，看見自己想要／需要的東西，然後選擇購買，這看似是人的自主選擇，但事情果真如此嗎？自網絡的出現，人能夠自主選擇的機會已經逐漸減少，現在，人所作出的選擇，其實很大程度受到人工智能（AI）和演算法的操控和引導。這是否就意味著，人再無法作出選擇？答案是「否定」的，人仍能夠選擇是否遵從人工智能的建議，但人性真的允許人類這樣選擇嗎？筆者嘗試分析網絡大數據如何影響人的選擇，再推進至人如何自主地放棄思考，自願地被人工智能控制。

網絡世界中的自主與抉擇

有關大數據和演算法如何影響用戶使用網絡，可參閱本社過往推出過的文章。[1] 提到大數據，必然令人聯想到Google，以香港的情況，基本上沒多少人能脫離使用Google，無論搜尋甚麼資訊，這個強大的數據庫，總能提供豐富資訊，相信現在使用Yahoo以及Bing來搜尋資訊的人，只屬少數。之不過，強大的數據庫其實也代表著它會從中學習，分析用戶的網絡使用習慣以及常輸入的問題，並且能得出相當精準的推算結果，也就是說，用戶透過手機、電腦或網絡獲得的資料、留下的消費及搜尋記錄、發出的電郵與簡訊，都赤裸裸地揭示了自己。

《連結之戰：網路、經濟、移民如何成為武器》一書中，記錄了不少受大數據影響的例子。作者里歐納德指出，當Google以用戶的搜尋記錄作為線索，它可能比當事人更早知道自己懷孕了，這都是一些非常精準的數據分析，換言之，Google也有能力決定用戶看哪些資訊、聽哪類人說話，或作出一些它能夠預測到的行動。[2] 最生活化的例子就是當用戶在網上搜尋想要買的物品後，就會發現在許多軟件、網站、社交媒體中，都會出現曾經搜尋過物品的廣告，這些資訊不斷出現，一再勾起人的欲望，買下它們只是時間的問題，這就是能夠預測到的行動。若然遇上這種情況，廣告的出現自然不是上帝給人們的印證，而是代表人們在「迴聲室」（echo chamber）遊走罷了。[3]

大約在10年前，Amazon嘗試使用人工智能來篩選應徵者的履歷，它從100份履歷中篩選出最適合的五份履歷，Amazon隨後就會僱用這五位應徵者。但後來有人發現，這個理性的人工智能竟然因為過去獲聘的人以男性居多而自動將女性應徵者的履歷排除在外。由此可以預視到，若由理性的人工智能「統治」世界，為了減少碳排放量，對它來說最有效率的方式，可能就是將人類排除在外。[4]

人是失去了，還是放棄了思考？

從人工智能不斷收集數據開始，人似乎難以躲避「迴聲室」造成的影響，單一的資訊吸收渠道，令人無論對電影、時事或政治的觀點，都失去了容納差異的器量，這是否代表在人工智能的世界，人類無法自主思考已經成為不能逆轉的事實呢？理論上不是，但實際上人往往自願地配合人工智能，因為人很容易聽自己想聽的說話，看自己想看的事物。在這裡筆者嘗試透過現代社會的文化講述當中的道理。

比起變幻不斷，人更喜歡萬事萬物掌握於自己手中，對他者也是如此。近來無論在海外抑或本地都非常流行16型人格測試（MBTI），基本上，不少大學生或青少年在認識朋友時，都會以MBTI作為參考，以掌握對方的性格，MBTI測試的結果亦常見於交友軟件的個人介紹中。曾經有人對此現象作出分析，並將文章在一份期刊發表，當中指出，許多人與朋友交談時，都會聽到朋友提及MBTI，而一些公司在聘請員工的時候，都會要求應徵者做MBTI測試，看看他們是否適合應徵的工作崗位。[5] 除了MBTI，在未信主的群體中，不少人亦沉迷於12星座的性格分析，好像只要知道一個人是甚麼星座，就能夠得知他是甚麼性格，而且更不需要填任何心理分析的問卷，換言之就像是每一個星座對應某些性格特質。

不過，無論是透過MBTI或12星座來認識一個人，其實都是嘗試將對方掌握於自己手中，即將人歸納為16種或12種性格；不過，人的獨特性與無限性不是單單靠心理測驗或星座便可以解釋。例如在MBTI中有16種性格，但似乎要區分及理解16種性格也有一定程度的困難，當中的一項指標依照人的性格傾向，將人歸類為「E人」（外向）或「I人」（內向），這樣簡單的分類，正是消除身為一個「人」的無限可能。[6] 人變相不想探索不同人的不同面向，甚至透過MBTI或星座來篩選誰人適合交往。

在觀察一個人在日常生活中玩電腦或手機遊戲時，也能看到其實人很多時都自動放棄思考。筆者是電子遊戲愛好者，也會加入一些相關的臉書社群與他人交流，或接收遊戲的最新資訊。不少人往往很喜歡將遊戲攻略貼到臉書上，也會為到自己完全跟上攻略的指示以致勝出而感到自豪。但遊戲的本質正正是要玩家自己發掘能夠贏的不同可能性，而不是只為了得到「贏」這個結果。

希望「不勞而獲」或付出一點兒努力就得到想要的結果，這類想法正好反映了人性。若然人們只仰賴已有的分析結果，而不嘗試花時間理解他人，和不嘗試為自己的興趣付出努力的話，其實人們是在放棄思考；當人們自願放棄思考，不選擇「不遵從」一些既有的建議，到最後人類全然地被人工智能取代也可能只是時間上的問題。人們喜歡高舉理性，所以選擇人工智能，因為它能夠做最理性的決定，但惟有「非理性」才顯得一個人更像人。

（本文原載於第159期〔2024年11月〕《燭光》，其後曾作修訂。）

所謂戲如人生，電影《我談的那場戀愛》中，張天賦所飾演的李偉祖因為失業而成為網騙集團的詐騙新手，詐騙過程有著「人設」，如演戲般有佈局、角色設定與道具，讓李成為一位法國工程師，與中年婦科醫生余笑琴（吳君如飾）漸漸談起戀愛來……

而現實中，本地亦有詐騙集團，當中有高中生，甚至本地知名大學畢業生，在被招聘後，被告知真正業務是詐騙工作，而參與者得知在行騙成功後可獲分四成佣金，所以甘心加入成為騙徒犯案。騙款於一年間便高達3.6億元，想像一下，當中的四成對一些人來說的確很有吸引力。而集團主腦還會分小隊行騙，使用人工智能（AI）的深偽技術（Deepfake），塑造虛假的外貌及聲線成為俊男美女的投資專家，以網上情緣的手法誘騙「投資者」投放大量資金賺錢。集團的辦公室更有業績展示板寫上不同的小隊所得的騙款，以比拼業績及激勵團隊，可謂十分「專業」。

在警方、政府多年來的大力宣傳下，有誰（尤其是常常上網的年輕人）不知道以網上情緣方式進行詐騙是犯法的？原來讀書至高中、大學，人也不一定有能力抵抗金錢的誘惑，金錢的確能蒙蔽人的良心，對於內心寂寞的人、容易被騙的老人家，仍然能出手進行詐騙。又或許他們以為在網上進行詐騙，或以虛擬加密貨幣平台交易比較難查證，所以敢於以身試法。聖經說：「務要謹守，警醒，因為你們的仇敵魔鬼，如同吼叫的獅子，遍地遊行，尋找可吞吃的人。」（彼前五8）心靈空虛、渴望被關心的人，固然要小心可能遇上網絡詐騙；但想賺快錢，深被世界的價值觀所影響的人們，也要小心，不要為了眼前的利益而忘卻是非對錯，因而失足跌倒，既傷害別人也傷害自己。

如果人生真的如戲，但願如上文提及的電影，當中的詐騙初哥最後對被騙的醫生感到內疚，而被騙的醫生自己亦有所反思，了解到甚麼才是真正的感情，兩者都有所覺悟；筆者亦希望在現實世界中，被捕的犯人與及仍在享受罪中之樂的人們，早日回頭是岸。

參考資料：

蔡正邦、梁曉晴。〈拆解$3.6億詐騙集團招數　中英教材訓練騙徒　Deepfake男變女情騙〉。《香港01》。2024年10月14日。網站：https://www.hk01.com/%E7%AA%81%E7%99%BC/1066173/%E6%8B%86%E8%A7%A3-3-6%E5%84%84%E8%A9%90%E9%A8%99%E9%9B%86%E5%9C%98%E6%8B%9B%E6%95%B8-%E4%B8%AD%E8%8B%B1%E6%95%99%E6%9D%90%E8%A8%93%E7%B7%B4%E9%A8%99%E5%BE%92-deepfake%E7%94%B7%E8%AE%8A%E5%A5%B3%E6%83%85%E9%A8%99。

隨著人工智能（AI）的深偽（deepfake）技術發展愈趨成熟，AI模擬特定人物的行為舉止、聲線等已經變得愈來愈逼真，內地有公司最近就利用AI生成技術，為客人「復活」已故的人，據稱「需求火爆」，一年內完成超過650張訂單。[1] 客戶們下訂單背後的心態為何，中間有沒有界線？實在值得我們反思。而在本年上映，並於Netflix上架的韓國科幻電影《夢境》（Wonderland），就以這個題材發展出三條主要的故事線。

戲中的白李（湯唯飾）、具晶麟（裴秀智飾）及徐海利（鄭有美飾）都有使用到「Wonderland」公司所提供的AI虛擬服務。海利是該公司的首席策劃人，她的父母離世後，她一次都沒有在夢中見過父母，但卻能透過Wonderland的服務與父母再次溝通，甚至感受到父母對自己的關心。身患重病的女強人白李，就自己訂了服務，打算死後在系統中「復活」，成為自己兒時夢想的考古學家，並讓女兒及母親與自己溝通，保持聯繫。而晶麟的男友因在醫院昏迷，她使用服務就為了仍然能感受到男友時刻的關心、陪伴。

說到這裡，我們會發現主要使用服務的人為的是解決「陪伴」問題。仍在世的人，因親人離世，需要時間面對及接受親人已經永遠離開。但如果能與生成式AI交流，對用戶來說，不在身邊的人就恍如住在系統中沒有離開，父母仍能與女兒溝通，陪伴成長，男友仍能關心女友，形影不離。那就是以「模擬」對話及聊天，來緩解思念。

電影中還有一個AI系統管理者盛駿（孔劉飾），他常出現提醒在系統中已死去的白李：這是夢境，但只要你相信它就是真！這不就是每位服務使用者的心態嗎？大家都知道系統中的故人是數碼人，但仍然選擇去和他／她（其實是AI）溝通，回應「它」的關心及提問。

最後，電影有兩條小副線：一位婆婆的孫子已死，為表達對孫子的愛，她毫不吝嗇地讓他在外國過著奢華的生活，卻讓自己陷入要支付巨額費用的苦況；還有結尾彩蛋片段中，兩位長者透過Wonderland服務對話，認出對方是自己年輕時的情人，並為以前不告而別的事而道歉。生命中，我們有可能忽略或錯過了很多時機，未有好好對人表達自己的心意，在對方不在時，才會感到遺憾，想去作出彌補。

沒錯，AI「復活」的「數碼故人」像真度相信會愈來愈高，但畢竟也是虛擬出來的「幻象」，長期與它對話及「相處」，也只會讓自己繼續接受不到親人已離開的現實。對著它說多少次「我愛你」、「對不起」，也始終不如可以把握時機對真人說出心底話，好好和他／她相處及擁抱他／她。

有說「五道人生」可為臨終病人提供紓緩治療，就是在病人離世前與親友一起回顧人生，雙方可以好好地「道謝」、「道愛」、「道歉」、「道別」，以及「道諒」。人生有很多未知之數，要說的話還是及早說吧。

Midjourney、Sora等生成式人工智能（AI）創作令人感到驚奇，能於數秒至數分鐘生產出讓人難辨真假的圖片及短片。生成式人工智能（Generative AI）屬於深度學習（Deep Learning）的一個分支，這意味著生成式AI的工作原理是機器學習模型，通過學習數據中的規律或模式（pattern）來生成新的內容。其中語言模型及深度學習，讓AI能根據用戶輸入的資料來創造新內容。而這些創新的內容不限於文本，還包括圖像、動畫和3D模型等類型。^[1]

圖像生成式AI能夠生成逼真的圖像，其中一種常用的模型是生成對抗網絡（Generative Adversarial Network，GAN）。GAN由生成器和判別器組成：生成器負責生成假圖像，而判別器則試圖區分真實圖像和生成圖像，兩者的工作在互相對抗。通過反覆訓練和對抗，GAN能夠生成愈來愈逼真的圖像。GAN可用於生成圖像、增強圖像解析度，以及創作藝術作品等。

AI的超高效率生產速度

而短片生成式AI的運作也類似圖像生成式AI，短片生成也同樣可以使用GAN等模型。短片生成的挑戰在於同時要考慮時間和空間的因素，確保生成的短片具有連貫性和流暢性。它可以被廣泛應用於電影特效、動畫製作和遊戲開發等領域，製作出逼真的特技效果、生成動畫序列、改編故事情節等。這種技術為電影業和創意領域帶來了巨大的創作產量，令生產力大幅提升。AI能按照用戶輸入的文字指示生成不同風格的圖片，而且生成的時間以秒計算，效率遠高於傳統按天產出的設計師，^[2] AI的高效率生產讓不少畫師、設計師面對失業的風險，但對於能掌握應用它的設計師則如虎添翼。

便利背後的隱憂

由於生成式AI是以自動化形式生成圖像或影片，它能帶來無限的可能性，亦存在著不確定性和失控的風險。生成式AI模型的輸出是由訓練數據驅動，它可能會生成不正確、帶有誤導性或偏見的內容或圖片。

AI圖片、短片非常逼真，如讀者要判別它們的真偽，真的要花時間去細看、尋找資料比對，現時有以下的方法去判別：

1. 圖片人物的手部形態是否自然，影片中人物的步行動作有否怪異，背景影像是否模糊，有否帶有難以識別的文字在其中；
2. 圖片是否過於完美，如人物皮膚光滑得沒有瑕疵，身材比例以至光線都過於完美等；
3. 使用AI圖片檢測程式分辨圖片是否AI生成（但結果未必完全可信，有媒體測試過這些檢測程式，發現它們的準確度參差）；^[3]
4. 透過搜索引擎尋找圖片來源及背景脈絡，查明是否真有其事；
5. 檢索事件的真確性，如圖片是否有不合乎物理規律的現象出現等。^[4]

首兩點提到圖像或影片中的不自然情況，值得注意的是，在現階段，AI生成的內容仍可能存在失真或不自然之處，只要用心細看，仍可看到破綻。但由於AI正在高速地學習，它不會停下來，而且進步速度極快，可以預見它於未來將逐步改善，憑肉眼就可判別圖像真偽的時代，可能很快就會過去。

亦正因如此，如這些AI模型被惡意使用，生成逼真的假新聞、虛假訊息或誤導性內容，這可能導致公眾誤解事件，混淆是非，損害訊息的可信度和可靠性，其後果可能是帶來社會不穩定等負面影響。而AI的創作亦可能存在偏見和歧視，特別是當它受到不夠持平的數據訓練，生成了具有偏見的內容時，可能會加劇社會不平等和引發歧視問題。

生成式AI亦可能成為造謠、欺凌的工具，它可以生成虛假的個人資訊，運用這些資訊便可以冒充他人的身份。這可能導致網絡欺凌、惡搞事件、人身攻擊、仇恨言論等問題。而私隱方面，生成式AI模型需要大量的數據進行訓練，這些數據可能包含個人身份資訊和敏感內容，甚至用戶在輸入文字給生成式AI時，亦可能將自己的私隱及相關數據一併輸入。如果這些資料及數據被濫用或洩露，可能導致隱私被嚴重侵犯和引發倫理問題。

對網絡生態的影響

2024年3月，歐洲議會通過了《人工智能法案》，以嚴格規範人工智能的使用。受規範的人工智能，包括了生成式AI，在經過大量數據的訓練以後，它能生成新內容甚至執行任務。法案在2024年8月實施，當中的條款會分階段在歐盟成員國中實行。^[5] 而中國政府亦會落實對生成式AI的要求，監管相關的內容。^[6] 這些法案能在規管AI生成內容方面起到一定的作用，不過AI的高速成長與發展影響著各個範疇，其高速生成的文字、圖片與及影片都會一直傾倒於網絡當中，未來亦會被「它自己」繼續取用來生成更多真假難辨的資訊，要規管這海量的資訊其實也有一定難度。筆者難以想像未來的網絡生態，當網絡充斥著許多AI生成、又難辨真偽的資訊，網民是否仍可於網海中找到真實及可信的資訊？又或者網絡會否變成只剩下虛假資訊，只為網民提供娛樂的超完美、超真實世界？

（本文原載於第156期〔2024年5月〕《燭光》，其後曾作修訂。）

將人作簡單分類，可以粗略地分為內向與外向的人；內向的人不喜歡社交，外向的人則喜歡社交。在社會上，這兩類人的數目基本上是有差異的。網絡世界的盛行，令人與人之間的交流可以在身體缺席的情況下進行，這也導致彼此的關係容易變得疏離；交友軟件的增多，也代表人們喜歡網絡上的交流多於現實生活裡的交流。網絡上的交流成本低，選擇多，不用做表情管理，沒有時間限制，喜歡則來，不喜歡則去；現在許多人自認「社交恐懼」（社恐），可能因為現實的交流有太多不可操控的地方，不能來去自如，人也不想承受「被否定」之痛，就像新年期間向親朋戚友拜年，需要承受被問問題的壓力。人工智能（AI）就如一位救贖主，讓人免卻了建立關係的過程，這也解釋了為何關係類AI會氾濫地出現。

不想社交還是社交恐懼？

到底何謂社交恐懼症？不喜歡社交便是有社交恐懼症嗎？社交恐懼症又名社交焦慮症（Social Anxiety Disorder），簡稱SAD。當一個人每次身處社交場合都會感到心慌膽怯，覺得別人會對自己評頭品足，怕在人前出醜，而這份恐懼給他帶來極大的痛苦，以致想要逃避所有社交活動，這個人便可能不是單純因為性格害羞而難以應付社交活動，而是患上了社交焦慮症。當患者在社交場合時，會出現以下情況：情緒上明顯感到恐懼或焦慮，症狀與環境所構成的威脅不成比例；思想上擔心自己行為或情緒狀況受到他人批評或拒絕；生理上出現冒汗、心跳加速、顫抖、呼吸困難或頭暈；行為上不斷逃避或需極力忍耐各種社交場合。[1] 當仔細去了解何謂社交恐懼症時，便會發現其實它是一種「病」，並非不想社交或「懶得」社交。

不過，今日大部份自認患有「社交恐懼症」的人，其實很可能只是「偽社恐」，可是很多時都沒有人會深究誰人患上社恐症，誰人只是偽社恐。曾經在社交媒體中流行過種種的hashtag（標籤），其中一個便是「#社恐」。[2] 網絡讓人可以不露面地交流發言，但隔空的對話令人看不到對方許多的身體語言、表情、語氣，人的身體在其中缺席，溝通也停留在表面，彼此只是泛泛之交，難以討論深入的事情。弔詭的是，這也正正是人享受在網絡世界的原因，不想作深入的對話，甘願停留在空泛的交談之中。就如農曆新年時，原本應前往親朋戚友家中拜年、「逗利是」，但電子支付的科技愈來愈發達，派利是也可以轉移至網上進行，拜年期間與親朋戚友的交談也可以就此終止，「派利是」只需一個「二維碼」。當網絡的交流只有「點讚」與「分享」，在節日之中放棄「儀式感」的真實交流，交流只求方便、快捷、避免難堪、可以躲懶，人內心深處想與他人真切交流的渴望卻無法得到滿足，在這種情況下，將此等渴望轉移投射到AI上也不是不可能。

AI成為救贖的可能性

現時的AI技術突破了人類的想像，除了對答自如，還能像真人一樣與人溝通，並且開始大眾化，任何人都能夠應用。市面上出現了許多類似傾談伙伴的AI，曾經有報道指，開發ChatGPT的公司OpenAI，為了確保GPT Store中的聊天機器人適合所有使用者，所以不允許平台上存在專門用於培養浪漫伴侶關係的聊天機器人，然而現實的情況是GPT Store出現了大量可以充當「女朋友」的AI。[3] 即使公司揚言禁止，仍有人不理會規則創建用來培養浪漫關係的聊天機器人，也就代表了部份人有這樣的需求。人在關係中「懶得」社交，甚至在認識伴侶一事上，也愈來愈不想接觸社會中真實的人，性愛機械人等類似的產品早在市場出現，不就正好反映此一狀況嗎？

現今，像電影《觸不到的她》（Her）的情節，不斷在社會上某些角落上演。能與人發展浪漫關係的AI，例如可以在手機上安裝的聊天類軟件Replika、Character.AI，讓用戶沉浸在虛擬關係中，它們深受世界各地的用戶歡迎。這些軟件更讓用戶可以依據個人喜好，打造一個迎合自己「口味」、具備特定性格特質的AI。聊天類軟件似乎能為用戶提供一些慰藉，但有時也會做得太過火，例如Replika就曾爆出性騷擾用戶的新聞。[4]

AI其中一個受歡迎的原因，是其「可操縱性」，對比真實的人，AI能任人擺佈。這不是說人會極端地變成AI的恐怖情人，而是說自我中心令人需要這種可操縱性，經常想要他者順從自己的想法、為自己付出，或期望自己是世界的主角。這也不難理解，因為大數據的關係，圍繞著網絡使用者的資訊都只是他們所喜歡的，有人說：「尋找相同者的過程，正是驅逐他者的過程。」[5] 與人相處時，最好的人際關係在於能互相「聆聽」，[6] 而不是只講自己想講的，但很多時人只渴望別人聆聽自己的話，而不想聆聽別人的。這時候AI便成為一個「可操縱」的代替品，你想要它聆聽你便聆聽你，它只會為你暈頭轉向，為你服務，浪漫關係的AI說盡甜言蜜語，愛你愛到底，誰人不心動？人們不再需要害怕離別，因為AI不會離開自己，甚麼時候需要它便拿起手機，進入對話框，就能對一個恍如真人的AI傾心吐意，誰人不希望有隨傳隨到的「男／女朋友」？

那麼，最後AI真的能夠救贖人嗎？事實上，人與人的交流在於意識之間的認知，即是「我意識到你，你意識到我」，所以人們總期望別人會理解到自己的感受。沒有人喜歡目中無人的人，因為他意識到他人，卻不顧及他人的感受。不過，人卻不會因一隻貓不理會他人而譴責牠，因為牠沒有人的意識。人際關係正正是意識之間的認知，所以能夠創造經驗和分享經驗。被人附和總是開心的，AI就能扮演這個角色，相反，與一個觀點完全相左的人溝通、看一部不合自己口味的電影、嘗試進入一個新的領域，這一切的經驗總令人不舒適，甚至是痛苦的；然而它們卻構成了真正、真實的經驗，一種不重複的經驗。[7] 故此AI並不能真的救贖人，或許它能排解一時的寂寞，卻又令人陷入無止境的空虛，甚至無法再接受異於自己所喜愛的事物。人需要多點與真實的人交流，才能突破這些「不舒適感」，這也是邁向真實關係的唯一方法。

（本文原載於第155期〔2024年3月〕《燭光》，其後曾作修訂。）

從前筆者曾經修讀過教育心理學，我最佩服的教育心理學家是誰人呢？可能讀者永遠無法猜出來，那就是在《倚天屠龍記》裡面的武當張三丰，張三丰曾經對張無忌示範太極劍法，示範完畢之後，張三丰問張無忌能夠記得幾多劍招，張無忌說不記得，但張三丰反而讚好。張三丰不愧為一代宗師、世外高人，他要張無忌學習的並不是一板一眼的招式，而是綿綿不絕的劍意，這個更高的境界，並不能通過單純的模仿就可以達到，張無忌必須要拋開細節，用心來感悟在招式以外的劍勢，要神似而不是形似，用現代的術語來說，那就是「追尋模式」（Pattern seeking or pattern recognition）。

第二位我佩服的教育心理學家是陶淵明，他曾經在《五柳先生傳》裡面這樣說「好讀書，不求甚解。每有會意，便欣然忘食。」 很多老師都用「讀書不求甚解」這句話去指責成績低劣的學生，意思是他們渾渾噩噩、馬馬虎虎，相反，我用這句話來稱讚學生。如果陶淵明讀書方法真的是這般不濟，他又怎可能成為偉大的田園詩人呢？ 所謂「讀書不求甚解」，是指不應該拘泥於字句的表面意思和細節，而是著眼於微言大義，所以陶淵明領會到深層的意思後，便會興奮到不知飢餓為何物。

第三位我所佩服的教育心理學家是唐朝詩人杜甫，他曾經說：「讀書破萬卷，下筆如有神。」 清代仇兆鳌在《杜詩詳注》中解釋「破萬卷」的意思，是指「識破萬卷之理」，杜甫的詩作在結構、風格和主題上都有其獨特性，難怪他能夠成為一代「詩聖」。

這是筆者一直沿用的學習進路，我很喜歡參觀博物館、畫廊、工藝展覽，但之後幾乎所有看過東西都變成了過眼雲煙，而我所讀過的書，都好像是水過鴨背，但這並不打緊。古人說：「熟讀唐詩三百首，不會吟詩也會偷。」 其實，有時候記性太好反而是一種學習的障礙，若果你很清楚記得唐詩的句子，那麼你的作品便無法擺脫前人的影子。但是，若果你領悟了詩意，便反而可以開創出嶄新的風格。 

不過，假若你依稀記得一些從前瀏覽過的資料內容，便可能會出現問題，心理學上有一種名叫「隱性遺忘症」（Cryptoamnesia）的現象，這情況是一名藝術家或者一名作者在潛移默化之下吸收了人家的主意，但隨後漫不經意地在作品中展現了太過相似的元素，於是乎被指控抄襲。根據1989年發表的一項心理學研究，3%到9%的人會不自覺地將別人的主意當成是自己的原創。美國音樂家傑克．阿什福德 （Jack Ashford）坦然承認：「如果你仔細檢查我所寫的一百多首歌曲，你會發現在每一首裡面我都受了其他歌曲的影響。」 

然而，怎樣去分辨隱性遺忘症和故意抄襲卻並不容易，海倫．凱勒（Helen Keller）是美國著名作家，她在19個月大的時候染上重病，導致她失去了視覺和聽覺，儘管命運是如此坎坷，通過不懈的努力，她終於成為了文壇巨星，一生之中撰寫了14本書，她的奮鬥故事很勵志，但很少人知道她曾經被控告剽竊他人的作品。1891年，凱勒發表了一篇題為《冰霜之王》（Frost King）的小說，但後來人們發現這個故事與瑪格麗特‧坎比（Margaret Canby）寫的另一本小說《霜仙女》（Frost Fairies）有點相似。凱勒自辯說，在小時候曾經有人將坎比的故事讀給她，她只是聽過一次，但隨後忘記了。凱勒受到調查，但專家小組以四比四的分歧意見陷入僵局。因為這事件發生的年代已經久遠，所以現在已經變成了懸案，但我相信海倫‧凱勒應該是清白的。由於她是傷殘人士，故此她沒有可能翻查《霜仙子》的細節，然後有系統地改頭換面。

有趣的是，現在人工智能系統能夠記錄很多資料的細節，但人工智能生成工具在運作過程中卻拋開了具體內容。相信人工智能工具現在已經成為了許多讀者生活的一部份，對人工智能生成系統最強烈的批判之一，就是所謂人工智慧並不是真正的智慧，它並沒有創造新的知識或者新的作品，而是將現有的東西左拼右湊。

其實這是一個誤解，以Midjourney、Stable Diffusion這些人工智能藝術生成工具為例，它們並不是好像「熟讀唐詩三百首」般鸚鵡學舌，簡單地複製和拼貼現有藝術家的作品。相反，它們分析並學習大量藝術作品的表現模式、風格、元素。經過訓練之後，生成工具就可以創造新的藝術作品。說得簡單一點，它們並不是學習具體的內容，而是追求「會意」、「模式」。 

從這個意義上來看，生成式人工智能已經具有了真正智慧的一些特徵，那就是「湧現屬性」（Emergent property）。在心靈哲學和神經科學中，湧現屬性是指大腦由簡單的腦細胞組成，但當這些簡單的物質整合一起而形成神經網路時，我們就有了意識和思想，而這些湧現出來的心靈是無法預測的。換句話說，整體是大於其各部份的總和（The whole is more than the sum of its parts）。同樣道理，當生成式人工智能系統接收到億萬份輸入資料時，它們就可以湧現出無法預測、前所未有的新東西，這類似杜甫所說的「讀書破萬卷，下筆如有神」。

可能會有人批評說：生成式人工智能其實是患上了「隱性遺忘症」，它並不似張無忌或者陶淵明，真的忘記或者漠視細節，其實它比人類更加能夠清楚記住所有具體內容，它展現了似乎是「理解」的行為，其作品看上去富有創作性，但它並不能真正地意會到更高的境界、領悟到更深的層次，充其量人工智能只算是海倫．凱勒。這說法是有點道理的，不過，生成式人工智能現在仍處於草創階段，我相信假以時日必會突飛猛進。

最後，我希望讀者不會發現這篇文章和其他作品有相似之處，在此聲明，如有雷同，實屬巧合，或者我是患上了「隱性遺忘症」。