人工智能(Artificial Intelligence,AI)發展至今,很多人對將來的世界都有不同的想像,機械人工程師或製造商展示給大家的,大多是AI為人類帶來便利、提供舒適生活、增加生活效益等,卻甚少告訴大家AI將如何改變人類的行為,又或為人類帶來怎樣的挑戰。漫畫家山田胡瓜的《AI電子基因》把讀者帶入一個二次元的AI世界,當中的重點並不在於介紹AI的高超科技,以及它的厲害之處,反而是讓讀者走進這個AI世界之後,對於因應新科技而來的問題,特別是倫理及人性層面,有更深入的反思。《AI電子基因》的內容太豐富,今次,讓我們來談談自主。
在《AI電子基因》的世界中,所有的交通工具(單車除外)都是以無人駕駛模式進行,因此當漫畫的主角須堂醫生,告訴車中的AI他要自己開車時,AI提醒他:「人類自行駕駛將不適用車輛保險。」AI這句話,是表示人類開車不如AI安全,所以才不適用車輛保險嗎?或許是,但最主要的原因是,在漫畫設定的世界中,人類賦予AI多樣性及個性,並且將其品牌化,然後要AI本身負起責任,這就是人類迴避風險的智慧。哪一個型號的AI無人車發生事故,即使事故是因車內的人類導致,也需要該型號的AI無人車承擔責任,從此不能再生產。AI可以成為人類的代罪羔羊,人類開車被視為危險的事,汽車保險不鼓勵人類開車,在此制度之下,一些認為自己開車才有樂趣的人,行動上受到牽制,他們不會感到自主及幸福,只會如須堂醫生一樣,批評「這個世界變得真討厭。」
AI世界不是很可愛的嗎?與落後的地區相比,家中有電力、有自來水、有抽水馬桶已經很幸福,不過,對習慣了這些東西的大家來說,這些幸福的層次似乎低了一點,也不覺得擁有它們有多幸福,但身處一個高科技,AI當道的世界,幸福感不是應該相對提高,自覺十分幸福嗎?
《AI電子基因》世界中有一些由公司建立的經濟圈,即所謂特區,只要符合資格,申請人提交所有財產,便可以免費享有住所、衣服和食物,AI會推薦及幫助居住在特區中的人找到合適的工作,一切都不會涉及金錢,工作的人只會拿到點數,用以換取不同的東西,想換取價值更高的東西,多賺取一些點數便是。當一切交給AI處理及計劃,讓AI「評價個人活動,並分配點數」,同時協助人完成他們的任務,有些人會樂在其中,但亦有人對這樣的生活抱有疑問,他們感受不到這是真實的人生。一位參加了一段時間便退出的女士表示:「只要一想到我的朋友,做的事以及生存價值,全都是由AI準備好的,就會覺得自己像是被操縱的人偶。」無獨有偶,另一位在特區生活了七年的女士,因被AI推斷她最大的幸福是單身,她不甘心,為了「靠自己贏得自己的人生」,她最後還是離開了特區。很多人都希望從金錢的壓力中釋放出來,做自己擅長及喜歡做的事情,但當一切都被AI安排好,看似有權選擇,其實早已經喪失自主。不過,用自主換回來的幸福是真正的幸福嗎?
《AI電子基因》把AI掌控世界的情況推到極致,這與真實世界還有很遠的距離,但某程度上又反映了現實的一些情況,已經有不少人把一些決定權交到AI手上,將來,交出主權的情況恐怕只會愈來愈多。《21世紀的21堂課》的作者Yuval Noah Harari推斷說:「隨著人類愈來愈依賴AI來做決定,對人生的觀點會發生甚麼影響?現在我們只是信賴由Netflix來推薦電影,由谷歌地圖來決定該往左走、還是往右走。然而一旦我們開始交由AI來決定要讀甚麼科系、在哪裡工作、和誰結婚,人生就不再是一場決策大戲了。民主選舉、自由市場,這些機制將會失去意義。而且大多數宗教和藝術品也是如此。想像一下,安娜.卡列尼娜居然拿出智慧型手機,問問臉書演算法,她是該繼續和卡列寧長相廝守,還是要和時髦的伏倫斯基伯爵私奔?又或是你最愛的任何一齣莎士比亞戲劇,裡面的角色居然是一遇到重要決定,就先問問谷歌演算法。如此一來,哈姆雷特和馬克白的生活大概能過得更舒適,但那究竟算是甚麼生活?我們有甚麼理論模式,能把這種生活說出個道理?隨著權威從人類轉向演算法,世界可能就不再是個『自主的人們努力做出正確選擇』的劇場。」
大家為何願意把主權交給AI,大家有可能認為AI的分析較為客觀,人類的分析較為主觀,不足以相信。《AI電子基因》世界中一位女漫畫家,受到不少人稱讚以後,她還是想「客觀地評價自己的作家格調」,於是用AI分析自己的作品,並且用AI按她平時作畫的風格創作出一個全新的故事。結果是——AI評論她的作品:「圖,畫得太差。」從此她失去畫畫的信心,久久不能下筆,掙扎及苦惱讓她開始脫髮,直到她休息沉澱之後,重拾積極向前的力量,頭髮才再度生出來,她亦願意再次接受他人的稱讚。
很多人以為AI演算法、大數據非常客觀,就如《AI電子基因》中的女漫畫家,寧願相信AI的分析,也不相信其他人的評價,其實它們的力量被高估了。《大數據的傲慢與偏見》一書的作者Cathy O’Neil,便以一個「圈內數學家」的身份,向大家揭發演算法霸權,並且警告大家:「預測模型正日益成為我們仰賴的工具:我們仰賴它們來管理組織、配置資源,以及管理我們的生活。但一如我在書中一再努力說明,這些模型並非只是用數據建立起來的;它們還仰賴我們選擇使用哪些數據,以及忽略哪些數據……如果我們不嚴肅看待這些抉擇,把數學模型視為中性和不可擋的力量(一如天氣或潮汐),我們便是選擇不承擔我們的責任……我們卸責的結果,是數學毀滅性武器把我們當成職場中的機械零件、排斥某些員工,以及助長不公不義的狀況。」
「耶和華神用泥土造了野地的各樣野獸,和空中的各樣飛鳥,把牠們都帶到那人面前,看他給牠們叫甚麼名字;那人怎樣叫各樣有生命的活物,那就是牠的名字。那人就給各樣牲畜、空中的雀鳥,和野地的各樣走獸起了名字。」(創二19-20上《新譯本》)神創造人類,賦予我們管理大地之權及能力(創一26)。AI世界只會愈來愈進步,但願人類不會愈來愈退步,過度依賴AI,失去自主,寧願將人生大小的選擇權,拱手讓給AI。
參考書籍
山田胡瓜著,Cato譯。《AI基因電子》,第1–8集。台北:台灣角川,2018–2019。
哈拉瑞〔Y. N. Harari〕著,林俊宏譯。《21世紀的21堂課》(21 Lessons for the 21st Century)。台北:遠見天下文化,2019。
凱西.歐尼爾〔C. O’Neil〕著,許瑞宋譯。《大數據的傲慢與偏見:一個「圈內數學家」對演算法霸權的警告與揭發》(Weapons of Math Destruction: How Big Data Increases Inequality and Threatens Democracy)。台北:大寫,2019。