ChatGPT為人類生活帶來便利性,卻同時帶來難以避免的危害。當這股網路霸權加劇衝擊既有社會秩序,我們該怎麼辦?

ChatGPT的誕生,為人類社會帶來了許多積極影響,有助於推動科技和文化的發展,提高人們的溝通效率和知識水平,推動社會的進步和發展,」問世四個多月的聊天機器人ChatGPT,談起自己的存在,如此寫道。

這段回答,顯得過於樂觀。歷經連番追問,它才終於承認自己將帶來的種種衝擊,並坦言,要做出改善,必須集結全社會的力量,長期持續努力,一切並不容易。

ChatGPT的「自知之明」,實際上反映了許多人的擔憂。

一如歷史上每一次科技突破性進展,在提升生產效率、加速進步的同時,往往為原有秩序帶來顛覆性轉變,眼前這場AI技術革命,亦是所有人都無法迴避的社會革命。

ChatGPT新霸權,學者憂心

「簡單地說,我非常擔心。」國立政治大學新聞系教授劉昌德直言,ChatGPT加快訊息被生產及傳播的速度,加上人類往往會盲目認定新科技物中立客觀,這對謠言、假新聞的散布,無疑形成更大的溫床。

劉昌德還點出另一個微妙的心態,「大部分人並不是想要Google回答他們的問題,而是期待Google直接告訴他們怎麼做。」他引述Google前老董施密特(Eric Schmidt)的名言,強調人都有惰性,而相較搜尋引擎在輸入關鍵字後條列許多連結,如今ChatGPT則是直接「餵養」單一答案給使用者,大公司抓準使用者的痛點,也難怪許多人埋單。

這為人類生活帶來許多便利性,但從另個視角出發,劉昌德擔憂,當AI背後的訓練資料集存在錯誤或偏見,可能為個人帶來隱私及名譽的侵害;更進一步,還將形成一股「新霸權」,不斷重複主流意識形態,連帶使少數、非主流的小眾意見受到更嚴重的打壓,並不利於公民社會的正向發展。

國立清華大學通識教育中心教授林文源,也在親身多次實測後,有了相似體悟,「從它的用語可以看出,裡面大量使用中國資料。」

這意味著,若使用者並不清楚AI獲取資料的來源,將在無形中受背後意識形態所操控。尤其各國發展AI的資源落差極大,「市場的壟斷」更是對言論、生活方式,以及思想的進一步壟斷。

林文源舉例,過去社群媒體演算法形成同溫層、操弄總統大選等現象已為人詬病,生成式AI的訊息傳播方式、甚至造假能力,恐怕會讓網路上的「分眾」現象更加嚴重。若是個人無法意識這股霸權的存在,就可能陷入AI創造的、一個「更真的假世界」。

法律管得了人,管得了AI?

面對種種危害,讓法律介入監管的訴求受到關注,但另一個問題也油然而生:法律管得了人,但管得了AI嗎?

「我不認為法律管得了AI,這個期待太難了,」前行政院政務委員、理慈國際科技法律事務所共同創辦人蔡玉玲指出,由於法律制定程序冗長,要應對快速成長、變化莫測的AI,可說是鞭長莫及。

除了立法不易,其二則是執行上的困難。

蔡玉玲在政務委員任內,曾負責處理Uber落地爭議,該次事件涉及Uber是否該在台繳稅、納保,並為人身安全負責,避免其打著「共享經濟」之名,為台灣社會帶來亂象。耗時多年,雙方才終於達成共識,有條件開放Uber落地。

劉昌德則以知名的「施建新案」為例。2008年,時任職棒米迪亞暴龍執行長的施建新無故被捲入打假球案,而後獲判無罪確定,但搜尋引擎上仍流傳其打假球的相關訊息,施建新於是主張「被遺忘權」向Google提告,全案直至去年6月,才獲二審勝訴。

這些例子,凸顯台灣跟跨國大企業交涉耗時費力,套用在現下情境,也是如此。

此外,蔡玉玲以生成式AI引發的著作權爭議說明,目前法律上評判侵權與否的標準,包含是否為合理使用、著作間的相似性,但目前AI生成內容的過程與資料來源並不透明,在既有法規框架下,根本難以做出判決。

企業展開對話,負社會責任

或許法律不完全管得了AI,不過林文源認為,有些規範仍得建立起來。立法要求AI做出標示,便是其中一個做法。

「就像食品標示一樣,AI本身就要標註自己怎麼被生產出來、資料從哪裡來,」林文源解釋,「我們知道它的極限,才不會以為它無所不能,不會讓某些族群因為它的限制而受到傷害。」

劉昌德也同意立法規範AI標示來源,此外他建議,若AI如同搜尋引擎般侵害個人名譽和隱私,產生「被遺忘權」的爭議,還是應建立起補救措施,將傷害降到最低。

但,回歸這股AI霸權的強大威力,微小的規範就算治得了標、也治不了本。劉昌德分析,問題並不出在科技本身,而在其背後的科技公司,若企業只以獲利為目的發展AI工具,就容易忽視科技對社會文化造成的深遠傷害。

「我們要節制的不是AI的影響力,而是節制資本在這裡面的力量,」劉昌德點出關鍵,「企業不是不能獲利,而是必須負起社會責任,在AI即將快速成長的轉捩點,這是最重要的事。」

他認為,這些跨國科技公司應和社會開啟兩層次的對話。首先,是與各地公部門和民間團體的對話,比如,當碰上有爭議的言論時,訓練者不應以「內容審查」的形式,直接告訴AI誰是誰非,反而該讓各方觀點有碰撞的機會,進而提供AI較適當的內容。

其次,則是與內容產製者展開對話。如同全球各地媒體積極向Google、Meta等集結媒體內容而獲利的平台業者協商,AI公司也該負起責任,透過獎勵或補助機制,鼓勵業者產製優質內容,才能促成好的產業生態系,防止低劣內容一再複製、生成,加劇對社會的危害。

或許對話過程將耗時費力,但也唯有如此,才能在有朝一日,讓科技真正推動社會進展。

長期提倡「公共化AI」的林文源也指出,台灣雖難以複製大公司打造ChatGPT的模式,卻具備活絡的公民社會及高素質的工程師,加上近年政府開放資料、資料治理的概念都逐漸成形,在這股浪潮之下,能期待AI進一步落地,帶來正向循環。

「解決AI帶來的負面影響,需要全社會共同努力。只有通過合作,才能實現AI的可持續發展,以及對人類社會和文化的積極影響。」對此,ChatGPT也是這麼說的。

本文作者:陳品融

(本文摘自《遠見雜誌4月號442期》)

《遠見雜誌4月號442期》
《遠見雜誌4月號442期》
文章來源:遠見雜誌
#生成式AI #ChatGPT #社會革命 #惰性 #市場的壟斷