去年年底,ChatGPT橫空出世,受到的關注浪潮,重新點燃了科技公司之間開發和部署類似AI工具的軍備競賽。OpenAI、微軟和谷歌處於這一趨勢的浪頭,但IBM、亞馬遜、大陸的百度和騰訊也在開發類似的技術,一串的新創也在開發各種使用生成式AI的工具。

一些人工智慧專家越來越擔心AI工具所產生的偏見、傳播虛假資訊以及對消費者隱私的影響,這些工具也引發了關於AI如何消滅工作、幫助學生作弊以及改變我們與科技的關係等問題。因此最近由一些科技界知名的人士領頭(包括蘋果電腦創辦人之一沃茲尼亞克和特斯拉創辦人馬斯克)發表一封公開信,懇請所有人工智慧實驗室暫停至少6個月對AI訓練的工作,因為AI會對社會和人類帶來「深遠的風險」。

公開信警告說人工智慧正在「陷入一場失控的競賽,部署越來越強大的數位智慧,沒有人(甚至是它們的創造者)能夠理解、預測或可靠地控制。」

這封信發表的時間距離OpenAI宣布一個更強大的GPT-4版本僅有兩周,這個版本比ChatGPT更厲害,嚇壞了教師、記者以及任何依靠建立和/或驗證內容的人。在展示中,這個升級版似乎更加先進,可以起草訴訟內容、通過標準化考試、看懂圖片、並從手繪草圖建立一個可以運作的網站。

「先進的人工智慧可能代表了地球生命史上的深刻變革,應該以相對應的謹慎和資源來進行規畫和管理。」信中寫道。不幸的是,這種相對應程度的規畫和管理並沒有發生。

信中建議AI實驗室和獨立專家,應利用這個暫停期間共同開發和實施一套共用的高級AI設計和開發安全協議,由獨立的外部專家進行嚴格的審核和監督。這並不意味著對AI開發的總體暫停,僅僅是從危險的競賽中退一步,這些競賽導致越來越大的不可預測的黑盒子——AI模型具有難以掌控的新能力。

這封信既反映了業界對近期AI大規模推向市場的真正擔憂,也帶有一點新派盧德主義(Neo-Luddism, 搗毀科技設備或棄之不用,提倡簡樸的生活)的恐慌。此外,一點點恐慌能夠吸引那些對AI產生懷疑的媒體注意力(畢竟記者們害怕AI將取代他們的工作,可以在幾秒鐘內噴出令人信服的文字)。

當然也有科學家對此表示荒謬,雖然這封信表達了合理的擔憂,但要求研究人員暫停工作可能只是為了幫助署名的某些人保持在AI領域的主導地位(馬斯克可能不受人信任)。企業的野心和主宰慾望往往戰勝了道德問題,如果這些署名的組織正在測試比ChatGPT或谷歌的Bard更先進的東西,大家也不用感到驚訝。

過去社會有對其他可能對人類產生災難性影響的技術暫停使用,這些例子包括人類的複製、人類生殖細胞的基因修改和優生學等等,AI是否屬於同一等級?而且6個月之後呢?

(作者為叡揚資訊數位轉型大使、台北商大前校長)

#AI #開發 #人工智慧 #暫停 #人類