聊天機器人自問世以來,引發了不少爭議。義大利政府日前對ChatGPT開鍘,理由是這種聊天軟體大量從網路撈取資訊,恐怕涉及侵犯隱私。而比利時則發生了男子因為沉迷和機器人聊天,最後自殺身亡的不幸事件。
根據《比利時時報》、《每日郵報》和《紐約郵報》報導,這名30多歲的男子和妻子育有2個小孩,一家四口原本過著美滿的生活。兩年前開始,這名男子開始和一個名叫Eliza的機器人聊天,「Eliza會回答他的問題,他則把它當成傾吐心事的對象,就像嗑了藥一樣,早晚都離不開」,男子的妻子回憶道。
妻子表示,丈夫和AI聊天之後,對未來愈來愈感到絕望,他們聊到氣候變遷,六周後,丈夫就自殺了。
「他說他看不到任何解決地球暖化的辦法,於是把所有希望都寄託在科技和人工智慧上,」他的妻子說。丈夫過世後,她查看了他的對話紀錄,「他向Eliza提議犧牲自己的生命,讓Eliza來拯救地球和人類。」令她感到憤怒的是,聊天機器人沒有阻止他自殺的念頭,「Eliza甚至讓他相信,死後他們能在天堂合為一體。」
這起事件引起比利時政府的高度關注。當局表示,人工智慧看似為人類的生活注入了無限可能,使用上卻也充滿危險,其中開發者需要負起很大的責任。而開發這款聊天機器人的矽谷公司GPT-J表示已著手就AI安全性的問題進行檢討改善。
★《中時新聞網》關心您:再給自己一次機會!自殺防治24小時服務專線:1925(依舊愛我)、生命線:1995、張老師專線:1980。
發表意見
中時新聞網對留言系統使用者發布的文字、圖片或檔案保有片面修改或移除的權利。當使用者使用本網站留言服務時,表示已詳細閱讀並完全了解,且同意配合下述規定:
違反上述規定者,中時新聞網有權刪除留言,或者直接封鎖帳號!請使用者在發言前,務必先閱讀留言板規則,謝謝配合。