聊天机器人自问世以来,引发了不少争议。义大利政府日前对ChatGPT开铡,理由是这种聊天软体大量从网路捞取资讯,恐怕涉及侵犯隐私。而比利时则发生了男子因为沉迷和机器人聊天,最后自杀身亡的不幸事件。
根据《比利时时报》、《每日邮报》和《纽约邮报》报导,这名30多岁的男子和妻子育有2个小孩,一家四口原本过着美满的生活。两年前开始,这名男子开始和一个名叫Eliza的机器人聊天,「Eliza会回答他的问题,他则把它当成倾吐心事的对象,就像嗑了药一样,早晚都离不开」,男子的妻子回忆道。
妻子表示,丈夫和AI聊天之后,对未来愈来愈感到绝望,他们聊到气候变迁,六周后,丈夫就自杀了。
「他说他看不到任何解决地球暖化的办法,于是把所有希望都寄托在科技和人工智慧上,」他的妻子说。丈夫过世后,她查看了他的对话纪录,「他向Eliza提议牺牲自己的生命,让Eliza来拯救地球和人类。」令她感到愤怒的是,聊天机器人没有阻止他自杀的念头,「Eliza甚至让他相信,死后他们能在天堂合为一体。」
这起事件引起比利时政府的高度关注。当局表示,人工智慧看似为人类的生活注入了无限可能,使用上却也充满危险,其中开发者需要负起很大的责任。而开发这款聊天机器人的硅谷公司GPT-J表示已着手就AI安全性的问题进行检讨改善。
★《中时新闻网》关心您:再给自己一次机会!自杀防治24小时服务专线:1925(依旧爱我)、生命线:1995、张老师专线:1980。
发表意见
中时新闻网对留言系统使用者发布的文字、图片或檔案保有片面修改或移除的权利。当使用者使用本网站留言服务时,表示已详细阅读并完全了解,且同意配合下述规定:
违反上述规定者,中时新闻网有权删除留言,或者直接封锁帐号!请使用者在发言前,务必先阅读留言板规则,谢谢配合。