业界龙头连署警告「AI恐致人类灭亡」 3大「教父」就他不同意

人工智慧（Artificial intelligence，AI）当道，各行各业都在谈论如何应用AI，不少行业也面临因AI兴起而可能消失的风险，学界甚至警告会威胁到人类生存。现在就连OpenAI、Google Deepmind、Anthropic等多家AI企业领袖与业界、学界专家逾350人同声警告AI可能会导致人类灭绝，呼吁全球各界务必致力于降低此事发生的风险。于此同时也有科学家认为这种说法有夸大之嫌。

综合英国广播公司、路透社报导，这项发布于非营利组织「AI安全中心」（Center for AI Safety，CAIS）网站的声明简而有力：「全球应把降低AI造成人类灭绝风险的优先顺序，拉高到与大流行疾病、核武战争这些影响社会的议题并列。」

OpenAI执行长奥特曼（Sam Altman）、Google Deepmind执行长哈萨比斯（Demis Hassabis）、Anthropic创办人兼执行长阿莫戴（Dario Amodei）、研究AI先驱科学家辛顿（Geoffrey Hinton）、蒙特娄大学教授班吉欧（Yoshua Bengio）等人，都在署名之列。美国哈佛大学、中国清华大学等全球多所学府与研究机构的学者，也加入连署。

欧盟已开全球之先着手制定AI相关法案，奥特曼上周才批评欧盟管控过度还放话要退出欧洲，结果遭到政坛抨击。几天之后奥特曼就加入了CAIS的连署，立场显然大有转变。奥特曼预计周四（6月1日）与欧盟执委会主席范德赖恩（Ursula von der Leyen）会面。

2018年以人工智慧深度学习（Yoshua Bengio）荣获「电脑界诺贝尔」图灵奖（Turing Award）的3名学者就包括辛顿与班吉欧，另一名获奖人是纽约大学教授、同时也在Meta任职的勒昆（Yann LeCun），3人并称「AI教父」。辛顿日前向路透社表示，AI对于人类构成的威胁「可能比气候变迁还大」。

不过，勒昆与辛顿、班吉欧对于此事的态度并不相同。勒昆认为这些世界末日一般的警告是夸大其辞。其他不赞同如此末日论调的专家认为，「AI恐导致人类灭亡」的恐惧不切实际，也会转移已知问题的焦点。

普林斯顿大学电脑科学家纳拉亚南（Arvind Narayanan）先前已向英国广播公司表示，科幻小说一般的灾难场景并不真实：「目前AI的能耐根本不足以让这些风险成为现实，反而会分散世人对于近期AI害处的注意力。」

今年3月以来，AI带来的可能威胁如雪球般愈滚愈大。电动车厂特斯拉的老板、鉅富马斯克（Elon Musk）今年4月也加入公开信连署，敦促下一代AI技术开发应予以暂停。这封公开信质疑世人是否应该开发最终在数量、智商层面淘汰、取代人类的非人类智能。

美国与欧盟的美欧贸易暨科技委员会（U.S.-EU Trade and Technology Council, TTC）本周正好也在瑞典开会，预料会讨论有关AI规范议题。