聊天机器人 背后软硬体贵得吓人

在OpenAI的聊天机器人ChatGPT一炮而红之前，一家名为Latitude的小型新创公司已研发AI Dungeon游戏，所提供的AI功能能藉由输入的提示创造奇幻故事。

随着AI Dungeon渐受欢迎，Latitude执行长沃顿（Nick Walton）表示，维护该平台的成本即暴增。因AI Dungeon产生文字软体採用GPT语言技术，后者属于微软投资的AI研究室OpenAI。只要愈来愈多人参与AI Dungeon游戏，Latitude就须支付更多的费用给OpenAI。

沃顿估计，在2021年使用高峰期，针对该公司採用OpenAI的生成式AI（generative AI）软体与亚马逊AWS，Latitude每月需付出将近20万美元。

沃顿表示，「我们都开玩笑说我们有人类员工和AI员工，两边支付的成本差不多。每个月要花一大笔钱在AI，我们不是大型新创公司，这是很庞大的成本。」

Latitude在2021年底停用OpenAI的GPT软体技术，改用较便宜、由新创业者AI21 Labs的产品，后者整合开放程式码和免费语言模型，藉此降低成本，这让Latitude支付AI技术的费用可降至每月10万美元以下。

Latitude昂贵的AI帐单反映出一个现实，就是生成式AI技术蓬勃发展的背后，业者必须承担极昂贵的开销。

此外，要执行AI运算必须特殊硬体设备，而辉达（NVIDIA）是AI产业晶片的主要供应商，数据中心设备的GPU要价即1万美元。分析师和技术专家预估，训练GPT-3等大型语言模型，总计要花费逾400万美元。