综合外媒报导,人工智慧(AI)晶片巨头辉达(Nvidia)的竞争对手、全球最大AI晶片独角兽 Cerebras Systems宣布,推出Cerebras Inference,据称是全世界最快AI解决方案,较辉达目前这一代GPU快20倍,价格更便宜只有GPU的五分之一。
Cerebras的AI推论工具可为大语言模型Llama 3.1 8B,每秒生成1,800个 tokens,比超大规模资料中心的辉达GPU解决方案快20倍。而且Cerebras价格以每百万tokens收10美分起跳,与辉达GPU解决方案相比如同九牛一毛。
Cerebras执行长费尔德曼(Andrew Feldman)受访时表示,「我们产品的性能GPU达不到,而且精确度最高,价格最便宜,更透露已经从Nvidia那里抢到有意义的客户。」
Cerebras于2015年创立,曾表明挑战辉达市场龙头地位,更获ChatGpt开发商OpenAI行政总裁阿尔特曼(Sam Altman)投资。另有消息指出,Cerebras计画最快10月在美国上市。
发表意见
中时新闻网对留言系统使用者发布的文字、图片或檔案保有片面修改或移除的权利。当使用者使用本网站留言服务时,表示已详细阅读并完全了解,且同意配合下述规定:
违反上述规定者,中时新闻网有权删除留言,或者直接封锁帐号!请使用者在发言前,务必先阅读留言板规则,谢谢配合。