挑战辉达 Cerebras推全球最快AI推论工具

以挑战龙头辉达为目标的AI新创公司Cerebras Systems，27日发表号称全球最快的AI推论工具，速度比辉达GPU快20倍，价格更便宜只有GPU的五分之一。

Cerebras执行长费尔德曼（Andrew Feldman）受访指出，「我们产品的性能GPU达不到，而且精确度最高，价格最便宜。」

Cerebras的AI推论工具可为大语言模型Llama 3.1 8B，每秒生成1,800个 tokens，比超大规模资料中心的辉达GPU解决方案快20倍。而且Cerebras价格以每百万tokens收10美分起跳，与辉达GPU解决方案相比如同九牛一毛。

Cerebras创立于2015年，毫不掩饰挑战辉达市场主宰地位的野心，还获ChatGpt开发商OpenAI执行长奥特曼的青睐注资。开发全球最大AI晶片的Cerebras，今年3月发表专为训练AI模型设计的WSE-3处理器，採用台积电 5 奈米制程打造。Cerebras证实有IPO计画，本月向美国证管会秘密提交募股说明书。