Qualcomm AI本地设备解决方案结合先进硬体与完整的AI推理软体,打造高效能的本地化AI运算解决方案,可在企业环境中发挥卓越效能。这项全新整合方案将于2025年第一季透过全球通路伙伴正式上市。

安提的旗舰型产品MegaEdge AIP-FR68桌上型工作站通过整合Qualcomm Cloud AI系列加速卡,为边缘运算树立全新效能标竿。每个Cloud AI 100 Ultra加速卡在八位元整数(INT8)运算下,提供高达870 TOPS的AI运算效能,且功耗仅150瓦特,展现卓越的能源效率。单一桌上型工作站至多可配置两张Cloud AI 100 Ultra加速卡。

此次合作亦为生成式AI带来创新应用,特别是在具备检索增强生成(RAG)技术的大型语言模型(LLMs)方面。使企业能够在标准PC型态的工作站上快速开发、测试和客制化生成式AI模型,并可无缝扩展至私有或云端数据中心。这项功能对于需要安全、高效能AI运算的产业尤其重要,如医疗保健、金融、零售和制造业等。同时,作为宜鼎集团子公司安提国际也透过此次策略合作,强化其作为集团AI创新驱动力的关键定位,并展现接轨国际大厂的技术实力。

安提国际副总经理洪英瑞强调此次合作的变革潜力,安提与高通技术公司的合作代表着边缘AI部署的重大突破。透过桌上型系统设备实现复杂的运算环境,同时让企业级AI应用更易于部署。此解决方案使企业能够在本地端运行复杂的AI模型,在确保资料隐私的同时,维持卓越的互通性和云端级效能。

#AI #安提 #技术 #运算 #解决方案