《科技》高通CES火力全开！AI本地装置掀企业转型潮

透过这些解决方案，企业可使用其专有资料、微调模型及技术基础设施，将生成式AI应用于多种工作流程，并建立自动化、可重复的终端环境。例如，零售店、速食餐厅、购物中心、经销商、医院、工厂和生产现场等皆可受益于此技术，实现人力与机器流程的全面自动化。

高通技术公司汽车、工业及嵌入式物联网和云端运算部门总经理Nakul Duggal表示，这些全新的解决方案透过将生成式AI工作负载从云端转移至本地部署，彻底改变AI的部署经济效益。他指出，针对如店内助理、员工培训、资讯管理、安全规范遵循，以及场内销售与服务支援等应用，AI本地装置解决方案有效降低企业AI营运成本，同时加速生成式AI应用的落地。企业可藉此使用自有模型，确保隐私性与客制化，并对资料保持完全掌控。

高通AI本地装置解决方案由高通云端AI加速器系列提供动力，结合资料中心推论伺服器的效能与本地AI解决方案的功耗效率，提供优异的资料隐私和个人化体验。该解决方案支援多种功能，包括语音助理、小型语言模型（SLM）、大型语言模型（LLM）、多模态模型（LMM）、AI代理、图像生成、程式码生成及电脑视觉应用。此外，该解决方案支持从桌上型设备到壁挂装置丛集的多样化配置，灵活应对各种企业需求。

高通AI推论套组则提供企业与开发者一系列完整的工具与设计资源，用于开发或移植生成式AI应用。该套组包含丰富的应用程式介面（API），支援聊天、图像生成、音讯与影片生成功能，并与OpenAI API相容，方便整合多种流行的AI模型和框架，同时支援Kubernetes或裸机容器部署。

多家产业领导者已开始採用高通的AI解决方案。例如，汉威联合（Honeywell）与高通合作，设计和部署AI工作流程自动化应用；Aetina则基于高通AI本地装置推出轻巧、节能的企业AI应用装置，运用多个语言模型实现自然语言处理与工作流程自动化；IBM亦计画将其watsonx data和AI平台，以及Granite系列AI模型，整合至高通的本地AI应用装置，应用于汽车、制造、零售及通讯等多个领域。

这些创新解决方案展现高通在AI技术领域的强大实力，为企业实现生成式AI应用提供了更具成本效益且灵活的选择，推动AI技术的全面普及。