《半导体》群联升级aiDAPTIV+扩展边缘AI应用 支援NVIDIA Jetson平台

这款搭载NVIDIA GPU的AI笔电将于本周在NVIDIA GTC 2025展示概念机，并开放登记购买。此外，群联也将aiDAPTIV+扩展至支援NVIDIA Jetson平台的边缘运算设备，强化在边缘端的生成式AI推论与机器人应用。

随着此次升级，aiDAPTIV+用户将迎来全新的aiDAPTIVLink 3.0中介软体（Middleware Software），提供更快的首次回应时间（Time to First Token, TTFT）和延长Token长度，进一步提升推论效能与准确性。此次扩展将开启更多应用机会，无论是大学生或AI产业专业人士学习LLM训练，还是研究人员透过PC深入解析资料，甚至是制造工程师利用边缘运算设备自动化生产流程，都能受益于此次的功能升级。

随着AI和边缘运算应用场景的增多，市场对AI开发人才的需求持续上升。开发者需要亲自操作LLM训练解决方案，以建立未来AI应用所需的AI软体或专属边缘AI模型；而政府机构、研究机构、医疗和工业等高度监管的产业，则需要边缘且安全的AI设备进行私有资料的微调训练。此外，市场对LLM推论速度与准确度的要求不断提高，企业希望在可预测的成本下获得最佳解决方案。aiDAPTIV+以经济实惠的GPU记忆体扩充能力，让用户能在边缘安全网路内微调训练大语言模型（LLM），并透过直觉化的软体介面与AI型互动，获取所需的AI生成关键资讯。

Maingear执行长Wallace Santos表示，延续去年GTC展出aiDAPT+ AI训练工作站的热潮，我们与群联深化合作，推出概念性AI笔电，让强大的边缘AI推论与装置端模型训练无处不在。这项技术突破将边缘AI能力带入轻便的行动平台，为企业、教育机构与学生提供经济高效的AI开发工具，无需依赖传统数据中心基础设施。

群联执行长潘健成表示，AI的发展已经来到关键时刻，企业、学术界与开发者都需要更灵活、高效的边缘AI解决方案来扩大AI的落地应用。群联的aiDAPTIV+不仅让用户在个人笔电或边缘设备上进行AI模型的训练与推论，还确保资料安全并降低成本，实现AI边缘运算的便利性。今年，我们与Maingear携手推出全球首款支援LLMOps的AI笔电，并强化aiDAPTIVLink 3.0的效能，让LLM的回应速度更快、理解力更强。此外，群联进一步扩展与NVIDIA Jetson平台的合作，将aiDAPTIV+引入边缘运算与机器人应用，让更多产业如制造、医疗、零售、智慧监控等领域，透过AI提升营运效率与决策精准度。