《电周边》新汉在美Embedded展 秀Edge AI应用

地端型GenAI运算平台AI-X，推动特定垂直领域Edge AI应用落地。由新汉集团推出的AI-X是基于LLM(大语言模型)的地端型GenAI运算平台，随着各行各业对地端型AI应用的需求日益增长，尤其是在高度强调数据隐私和知识产权保护的领域，如医疗、金融、制造业和法律等，透过将资料运算从云端搬至地端进行，AI-X能大幅降低数据外泄的风险，同时降低运算能耗，其RAG(Retrieval Augmented Generation，检索增强生成)特性，能够直接参考并使用用户上传的限定范围知识库，也可以根据使用者不同的目的，以离线方式提供特定的回答模式及资讯内容，针对需要高度知识产权保护的行业，AI-X提供精准且安全的知识问答服务，同时避免开放式GPT常出现的误导性回应状况。

AI-X使用Ollama作为LLM语言模型，同时可支援多种AI模型如Llama3、Qwen2、Code Llama等，使用者能根据需求弹性选择最适合的模型进行训练和部署；其平台架构设计简洁直观，类GPT的使用者界面，让企业管理者能够轻松进行设备配置和系统监控，提升操作便捷性，无论是用于学术教育目的、法律文本分析、还是制造业实时数据监控，均能提供高效、可靠的解决方案。

除了本次主打的AI-X外，新汉集团持续强化软体定义边缘运算(Software-Defined Edge Computing)在各领域的应用，如智慧车载、智慧城市、工业型机器人以及工业级资安等领域推出创新产品，本次奥斯丁展会上，展示了多款软体定义边缘运算解决方案，包括基于NVIDIA Jetson Orin NX系统模组平台所开发的Coeus 3801T边缘AI控制器，工业4.0自动化事业部全新推出的NISE 54物联网闸道器，智慧城市应用方面则亮相了NDiS B339视觉边缘运算电脑，新汉旗下专注在开发OT资安解决方案的椰枣科技（TMRTEK）则展出 eSAF OT网路资安防护解决方案，提供工业级资安保护，应对日益增长的网络威胁。