矽智財大廠安謀(Arm)IP產品事業群總裁Rene Haas於台北國際電腦展COMPUTEX論壇中,發表「全面運算引領AI成長」((Scaling AI Through Total Compute)主題演說。探討AI運算在各個市場所面臨的複雜挑戰,以及Total Compute解決方案為何能夠同時滿足AI效能提升與應用開發的需求。

Rene一開始即指出一個重大趨勢,就是AI核心平台邁向異質化時代。現在的智慧型手機已經內建許多人工智慧和機器學習(ML)的基礎功能,包括即時影像擷取、人臉辨識等,但在全球將近四十億只的智慧型手機中,目前約有85%的手機還是將機器學習的工作負載交由CPU或者CPU+GPU執行的。

而根據Arm對AI處理器工作負載的研究,為達成更佳的應用效能和使用體驗,發揮AI和ML的優勢,未來智慧型裝置的AI運算核心,將以CPU為中心,再整合運用GPU、NPU(類神經網路處理器)、DPU(資料流處理器)、FPGA(可程式邏輯閘陣列)等運算資源。

從產業轉型方面來看,不論是自動駕駛、5G引爆的邊緣伺服器需求、AI型穿戴裝置和虛擬實境、擴增實境、高畫質遊戲體驗、5G 智慧手機等,都帶來超高的運算效能與智慧功能要求。此外,安全也是一項極大的考驗,前述各種市場領域的設備與裝置,都儲存了大量的個人資訊,沒有人希望竊取個人機密資料的事件再次發生。

Rene指出,這些大規模運算流程、跨處理元件的運用、安全保護要求,以及特定領域運算vs通用運算等,都將讓應用開發變得越來越困難且成本越來越高,市面上太多不同軟體的選擇,造成開發人員/生態系統碎片化的擴大,增加了推動裝置AI化的困難。

針對上述的AI運算與體驗挑戰,Arm提供從系統整體出發,結合硬體IP、軟體架構和最佳化工具,一次解決未來運算複雜性的「全面運算」(Total Compute)解決方案。

一方面,Total Compute解決方案能以CPU為任務控制核心,再透過System IP確保AI運算的工作負載能達到最佳分配。例如影像搜尋作業由NPU執行,將比CPU更快、更有效率。再加上Arm的GPU、ML處理器、顯示處理器、Arm NN架構等,將能協助開發人員全面釋放AI效能。

另一方面,Total Compute為開發人員提供了一個更容易運用的未來生態系統。碎片化的軟體和開發人員生態系統,除面臨需提升各種裝置的存取效能以推展AI應用的挑戰外,複雜的運算又進一步提升效能的需求,因此為了能讓AI應用能輕鬆擴展到不同的環境中,Arm藉由快速、簡單、成本更低的Total Compute解決方案,提供一個統一的開發途徑。

Rene總結未來新的工作負載是以使用案例為設計基礎的,要解決未來的複雜性挑戰,必須從根本上最佳化硬體、軟體、平台安全性和工具。整個AI產業面臨著極大的挑戰,而CPU軟體生態系統將有助於開發人員拓展邊緣的AI體驗,Arm是業界中兼具安全、效能和效率的領導者,能夠透過Total Compute策略涵蓋的軟硬體和生態系統,幫助開發者跨越各個市場領域,加速提供5G時代的全新體驗。

圖說:Arm IP產品事業群總裁Rene Haas於COMPUTEX論壇中發表全面運算引領AI成長主題演說。(圖/業者提供,文/涂志豪)

(工商 )

#ai #運算 #開發 #效能 #系統