AI PC/NB將帶來記憶體、高速傳輸晶片、電源管理晶片、觸控晶片、麥克風晶片等周邊晶片的升級,不少台系晶片設計業者獲益良多。(圖/財訊提供)
AI PC/NB將帶來記憶體、高速傳輸晶片、電源管理晶片、觸控晶片、麥克風晶片等周邊晶片的升級,不少台系晶片設計業者獲益良多。(圖/財訊提供)

ChatGPT風行,AI在2023年成為市場最夯的科技話題與趨勢,而Nvidia創辦人黃仁勳的黑皮衣旋風更是席捲全台,Nvidia與黃仁勳,瞬間都變身成為AI晶片的代言人,但實際上,AI的戰火已經悄悄從雲端打到邊緣,邊緣運算正如火如荼竄起,而隱形的AI商機「ASIC(特殊應用晶片)趨勢」,大餅更是誘人。

首先就來先定義什麼是AI(人工智慧)。人工智慧,最簡單也最粗淺的講法,就是讓電腦和機器更有腦子,可以辨別、推論、學習、分析以及採取行動,尤其透過大數據資料可以精密計算,替問題找出解答。

截至2023年底,較為成功的AI都集中在雲端,因為龐大的數據運算粒子,暫時必須在雲端才能運算,也因此,目前的AI主戰場,還是在雲端伺服器上,並形成Nvidia、Intel、AMD三強爭霸的局面,然Nvidia至今明顯占據優勢、獨強,但實際上三者訴求市場並不完全相同。

三巨頭盤據雲端主戰場

目前在伺服器端俗稱與認定的AI晶片,主體在CPU,並搭配能加速AI運算的GPU或加速器,主要還是Nvidia和AMD的主戰場。

首先在Nvidia部分,就是H100,黃仁勳曾公開揭露,GPU為AI帶來革命,H100是封裝了800億個電晶體的巨大晶片,且僅一顆H100就可以維持每秒40TB的IO頻寬,20個H100甚至可以維持全世界網路的流量,此晶片更可推動極大規模的AI語言模型、深度學習系統、數位生物學和數位孿生領域的發展。

H100是採台積電四奈米代工製程產出,並由台積電透過CoWoS封裝完成,但目前供不應求,主要卡在台積電CoWoS封裝產能不足上,而簡單來說,Nvidia在AI的大成功,受益者除Nvidia本身外,就是台積電。

這個AI布建的浪潮也蔓延到中國大陸,陸系業者亦積極搶買Nvidia的AI晶片,然美中貿易戰火持續激烈,美國多道禁令阻止Nvidia將AI晶片銷往大陸,只是上有政策、下有對策,美國針對Nvidia的每一款AI晶片進行逐一審查,而Nvidia則是將不能銷售的晶片改以降階改版來應對,以維持在中國市場的營收表現。至於H100的下一代H200,則預計2024年中推出。

至於同為GPU大廠的AMD,在AI領域也不甘示弱積極還擊,宣布推出MI300,2023年第四季量產,這款AI晶片更具模組化概念,是在單一介面上,包括由台積電五奈米代工的GPU,加上台積電代工的六奈米CPU,再加上HBM組合而成,而其封裝方式則更結合了CoWoS跟Chiplet,因此完成後的封裝尺寸明顯大過Nvidia的同款產品。

事實上,AMD的MI300和Nvidia的H100是相對應的晶片,也是現今市場上最主流的兩款AI晶片。除了Nvidia黃仁勳對AI極度看好外,AMD執行長蘇姿丰也公開表示,針對數據中心而設的AI晶片,市場發展潛力巨大,2023年的規模為450億美元,未來四年可達到4000億美元。她也直言,MI300已經獲得多家大型客戶承諾採用,預計推出的第一個季度可替公司帶入四億美元的營收,2024年賺進20億美元營收。

上述不論AMD的MI300和Nvidia的H100,強項在訓練,因為GPU的training較有效率,至於英特爾的Gaudi強項是推論。

英特爾的Habana Gaudi2,其實在2023年第一季就量產上市,採台積電七奈米製程產出,英特爾更曾公開揭露,Gaudi2獲得百度智慧雲、浪潮資訊、美團、紫光新華三等中國大陸業者採用。而下一代的Gaudi3,則會由台積電五奈米製程代工,規劃量產時間是2024年第一季。

世芯與創意崛起的關鍵

在AI的大勢所趨下,運算力大增,但CPU單核運算速度的成長,比電晶體密度增加速度慢太多,而且能耗速度增加太快了,所以必須往多核發展,上述趨勢造就了半導體產業現下晶片設計必須朝向GPU+CPU混合架構發展,這是ASIC趨勢之所以如此強勁的原因。

而客製化晶片架構,就是一個相同能耗條件下,可以大幅度提高算力的方式,這也就是世芯-KY和創意兩家ASIC服務業者,快速崛起且後市看好的主因。另外,Chiplet也是因應上述提升算力與降低功耗的另外一個發展趨勢,和傳統SoC相比,Chiplet會讓製造良率大幅提升。

簡單來說,高度客製化的GPU和ASIC晶片趨勢會持續下去,也會是主導後續半導體發展的主軸之一,目前需要相關服務的,主要以雲端系統服務廠商(CSP)為主,包括亞馬遜、臉書、谷歌、微軟,而相對應的ASIC設計業者,就是替雲端服務業者設計AI晶片的,則有美系的Broadcom、Marvell,以及台資廠的世芯-KY、創意,與在這領域鴨子划水許久但剛崛起的聯發科。

目前法人圈估算,2024年世芯-KY成長動能強勁,營收年增率將達到五成,主要取自亞馬遜的Tranium 1和Inferentia 2與3,分別會在台積電以七奈米與三奈米投片並量產,另外英特爾在AI雲端伺服器的Gaudi2,雖然已經在2023年由台積電七奈米代工,但仍有不少產能目前卡在後段CoWoS,待CoWoS放量後會增加出貨量,此外新一代的Gaudi3也會在2024年由台積電五奈米產出。

至於創意的部分,目前外資圈預期,該公司2024年營收會較2023年成長約一成,主要動能除了兩家基本盤大客戶的遠端伺服器控制晶片廠信驊與SSD大廠SK海力士營運復甦的挹注外,在ASIC端就是微軟的Athena(雅典娜),Athena 1將在2024年第二到四季間,由創意委由台積電以五奈米量產,而Athena 2則預計會在2025年開始導入台積電三奈米量產。

手機市場急凍,聯發科近年來積極轉骨,而要發展ASIC,真的不容易,需要有很龐大研發團隊,且要能量產才能算真正賺錢。半導體圈盛傳,二、三年前聯發科曾取得亞馬遜ASIC訂單,但在博通和亞馬遜有合約的前提下,聯發科的ASIC晶片最終沒有量產。而業界的消息則是,聯發科依舊在ASIC端默默耕耘,最終獲得谷歌青睞,接獲TPU V6訂單,預計2025年以台積電三奈米量產。

AI從雲端到邊緣運算

AI目前雖然較大型且具體的應用是在雲端,但實際上已經開始逐步擴散到一般消費性電子產品,有AI功能的智慧型手機、NB/PC將開始大舉問世。

先來談談AI NB/PC,依據現在市場的定義,就是要有更強大的CPU、記憶體、螢幕效果等,相關的NB/PC晶片供應商,還是老面孔的英特爾、AMD,AMD有Ryzen 8040系列NB處理器,而英特爾也在2023年12月中旬亮相其首款整合AI加速引擎(NPU)的NB處理器Core Ultra。

AI PC/NB也會帶來包括記憶體、高速傳輸晶片、電源管理晶片、觸控晶片、麥克風晶片等周邊晶片的升級,也因此,將會有不少台系晶片設計業者,像是祥碩、譜瑞-KY、鈺創、創惟、威鋒電子、義隆、鈺太、茂達、致新)等,在2024年都可以被法人圈賦予AI PC/NB受惠概念股,在AI領域上打擦邊球受益。

智慧型手機也會是AI落地的一大市場,市調單位Counterpoint提到,2024年生成式手機出貨量可以達到一億支以上,在智慧手機中達到8%的市占率,而到了2027年出貨量更一舉提升到5.22億支,在整體智慧手機中取得40%市占率,同時也預估在生成式AI智慧型手機的晶片端(安卓體系),高通在未來兩年的市占率都會達到八成,但聯發科有望自天璣9300推出後,急起直追。

聯發科力圖打出新天地

高通在2023年10月下旬推出的Snapdragon 8 Gen 3,宣稱是以生成式AI為核心設計的行動平台,專為安卓旗艦手機打造,以台積電四奈米製程產出。該款平台更號稱首度導入大型語言模型Meta Llama2,CPU速度表現比前一代提高30%、GPU提升25%、NPU提升了98%,AI效能則提升至前代晶片的3.5倍。

聯發科執行長蔡力行更多次回應,自家的AI布局,主要是在AI on Edge。他在記者會上公開直言,AI on Edge是公認成長最快、最有機會的領域,每個晶片業者都會想做一顆晶片,在終端裝置上支援LLM(大型語言模型)。

聯發科2023年11月上旬亮相的天璣9300,則是其在AI手機端的第一個受關注代表作,該款平台採台積電四奈米產出,訴求是獨特的全大核CPU,結合新一代APU、GPU、ISP等,整合第七代AI處理器APU 790,為生成式AI而設計,整數運算和浮點運算的性能是前一代的兩倍,功耗降低45%,內建天璣9300的終端手機在2023年底上市,至於聯發科能不能靠著AI落地到手機與ASIC,在AI競爭的新世代打出一片新天地,答案將會在2024、25年的營運成績單中見分曉。

全文及圖表請見【財訊快報 理財年鑑第202401期】精彩當期內文轉載

#ChatGPT #科技 #生成式AI #Nvidia #黃仁勳