網路城邦
上一篇 回創作列表 下一篇   字體:
MIC:2024年AI伺服器成長兩大動能-大型語言模型(LLM)及中小語言模型
2024/01/17 08:00:00瀏覽152|回應0|推薦0

(絕色新聞)資策會產業情報研究所(MIC)表示,生成式AI熱潮持續帶動全球AI伺服器出貨成長,隨著全球AI伺服器市場持續成長,整體伺服器出貨占比將從2023年的12.4%成長至2027年的20.9%。

MIC預估,2024年全球AI伺服器出貨量為194.2萬台、2025年達236.4萬台,且將一路成長至2027年320.6萬台,2022-2027年間年複合成長率(CAGR)為24.7%,其中包含價格昂貴並採用高階GPU的AI訓練伺服器,以及採用中低階GPU、FPGA、ASIC的AI推論伺服器。

2023年AI伺服器產值已達全球伺服器過半的總產值,而台灣伺服器產業出貨原本即占全球伺服器出貨八成以上,其中AI伺服器的生產組裝代工更已占全球九成,主要是台灣產業具有高階伺服器的設計研發與代工能力,加上高階晶片進入中國大陸受到限制,以及美系客戶要求高階伺服器於非中地區生產等因素所驅動。

MIC產業顧問魏傳虔表示,生成式AI應用與AI伺服器出貨熱潮,有利台灣伺服器代工、電源供應器、遠端控制晶片、ABF載板、散熱模組等產業鏈業者的營收成長。 

展望2024年,AI伺服器成長的兩大動能主要來自大型語言模型(LLM)的雲端訓練戰場,以及新興主戰場「中小語言模型」。各大雲端服務商正競相布局LLM與生成式AI應用,如Google將於今年推出Gemini,以及Amazon也在訓練新的LLM。另外,預期中小語言模型會是2024年新興競爭領域,許多更為客製化、符合運算效率的模型將陸續出現,例如Llama-2、Microsoft Phi-2、Google Gemini Nano 2等。

不僅各家廠商大量採購高階AI伺服器,增強資料中心的AI算力部署,國防、科研等政府單位也持續導入AI算力,AI伺服器將成為數位時代各國衡量資訊國力的重要指標。(圖/MIC)

( 知識學習商業管理 )
推薦文章 列印 加入我的文摘
上一篇 回創作列表 下一篇

引用
引用網址:https://classic-blog.udn.com/article/trackback.jsp?uid=StunnahTaiwan&aid=180242610