小米傳投入百億元搭建GPU「萬卡集群」 搶攻AI大模型領域 

▲▼北京小米總部。(圖/CFP)

▲北京小米總部。(圖/CFP)

記者魏有德/綜合報導

陸媒《界面新聞》昨(26)日釋出一則獨家報導稱,有相關人士透露,小米正著手搭建自己的GPU萬卡集群,對AI大模型大力投入,數據顯示,小米大模型團隊在成立時已有6500張GPU資源。對此,小米方在發稿前仍未主動回應,低調應對。

▲AI晶片示意圖。(圖/路透)

[廣告]請繼續往下閱讀...

▲小米傳出將建立「萬卡集群」擴大應用AI大模型領域。(圖/路透)

《每日經濟新聞》報導,國際上,OpenAI、Meta等科技巨頭,都爭相部署萬卡集群;在國內,運營商、頭部互聯網大廠、大型AI研發企業等先後入局,一些巨頭甚至已開始邁向「十萬卡集群」。

「萬卡集群」象徵由一萬張及以上的加速卡(GPU、TPU或其他專用AI加速晶片)組成的高性能計算系統,用以訓練基礎大模型。建設萬卡集群是「百億元(人民幣,下同)」成本的投入,其中,光採購GPU的成本就上看幾十億元。

獨立電信分析師付亮分析稱,假設小米搭建萬卡集群的消息屬實,代表小米將大模型視為 「人車家」戰略的重要支撐,其建設萬卡集群的方向或與其他企業不同,「別人沒有利用率,小米自帶利用率。」

百度集團執行副總裁、百度智能雲事業群總裁沈抖曾透露,GPU集群有「極致規模、極致高密和極致互聯」三種特徵,「建一個萬卡集群,單是GPU的採購成本就高達幾十億元。而建設GPU萬卡集群需要面臨的風險之一便是故障率,Meta訓練Llama3的時候,用了1.6萬張GPU卡的集群,平均每3小時就會出一次故障。」

即使建立「萬卡集群」要付出高昂成本,但這也被視為進入AI大模型賽道的「入場券」,畢竟,模型大小和訓練數據量大小是決定模型能力的關鍵因素,也就是所謂的「算力」決定一切,超萬卡的集群將有助於壓縮大模型訓練時間,實現模型能力的快速迭代,並對市場趨勢作出及時反應。

小米集團於2023年5月的一份業績公告顯示,該年4月正式組建AI實驗室大模型團隊,AI領域相關人員超1200人,將不斷挖掘AI相關的用戶場景,發揮自身技術優勢,並以開放的態度與合作夥伴開拓更多機會。

至於2023年8月,小米集團的另一份公告中顯示,AI是小米長期投入的底層賽道,小米擁有60億參數的自研大模型在同參數量級中排名第一。直至2023年11月,小米正式將AI大模型與小米澎湃OS深度融合,為用戶提供基於端側大模型的各類便利和智能的功能。

推薦閱讀 推薦閱讀

熱門影音更多>>

【有幫但不多】身邊總有一些看似在幫忙 但其實也沒幫到的同事

【有幫但不多】身邊總有一些看似在幫忙 但其實也沒幫到的同事

【噁~】女友用貓咪茶壺倒奶 男友配音畫風秒變XD

【噁~】女友用貓咪茶壺倒奶 男友配音畫風秒變XD

【女兒抓周】未來老公類型選 #陳漢典 釣出本人回應XD

【女兒抓周】未來老公類型選 #陳漢典 釣出本人回應XD

【太神奇了】到底怎麼把硬幣堆在瓶子裡的?

【太神奇了】到底怎麼把硬幣堆在瓶子裡的?

店員說奶瓶買8支 男不信打給媽:我都買1支XD

店員說奶瓶買8支 男不信打給媽:我都買1支XD

熱門新聞 大陸 熱門新聞

讀者迴響 讀者迴響

回到最上面