-
國內首家!超云推出Gaudi2加速AI大模型訓練一體化解決方案
2023/9/1 15:40:48 來源:財訊網 【字體:大 中 小】【收藏本頁】【打印】【關閉】
核心提示:隨著大模型訓練和計算能力的迅速增長,國際上以GPT-4為代表的大型模型訓練產品熱度居高不下,而國內的文心一言也宣布向全社會開放。隨著大模型訓練和計算能力的迅速增長,國際上以GPT-4為代表的大型模型訓練產品熱度居高不下,而國內的文心一言也宣布向全社會開放。然而,國內大型模型訓練面臨高昂的成本及主流核心部件供應不足的限制,從而在替換和遷移方案方面存在較大掣肘。為了解決上述問題,Intel近期推出了第二代Gaudi深度學習加速器——Habana Gaudi2。Gaudi2以其領先的性價比優勢和穩定的供應體系,旨在成為大規模AI部署的更優選擇。超云作為國內專業的數據中心產品及服務提供商,緊跟Intel前沿技術,迅速部署產品研發資源,正式推出了基于英特爾AI加速卡的全新產品——AI服務器R8868 G13。
超云R8868 G13
Gaudi2深度學習加速器在第一代Gaudi高性能架構的基礎上,在多方面提升了性能和能效比,從而加速了高性能大型語言模型的運行。該加速器具備以下特點:
1、24個可編程的張量處理器核心(TPCs);
2、21個100Gbps(RoCEv2)以太網接口;
3、96GB的HBM2E內存容量;
4、2.4TB/秒的總內存帶寬;
5、48MB的片上SRAM;
6、集成了多媒體處理引擎。
Gaudi2在GPT-3的評測中也展示出了其性價比優勢:Intel使用了384塊Gaudi2加速器,在311分鐘內完成了訓練,從256個加速器擴展到384個加速器,實現了近線性95%的性能提升。
英特爾發布Gaudi2加速器
一直以來,超云在 AI 算力領域扮演著重要角色,作為國內率先推出基于 Gaudi2 產品方案的廠商之一,超云 AI 服務器 R8868 G13 集成了 8 塊 Gaudi2 加速卡 HL-225B,同時可支持 2 顆英特爾®第四代 Xeon EGS 系列處理器。此前,超云連續三年獲得"Intel鈦金級合作伙伴"榮譽,雙方在產品研發和技術突破方面保持著密切合作。本次產品方案的推出不僅是雙方緊密合作的有力證明,也充分展示了超云在 AI 領域的實力。
通過有效的產品部署,超云迅速為客戶提供了高質量、高性價比的解決方案,成為國內首家推出一體化全棧解決方案的廠商。目前,該方案正在進入測試和收尾階段,通過這一優質解決方案的復制,超云占據了市場先機,獲得了越來越多互聯網巨頭的關注和認可。
隨著大模型在各領域的商業化落地,大語言模型及生成式 AI 的需求不斷擴大,市場對高性價比硬件服務器的需求也隨之變得更加迫切。基于 Gaudi2 的 R8868 G13 服務器,使超云在性能和性價比方面具備領先優勢。
未來,超云對與英特爾的合作充滿信心,雙方將借助深化合作和技術迭代,提供更高的深度學習性能,進一步幫助客戶提升收益價值,加速國內大模型的創新和迭代,推動各行業領域的數字經濟發展。
鄭重聲明:本文版權歸原作者所有,轉載文章僅為傳播更多信息之目的,如有侵權行為,請第一時間聯系我們修改或刪除,郵箱:[email protected]。