智算無限 持續賦能 | 智微智能高性能AI服務器
來源:智微智能 編輯:站臺丶 2023-10-09 10:25:36 加入收藏 咨詢
![](http://static.dav01.com/site/onlineExhibition/mould1/images/close.png)
所在單位: | * |
姓名: | * |
手機: | * |
職位: | |
郵箱: | * |
其他聯系方式: | |
咨詢內容: | |
驗證碼: |
|
為了推動國家AI產業的發展,一系列的支持性政策陸續出臺,加上海量數據的增加、算法模型的復雜化以及應用場景的深入發展,中國AI算力規模正在持續擴大,算力需求的持續釋放帶動算力基礎設施產業迎來增長新周期。據IDC數據顯示,AI的應用與普及促使2022年我國智能算力規模近乎翻倍,達到268EFLOPS,超過通用算力規模。2026年我國智能算力規模將達1271.4EFLOPS,21-26年復合增長率預計達52.3%,而硬件占AI支出比重的49.8%。其中最大投資是服務器,占AI硬件支出比重84%以上,AI將成為未來服務器市場新一輪快速增長的主要推動力。2021年全球人工智能服務器市場規模達156億美元,同比增長39.1%,2022年約為183億美元,預計未來人工智能服務器市場將繼續高速增長,2023年市場規模將達到211億美元。
![](http://img.dav01.com/eRemote/2023/10/9/dav01_232119_1696818378402_974348283.jpg)
資料來源:IDC
AI服務器概述
服務器隨場景需求分為通用服務器、云服務器、邊緣服務器、AI服務器四種模式。AI服務器采用GPU增強其并行計算能力,CPU+GPU是AI服務器的核心部件。AI服務器可分為深度學習訓練型和智能應用推理型,訓練對芯片算力要求更高,推理對算力的要求偏低。中國AI服務器推理負載占比約55.5%,未來有望持續提高。當下AI服務器通常采用異構形式,在訓練模型或者應用推理等情況下,CPU+GPU組合仍然是實現數據中心加速的首選。
? 訓練:屬于非實時業務,所耗時間可能數天也可能數月,具體取決于模型參數量的多少和算力芯片性能的高低,因此在算力芯片和服務器的投入上,屬于用戶對階段性模型訓練需求的一次性高投入成本。
? 推理:屬于實時業務,需要響應客戶端觸發的實際需求,算力需求取決于活躍用戶數和設計并發數的級別,因此算力芯片和服務器的投入,會隨著模型的商用流行度以及吸引的活躍用戶數持續增加。
加上數據量的劇增,不同應用場景對AI服務器的芯片散熱、整機設備散熱和電源功率及效率要求大幅提升,RAID控制卡隨數據量同步增加,PCIe接口傳輸速率也隨之迎來升級。此外,為了保障數據安全,AI服務器必須加強數據加密技術,并建立定期備份和恢復機制,以滿足不斷增長的AI應用需求,并確保AI服務器性能和可靠性的持續提升。
智微智能AI服務器
智微智能AI服務器目前擁有SYS-80215R、SYS-8029R-S06、SYS-8049RG 三款產品。產品均采用Intel 至強可擴展系列處理器平臺,為AI領域提供強大支持,滿足實時數據處理、訓練和推理等關鍵需求。工規級設計,適用于各種復雜場景下的部署和應用。
![](http://img.dav01.com/eRemote/2023/10/9/dav01_232119_1696818378405_1477417422.jpg)
SYS-80215R 是一款2U雙路高性能AI服務器,采用Intel C741高性能芯片組,支持第四代英特爾至強可擴展系列處理器。整機提供16個DDR5 RDIMM內存槽,最大支持4TB內存擴展,支持最多12個3.5寸熱插拔SAS/SATA3.0硬盤;提供4個PCIe 5.0 x8和2個PCIe 5.0 x16高速插槽,方便擴展各類PCIe設備(如高性能GPU、FPGA加速卡、RAID控制器、ASIC加速卡等),提高對CAD、仿真模擬、GCC渲染、GPU計算等應用的支持;2個Intel 2.5G網絡接口,提供更快的網絡連接速度和更好的寬帶;1個IPMI網絡管理接口,支持服務器硬件檢測,可遠程監控服務器各硬件的工作狀態,及時做出調整。
前后面板設計簡單易用,沒有復雜按鍵,操作簡單。服務器頂部配備一鍵拆卸開關,便于用戶更換設備和進行運維,無需重復鎖螺,適用于對空間部署有要求和高計算性能等應用場景。
![](http://img.dav01.com/eRemote/2023/10/9/dav01_232119_1696818378408_1218430826.jpg)
SYS-8029R-S06 是一款2U雙路邊緣AI服務器,采用Intel C621高性能芯片組,支持第二代英特爾至強可擴展系列處理器。提供16個DDR4 DIMM內存槽,最多支持4TB內存容量,標配支持6個2.5寸SATA3熱插拔硬盤,最多可擴展6個半高單寬加速卡。集成2個千兆網絡端口和2個2.5G網絡端口,具有負載均衡、鏈路匯聚和支持冗余特性,可有效減少網絡延遲。提供1個IPMI網絡管理端口,支持IPMI 2.0和KVM Over IP高級管理功能。高集成度的設計能在有限的空間內帶來強勁的計算性能表現,適用于對部署空間有要求的場景應用,滿足邊緣端的數據推理需求。
![](http://img.dav01.com/eRemote/2023/10/9/dav01_232119_1696818378414_1348913358.jpg)
SYS-8049RG 是一款4U雙路AI服務器,采用Intel C621高性能芯片組,支持第二代英特爾至強可擴展系列處理器。提供16個DDR4 RDIMM內存槽,最大支持4TB內存擴展;標配8個3.5寸6G SATAIII熱插拔硬盤,支持Raid0,1,5,10;整機支持4張雙寬全高或7張單寬NVIDIA圖形計算加速卡(例如NVIDIA A30 Tensor Core GPU),為AI訓練提供強有力的算力支撐。采用X550萬兆網絡控制器,支持2個萬兆電口及1個千兆IPMI管理接口,支持鏈路匯聚以及綁定冗余功能,網絡高速互聯為 GPU 計算集群提供高密度、高性能的節點平臺??捎糜趫D形渲染、深度學習、化學分子計算、云計算和虛擬化、計算密集型行業應用。
助推AI應用發展
智微智能提供完整且靈活的AI服務器產品組合,通過不斷創新和優化,持續提升AI服務器的性能、靈活性和可擴展性,以確保能夠適應各種數據規模和AI的應用需求。
硬件方面,智微智能AI服務器產品采用經過深度優化的處理器架構,借助優異的芯片制程技術,實現卓越的計算性能和能效比。產品兼容多個國產ASIC廠商加速卡 ,配備大規模的高速存儲配置,以提供強大的并行計算能力。通過IPMI管理接口,用戶可以通過網絡接口對服務器進行遠程管理和監控,包括監控服務器的硬件狀態、重啟服務器、更新固件等操作,大大提高服務器的管理效率,有效防止系統出錯,保護關鍵系統數據完整性和可靠性。
總 結
智微智能AI服務器,在設計和功能上充分考慮了應用場景的多樣性。能夠加速數據分析、預測性維護、優化大數據模型等關鍵應用,為不同場景的AI需求提供了更準確、高效、智能的解決方案。
評論comment