TR-NDC02
品牌：整機
分類：多節(jié)點服務器
型號：
AI 服務器是專門為人工智能任務設計的服務器，具有以下特點：
強大的計算能力：
AI 服務器通常配備多個高性能的中央處理器（CPU），如英特爾至強可擴展處理器，以處理復雜的任務調度和數據預處理。同時，它還會搭載大量圖形處理器（GPU），如 NVIDIA 的 A100、H100 等，這些 GPU 具有強大的并行計算能力，能夠快速處理 AI 訓練和推理中的大量數據，大幅縮短訓練時間。
高內存帶寬和大容量存儲：
AI 任務，尤其是深度學習訓練，需要處理海量的數據，這就要求 AI 服務器具備高內存帶寬和大容量存儲。服務器通常配置大容量的高速內存，如 DDR5 內存，以滿足數據快速讀寫的需求。同時，配備高速的存儲設備，如 NVMe 固態(tài)硬盤，可提供高達數 GB 每秒的讀寫速度，確保數據能夠快速傳輸到計算單元，提高訓練和推理效率。
專業(yè)的 AI 加速芯片：
除了 CPU 和 GPU，一些 AI 服務器還會集成專用的 AI 加速芯片，如張量處理單元（TPU）、現場可編程門陣列（FPGA）等。TPU 針對張量運算進行了優(yōu)化，能高效處理深度學習中的矩陣乘法等操作；FPGA 具有可編程的特性，用戶可以根據自己的 AI 算法需求定制硬件邏輯，實現靈活高效的 AI 加速。
高速網絡互聯(lián)：
AI 訓練往往需要處理大量的數據，并且可能涉及多臺服務器之間的協(xié)同工作，因此 AI 服務器需要具備高速的網絡互聯(lián)能力。通常配備 10Gbps、25Gbps 甚至更高帶寬的以太網接口，或者采用 InfiniBand 高速網絡技術，以實現服務器之間的數據快速傳輸，減少數據通信延遲，提高分布式 AI 訓練的效率。
高效的散熱系統(tǒng)：
由于 AI 服務器中集成了大量高性能的計算芯片，這些芯片在工作時會產生大量的熱量，因此需要高效的散熱系統(tǒng)來保證服務器的穩(wěn)定運行。常見的散熱方式包括風冷和液冷，風冷系統(tǒng)通常采用大尺寸的散熱風扇和高效的散熱片，以增強空氣流動帶走熱量；液冷系統(tǒng)則通過循環(huán)冷卻液來吸收芯片產生的熱量，散熱效果更好，能有效降低服務器的運行溫度，提高系統(tǒng)的可靠性和穩(wěn)定性。
支持 AI 框架和軟件：
AI 服務器通常預裝了多種主流的人工智能框架，如 TensorFlow、PyTorch、Keras 等，以方便開發(fā)人員進行 AI 模型的開發(fā)和訓練。同時，還會提供一系列的工具和軟件，用于模型的管理、監(jiān)控和優(yōu)化，幫助用戶更高效地進行 AI 項目的開發(fā)和部署。
針對互聯(lián)網、IDC（Internet DataCenter）、云計算、企業(yè)市場以及電信業(yè)務應用等需求，推出的具有廣泛用途的新一代 2U 雙路機架式服務器； 適用于IT核心業(yè)務、云計算虛擬化、高性能計算、分布式存儲、大數據處理、企業(yè)或電信業(yè)務應用及其它復雜工作負載。該服務器具有低能耗、擴展能力強、高可靠、易管理、易部署等優(yōu)點。
支持兩顆英特爾?至強?可擴展系列處理器； 單個 CPU 支持16根DDR4 DIMM。
可支持11個PCIe 擴展插槽，可用于擴展 GPU 卡，網卡，retimer 卡等； 支持8塊3.5寸硬盤機框。
2U空間內可支持4張 PCIe 形態(tài)外插卡，支持 NVIDIA Tesla專業(yè)卡； 支持全新100Gb網絡卡，提高數據傳輸效率。
可預裝ubuntu 操作系統(tǒng)、深度學習SDK； 深度學習框架包括 TensorFlow、PyTorch等； 以容器形式交付，縮短耗費數天的軟件部署周期、現實開箱即用，提升工作效率。
