服務器主要由處理器，存儲（內部存儲器，外部存儲器），主板構成
服務器主要由處理器，存儲（內部存儲器，外部存儲器），主板構成。服務器幾乎都支持ECC，高階臺式機也開始支持ECC。服務器主板作為服務器中重要的一部分，由PCIe總線、內存、GPU和SSD構成。CPU內部集成PCIe控制器和內存控制器，PCIe總線點對點連接CPU與各類高速設備，包括GPU、SSD和網卡等，伴隨PCIe升級至5.0，新一代CPU平臺產品將兼容PCIe5.0標準，帶動各類高速設備同步升級；而內存將從DDR4型號升級至DDR5，相關廠商或將逐步進入量產階段。
服務器主板構成
PCIe 1.0、2.0、3.0傳輸速率分別為2.5GHz、5GHz和8GHz，單lane帶寬分別達到250MB/s、500MB/s和1GB/s。PCIe總線由不同lane連接，多個lane合在一起可提供更高帶寬，兩個單lane合成x2，兩個x2合成x4，兩個x4合成x8，目前最大為x16，帶寬需求大的加速顯卡需使用PCIex16。從主板插槽形態上看，x1最小，x16最大。PCIe 4.0可以帶來最大64GBps的吞吐量（PCIex16），而PCIe 5.0則增加到128GBps（PCIe x16）。
服務器分類
按照服務器體系架構，服務器主要分為非x86服務器和x86兩類：
非x86服務器包括大型機、小型機和UNIX服務器，它們是使用RISC或EPIC，并且主要采用UNIX和其它專用操作系統。
x86服務器又稱CISC架構服務器，則是采用兼容x86指令集的處理器芯片運行Windows和Linux操作系統的服務器。
服務器按照不同分類方法主要分為如下：
CISC:Complex Instruction Set Computing 復雜指令集計算
RISC:Reduced Instruction Set Computing 精簡指令集計算
EPIC:Explicitly Parallel Instruction Computing 顯式并行指令運算
2路服務器產品架構圖
2路服務器是指一塊服務器主板上有兩個CPU同時在運行的服務器。2路服務器是對稱多處理系統中最常見的一種形式，常用于主流的X86服務器和圖形工作站領域。
2路服務器產品架構圖
服務器架構的演進
1946年世界上出現了第一臺電子計算機，而世界上第一臺真正意義上的服務器則出現在1964年?，F階段，服務器CPU架構包括X86、ARM和MIPS等，主流的CPU架構當屬X86，它也是占據了服務器主要市場份額的架構。
GPU服務器
GPU服務器是基于GPU的應用于視頻編解碼、深度學習、科學計算等多種場景，提供快速、穩定、彈性計算服務的服務器。GPU服務器最核心的一部分，就是其中插入的GPU。常見的GPU按總線接口類型可以分為NVLink接口以及PCIe總線兩種。
NVLink接口類型的GPU典型代表是NVIDIA A100，采用SXM4接口。NVLink總線接口類型的GPU服務器可以分為兩類，一類是NVIDIA公司設計的DGX超級計算機，另一類是合作伙伴設計的NVLink接口的服務器。DGX超級計算機不僅僅提供硬件，還有相關的軟件和服務。采用PCIe接口的則有PCIe版本的A100 GPU。
如何選擇服務器
選擇服務器時除了分類，還要考慮性能指標，比如精度、顯存類型、顯存容量以及功耗等，同時也會有一些服務器是需要水冷、降噪或者對溫度、移動性等等方面有特殊的要求，就需要特殊的服務器。