在消費級 Nvidia 顯示卡上啟用 PCIe 對等（P2P）通訊功能，允許裝置間直接傳輸資料，無需經過主機記憶體。這項優化帶來具體的效能提升，使用者報告本地大型語言模型推論的吞吐量增加了約 10%。

效能提升歸因於 GPU 之間傳輸資料時延遲和頻寬瓶頸的減少，因為 P2P 消除了使用系統記憶體作為暫存空間的需求。擁有雙卡或多卡配置的使用者，例如搭配 AMD Epyc 處理器的四張 RTX 5060 Ti 顯卡，在令牌生成和提示處理方面都觀察到了穩定的增益。

這項發現證明了透過軟體和 BIOS 設定的調整，消費級硬體也能達到接近伺服器等級的效能，為愛好者提供了一種具成本效益的方式，在不升級至昂貴專業卡的情況下，最大化多張顯示卡的利用率。

事件背景

PCIe 對等（P2P）是 PCI Express 規格中的一項功能，允許兩個 PCIe 裝置直接相互通訊，無需透過主機 CPU 或主記憶體作為中介。在多顯卡系統中，這使得顯示卡能夠直接交換資料，對於需要加速器之間頻繁交換資料的工作負載（如大型語言模型推論）特別有益。若未啟用 P2P，資料必須從一張顯卡複製到系統記憶體，再複製到另一張顯卡，這會增加延遲並消耗 CPU 週期。

社群觀察

社群成員確認啟用 P2P 能帶來免費的效能提升，部分用戶指出即使在小規模設置中也有改善。用戶還強調 AMD 顯示卡也能獲得類似的好處，並且針對多顯卡配置（如搭配 Epyc 處理器的 ASRock Romed8-2T 主機板），關於相容性的討論十分熱烈。