OpenAI 詳細介紹其 Habitat 儲存平台的演進歷程,該系統已從簡單的 Python 程式庫發展為全球分佈式架構。目前,Habitat 能夠為超過十億 ChatGPT 用戶提供服務,並每秒處理 2200 萬次請求。

在規模方面,該平台於接近 40 個地理區域內管理超過 500 PB 的數據。此外,Habitat 從僅連接單一資料庫的客戶端程式庫,轉變為複雜的分佈式系統,在相近數量的區域內每秒處理超過 7000 萬次請求。

此系統支援每週被超過十億人使用的產品,確保資訊能快速且可靠地存取。這項成就展示了支援大規模 AI 應用程式所需的架構,突顯了低延遲、高吞吐量分佈式儲存在維持全球 AI 服務可靠性上的重要角色,並為其他科技公司提供參考藍圖。

事件背景

分佈式儲存系統對於現代 AI 應用程式至關重要,允許數據在多個地理位置存儲和訪問,以降低延遲並提高可用性。Habitat 作為 OpenAI 的內部基礎設施層,使 ChatGPT 等產品能夠高效地檢索上下文和用戶數據,而無需依賴單一故障點。