一位 Reddit 用戶展示了由六張 AMD BC-250 退役礦機板組成的叢集，透過 llama.cpp 的 Vulkan 和 RPC 後端運行 Qwen 和 Llama 模型。該配置在運行 Qwen Next Flash IQ2_XS 時達到每秒約 28 個 token，而在運行 Llama 3.6 35B 時則達到每秒 60 個 token。

該叢集利用 BC-250 的縮減版 PS5 APU（Zen 2 架構），並透過 1Gb 乙太網路連接各板卡以進行 RPC 通訊。它採用 IQ2_XS 量化格式來處理 Qwen 模型，從而優化這些專用板卡有限 VRAM 下的記憶體使用量和推論速度。

事件背景

AMD BC-250 是一張專用礦機板，搭載了縮減版的 PlayStation 5 APU，包含六個 Zen 2 CPU 核心和整合式顯示核心。llama.cpp 是一個流行的開源程式庫，用於在本地運行大型語言模型，支援 IQ2_XS 等多種量化格式，以在 VRAM 有限的硬體上平衡品質與效能。

社群觀察

社群反應熱烈，將此配置形容為「很棒」和「美麗的一團亂」，並有人注意到其散熱結構膠帶的創意用法。用戶也對噪音水平和功耗表示興趣，同時開玩笑說它的散熱效果很好。