微軟終結了 GPU 黑手黨 🤯 他們終於開源了名為 bitnet.cpp 的 1 位元 LLM 推理框架。這讓你可以在本地 CPU 上運行 100B 參數模型，而不需要 GPU。 - 推理速度快 6.17 倍 - CPU 能耗減少 82.2% 100% 開源。