微软杀死了GPU黑手党 🤯 他们终于开源了他们的1位LLM推理框架,名为bitnet.cpp。它让你可以在本地CPU上运行100B参数模型,而无需GPU。 - 推理速度快6.17倍 - CPU能耗减少82.2% 100%开源。