マイクロソフトはGPUマフィア🤯を壊滅させました ついに彼らは1ビットのLLM推論フレームワークであるbitnet.cppをオープンソース化しました。GPUなしでローカルCPU上で100Bパラメータモデルを動かすことができます。 - 6.17倍の高速推論 - CPUのエネルギー削減は82.2%軽減 100%オープンソース。