Microsoft hat die GPU-Mafia getötet 🤯 Sie haben endlich ihr 1-Bit-LLM-Inferenz-Framework namens bitnet.cpp als Open Source veröffentlicht. Damit kannst du 100B-Parameter-Modelle auf deiner lokalen CPU ohne GPUs ausführen. - 6,17x schnellere Inferenz - 82,2% weniger Energie auf CPUs 100% Open Source.