Microsoft heeft de GPU-maffia gedood 🤯 Ze hebben eindelijk hun 1-bit LLM-inferentiekader genaamd bitnet.cpp open-source gemaakt. Het stelt je in staat om 100B parameter modellen op je lokale CPU te draaien zonder GPU's. - 6,17x snellere inferentie - 82,2% minder energie op CPU's 100% Open Source.