Puedes construir un Modelo de Lenguaje Grande desde cero. Este repositorio descompone las matemáticas complejas de los Transformadores en Python limpio y comprensible. Cubre todo el ciclo de vida de un Modelo de Lenguaje Grande. → Implementación paso a paso → ejemplos claros y modificables 100% Código Abierto.

Microsoft acabó con la mafia de las GPU 🤯 Finalmente han abierto su marco de inferencia LLM de 1 bit llamado bitnet.cpp. Te permite ejecutar modelos de 100B parámetros en tu CPU local sin GPUs. - Inferencia 6.17x más rápida - 82.2% menos energía en CPUs 100% Código Abierto.

Tencent acaba de acabar con el ajuste fino y el RL con un presupuesto de $18 🤯 Desarrollaron un método que reemplaza completamente el Aprendizaje por Refuerzo (RL) tradicional. Se llama GRPO sin Entrenamiento. Permite a los LLMs aprender de 100 ejemplos tratando la memoria como un optimizador de políticas.