Puedes construir un Modelo de Lenguaje Grande desde cero. Este repositorio desglosa las complejas matemáticas de Transformers en Python limpio y comprensible. Cubre todo el ciclo de vida de un Modelo de Lenguaje Grande. → Implementación paso a paso → ejemplos claros y hackeables 100% de código abierto.

Microsoft acabó con la mafia 🤯 de las GPU Finalmente, abrieron su framework de inferencia LLM de 1 bit llamado bitnet.cpp. Te permite ejecutar modelos de 100B de parámetros en tu CPU local sin GPUs. - Inferencia 6,17x más rápida - 82,2% menos de energía en CPUs 100% de código abierto.

Tencent acaba de acabar con el ajuste fino y la vida real con un presupuesto 🤯 de 18 dólares Desarrollaron un método que reemplaza por completo el Aprendizaje por Refuerzo (RL) tradicional. Se llama GRPO Libre de Entrenamiento. Permite a los LLMs aprender de 100 ejemplos tratando la memoria como un optimizador de políticas.