LLM Radar

Qué se movió de verdad en LLMs, cada semana — sesgado hacia lo que puedes ejecutar tú. llama.cpp, compresión de modelos pequeños y los pesos abiertos que merecen la descarga.

Publicado por Montevive · Semanal · Lectura gratuita

Qué es esto

Qué cubre

Una ventana fija de una semana, leída en corto: qué entró en llama.cpp, qué establecieron de verdad los papers de la semana y qué pesos abiertos se publicaron. Breve a propósito — una semana no es un mes, y un número que hay que rellenar no merece tu lunes.

Para quién es

Para quien despliega esto, no solo para quien lee sobre ello — cualquiera que esté eligiendo un formato de cuantización, dimensionando un modelo local o decidiendo si una técnica está lista. Da por hecho que construyes.

Quién lo escribe

Montevive, un estudio de ingeniería de IA en Granada. Construimos y operamos sistemas con LLMs para clientes, y este es el resumen que queríamos leer y no encontrábamos.

Sobre el idioma

Los términos técnicos consolidados se mantienen en inglés — KV cache, prefill, speculative decoding — porque es como aparecen en la práctica. Traducirlos dificultaría la lectura en vez de facilitarla.

Cómo se hace

La mayoría de resúmenes de IA son un modelo resumiendo otros resúmenes. Este tiene un método, y el método es lo importante — es la razón por la que se pueden fiar de sus cifras.

La ventana se fija antes de empezar la investigación, y se imprime en el número. Cualquier cosa anterior que merezca mención se etiqueta como contexto, nunca se cuela como novedad.

Cada afirmación lleva un enlace. Sin enlace, no hay afirmación. Los papers citan el identificador de arXiv, el trabajo de llama.cpp cita el pull request, las publicaciones de modelos citan la ficha del modelo.

Las afirmaciones que sostienen el número se verifican en la fuente primaria, no en un resumen de ella. En el número 01 eso detectó un pull request muy difundido descrito como publicado cuando en realidad había sido rechazado, y dos cifras que los resúmenes de búsqueda habían parafraseado mal.

Las cifras de los propios autores se etiquetan como afirmaciones, no como mediciones. Una compresión reportada de 20× es lo que dice el paper, y el número lo indica así.

Los juicios son explícitos y ordenables — cada recomendación lleva un veredicto ADOPTAR, VIGILAR o SOLO LABORATORIO, y el número no tiene reparo en decir solo laboratorio.

Número actual

Número 056 sep — 10 oct 20265 secciones · ~150 citas

Las habilidades se comprimen. Los hechos, no.

  • La on-policy distillation transfiere habilidades pero no hechos — cuatro grupos, cuatro métodos, una respuesta.
  • Los modelos pequeños en GGUF Q2 conservan las palabras y pierden los significados, y la perplejidad no distingue el artefacto bueno del malo.
  • llama.cpp cachea en la GPU los expertos de un MoE grande, hace que el speculative decoding compense en los Mac M1–M4 y cambia su puerto por defecto a 9931.
  • Una clase de modelo nueva en tres semanas: TypeSafe lanza Jev, los modelos abiertos estilo JEV llegan en días y llama.cpp adopta el formato. Gemini 4 Argon, anunciado pero no publicado.
Leer el número 05

Todos los números

Glosario

La tecnología de base que da por supuesta cada número — prefill y decode, KV cache, las variantes de atención, cuantización, speculative decoding — definida por por qué importa cada cosa y no por lo que significan las siglas. Es una página permanente, que se arrastra y se edita entre números en vez de rehacerse cada semana.

Recibe el siguiente

Todavía no hay formulario de alta — y antes que recopilar direcciones sin un consentimiento y una baja en condiciones, preferimos que nos lo pidas. Escríbenos para que te añadamos, o suscríbete al feed Atom, que no necesita dirección alguna.