Blog
Notas desde producción.
Artículos sobre sistemas LLM, agentes y el trabajo poco lucido que los hace fiables.
Un pasaje, una pregunta de sí o no
Enfrenté dos modelos de decisión, Jev y Laya, al reranker LLM de mi wiki de D&D. Jev, leyendo los pasajes enteros, encontró la fuente correcta en las 36 preguntas. Laya sin afinar lo hizo peor que no reordenar nada.
Recuperar no es el problema. Ordenar sí.
Cómo funciona la recuperación del Oráculo de mi wiki de D&D: tres vías de búsqueda que se fusionan por rango, un reranker que solo mejora las cosas si nunca ve el texto crudo, y los huecos que sobran para lo que no cupo.
Conservar el arnés, cambiar el modelo
Lo que hace falta para ejecutar Claude Code contra NVIDIA NIM y modelos locales de Ollama cuando se agota la cuota de la suscripción, y por qué el modelo que mejor puntúa en los benchmarks no es el que funciona.