Comentario

El reasoning como recall, y el consejo que no sobrevivió a su propia prueba

Una reacción al análisis de «Thinking to Recall»: los tokens de thinking amplían la frontera del recall, los modelos débiles ganan más, y por qué el resultado negativo de la autora en RAG vale más que cualquier ganancia.

Vivedha Elango, en su análisis del trabajo de Gekhman et al. «Thinking to Recall», añade al resumen un experimento propio, y es ese experimento lo que hace que el artículo merezca la lectura. La tesis central del paper: el reasoning no es solo para «problemas difíciles»: amplía la frontera de lo que un modelo puede recordar de sus propios pesos. El 90 % de las preguntas de SimpleQA-Verified son factuales de un solo salto, y el thinking sigue ayudando. Hay dos mecanismos, y se separan experimentalmente: un computational buffer (el relleno «Let me think» ×200 sube la accuracy: los forward passes extra dejan que el estado oculto se refine) y el factual priming (el modelo genera hechos adyacentes y se conduce solo hasta el objetivo: nueve reyes de Nepal llevan al décimo).

El consejo que no sobrevivió a su prueba

Lo más valioso del artículo no es el resultado, es la disciplina. La autora extrapoló el hallazgo a RAG: un pipeline facts-first: recuperar, comprimir en una lista de hechos, responder desde la lista. Lo probó antes de publicar, y la extrapolación no sobrevivió: accuracy idéntica (82,4 % frente a 82,4 %) con ~6,5× de latencia. La explicación es honesta: el priming desbloquea conocimiento encerrado en los pesos; en RAG la respuesta ya está en el contexto recuperado, no hay nada que desbloquear, y queda un paso extra con pérdida. En Medium, donde los consejos se publican sin ejecutarlos, el resultado negativo es un género que falta desesperadamente. Los mecanismos no se transfieren gratis entre regímenes: esa meta-lección vale más que cualquier ganancia porcentual.

Lo que me llevo para modelos locales

  • Los modelos débiles ganan más. La ganancia por reasoning se ordena a la inversa de la capacidad del modelo: Qwen3-32B gana más que Gemini 2.5 Flash, y este más que Pro. Un modelo pequeño tiene más conocimiento «encerrado». Para un despliegue local en hardware propio esto cambia el cálculo: el presupuesto de thinking en un modelo de 30B se amortiza donde un modelo frontera lo quema en vano.
  • Decidir por métricas, no por gusto. Top-1 bajo con pass@k alto: el modelo «sabe pero no alcanza», el thinking ayudará. Ambos bajos: el conocimiento no está en los pesos, hace falta retrieval y los tokens de thinking queman presupuesto en vano.
  • Facts-first prompting para closed-book: la primera llamada enumera los hechos relevantes, la segunda responde desde la lista con reasoning OFF. Cerca del thinking completo por una fracción del cómputo.

El lado oscuro importa más que los benchmarks

Una alucinación en un hecho intermedio arrastra causalmente la respuesta final: pendiente de regresión 0,84–0,86; las trazas limpias dan 71,1 % frente al 32,2 % de las contaminadas. Un modelo de reasoning envuelve una respuesta incorrecta en una cadena convincente de «hechos» intermedios: falsa confianza en lugar de honesta ignorancia. En un agente de varios pasos esto se acumula: la alucinación del paso 2 se convierte en el contexto de priming del paso 3. El remedio sin reentrenar es la selección de trazas («Only Facts» +8,2 %, «Only Correct Facts» +12,2 % relativo), con un requisito duro: el verificador debe saber abstenerse; un verificador que alucina es peor que ninguno.

Conclusión

El thinking no es un interruptor de «hacerlo más listo», es una herramienta con una zona de aplicabilidad medible. La frontera pasa por pass@k, el precio por la limpieza de la traza, y los consejos —también los propios— viven hasta la primera ejecución.