Retrieval-augmented generation significa que el sistema busca primero en su propio contenido y después redacta una respuesta usando solo lo que encontró, con las fuentes adjuntas. El modelo no responde de memoria; responde desde sus documentos, que es lo que hace la salida verificable y la mantiene al día cuando los documentos cambian.
Esa es toda la idea. Todo lo demás — estrategias de troceado, embeddings, reordenadores, búsqueda híbrida — es detalle de implementación al servicio de una sola cosa: poner los pasajes correctos delante del modelo antes de que escriba.
Pregúntese qué está haciendo realmente la gente cuando hoy fracasa. Si saben que el documento existe y no consiguen localizarlo, el problema es de recuperación y de encontrabilidad, y una búsqueda bien configurada sobre contenido bien etiquetado será más rápida, más barata y más fácil de confiar.
Si encuentran los documentos y aun así no pueden responder — porque la respuesta exige leer cuatro contratos y comparar sus cláusulas de rescisión — ese es el caso para el que se construyó RAG. El sistema lee los cuatro y le muestra de dónde salió cada parte de su respuesta.
Basta con búsqueda cuando: la respuesta vive en un documento conocido, el vocabulario es consistente y el corpus está bien estructurado.
RAG justifica su coste cuando: la respuesta abarca varios documentos, el mismo concepto está redactado de forma distinta en cada uno, o el usuario no sabe nombrar lo que busca.
No ayudará ninguno de los dos cuando: el contenido está desactualizado o es contradictorio. Ambos enfoques recuperan fielmente la respuesta equivocada que está en sus archivos.
Se suele suponer que la calidad de la respuesta sigue al modelo. En la práctica sigue a la recuperación. Si el pasaje correcto no está en el contexto, ningún modelo lo salva; si está, la mayoría de los modelos actuales produce una buena respuesta.
Por eso el trabajo se concentra en la parte poco vistosa: cómo se trocean los documentos, cómo se manejan las versiones para que una política derogada no responda como vigente, cómo se aplican los permisos para que una recuperación nunca devuelva algo que quien pregunta no puede ver, y cómo se comporta el sistema cuando no encuentra nada relevante. Esto último importa más de lo que parece: un sistema que dice «no he encontrado esto» es fiable; uno que aun así produce un párrafo plausible destruye la confianza en una semana.
Para cualquier uso profesional o regulado, el entregable no es la respuesta, sino la respuesta más su procedencia. Documento, versión, cláusula. Un abogado, un auditor o un tramitador de siniestros no puede actuar sobre un párrafo sin atribución, y no lo hará.
Además convierte el modo de fallo de peligroso en inofensivo. Con citas, una respuesta equivocada se detecta en segundos por quien comprueba la fuente. Sin ellas, se repite en un correo a un cliente.
Un corpus con dueño. Alguien tiene que decidir qué es autoritativo y qué está derogado. Esa decisión no se automatiza.
Permisos que ya existan. La recuperación debe heredar su modelo de acceso. Construir uno durante el proyecto es un trabajo mucho mayor.
Un conjunto de evaluación. De treinta a cincuenta preguntas reales con respuestas correctas conocidas, escritas antes del lanzamiento. Es lo que distingue afinar de adivinar.
Una vía de actualización. Los documentos cambian. Si la reindexación es manual, deja de ocurrir en un trimestre.
RAG sobre una base de contratos, con documento, versión y cláusula en cada respuesta.
El servicio completo: extracción, validación, recuperación y traza de auditoría.
Donde la confidencialidad y el secreto profesional condicionan cómo hay que construir la recuperación.
Usamos cookies solo para analítica: para ver desde qué páginas llegan las consultas. Nada más, y nada antes de que aceptes. Política de cookies