Retrieval Augmented Generation (RAG)

RAG es un enfoque en el campo de la inteligencia artificial que combina modelos de recuperación de información con modelos generativos de lenguaje para mejorar la precisión y la relevancia de las respuestas generadas. Este enfoque permite que los modelos generativos accedan a información externa en tiempo real, lo que es útil para manejar tareas que requieren datos actualizados o específicos, como responder preguntas basadas en documentos o ejecutar búsquedas dinámicas.

Fuente: What is retrieval augmented generation (RAG)

¿Cómo funciona RAG?

1. Componente de Recuperación (Retriever):

   • Identifica información relevante a partir de una base de datos, corpus de texto, o fuente externa.
   • Métodos comunes:
     • Sistemas tradicionales: TF-IDF, BM25.
     • Modelos de embeddings: Dense retrievers como DPR (Dense Passage Retrieval) que utilizan vectores para comparar similitudes semánticas.

2. Componente Generativo (Generator):

   • Toma los documentos recuperados y genera una respuesta basada en la información contenida en ellos.
   • Modelos típicos: GPT, T5, o BART.

3. Pipeline completo:

• Dado un input (como una pregunta), el retriever busca información relevante, y el generator usa esta información para crear una respuesta natural y contextual.

Ejemplos de uso de RAG

1. Chatbots empresariales:

   • Responden preguntas específicas sobre documentos de política interna, bases de conocimiento o contratos legales.
   • Ejemplo: Un chatbot que accede a manuales de empleados para responder preguntas sobre beneficios.

2. Sistemas de búsqueda mejorados:

   • Motores de búsqueda que combinan la recuperación con respuestas explicativas.
   • Ejemplo: Un motor de búsqueda académico que genera un resumen de los papers relevantes.

3. Asistentes de soporte técnico:

   • Generan instrucciones personalizadas basadas en guías técnicas.
   • Ejemplo: Un asistente que ayuda a resolver problemas técnicos con base en manuales de productos.

4. Generación de contenido personalizado:

   • Utilizado para redactar informes o resúmenes basados en datos recopilados.
   • Ejemplo: Herramientas que generan reportes financieros combinando datos recientes.

Ejemplos de modelos RAG existentes

1. Dense Passage Retrieval (DPR):

   • Combina embeddings densos con modelos generativos.
   • Ejemplo de uso: Enriquecer respuestas en asistentes virtuales.

2. Google Bard y OpenAI ChatGPT con Plugins:

   • Usan fuentes externas en tiempo real para recuperar información y generar respuestas.

3. RAG Framework (Meta AI):

   • Combina retrieval y generación utilizando modelos como BART para respuestas basadas en contexto.

4. Haystack (de deepset):

   • Framework modular de código abierto para implementar sistemas de preguntas y respuestas basados en RAG.

Recursos para desarrollar un sistema RAG

    1. Bibliotecas y herramientas

• Haystack: Framework que soporta RAG con múltiples backend retrievers y generadores.
  GitHub
• LangChain: Facilita la integración de RAG para aplicaciones conversacionales.
  GitHub
• Pinecone: Base de datos vectorial para indexar y buscar embeddings.
• Weaviate: Base de datos para búsquedas semánticas.

    2. Modelos preentrenados

• DPR (Dense Passage Retrieval): Implementación de Facebook AI.
• T5 y BART: Modelos generativos efectivos para tareas de generación de texto.
• OpenAI GPT API: Compatible con integración RAG mediante plugins.

    3. Datasets

• Natural Questions (NQ): Preguntas reales de usuarios con respuestas basadas en documentos.
  Google Dataset
• SQuAD (Stanford Question Answering Dataset): Dataset clásico para preguntas y respuestas.
• MS MARCO: Dataset para recuperación y generación de respuestas a partir de texto.

    4. Infraestructura

• Bases de datos vectoriales:
  • Pinecone, Milvus, Weaviate.
• Frameworks de aprendizaje profundo:
  • PyTorch, TensorFlow.
• API de acceso a modelos:
  • OpenAI API, Hugging Face Transformers.

    5. Recursos educativos

• Cursos:
  • Coursera: Natural Language Processing Specialization
• Papers:
  • "Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks"
• Tutoriales:
  • Haystack tiene tutoriales en su documentación oficial.
• Otros:
• What is retrieval augmented generation (RAG) [examples included