Servicios de implementación de RAG empresarial

La fragmentación es empírica, no teórica. Primero perfilamos su corpus: longitud mediana de los documentos, distribución de párrafos, estructura de secciones, densidad de tablas, presencia de bloques de código. Para prosa densa (jurídica, políticas) solemos empezar con 400 a 600 tokens y un solapamiento del 15 por ciento; para documentación técnica con código pasamos a divisores recursivos que respetan los límites de bloques de código y encabezados; para transcripciones fragmentamos por turnos de intervención más un tope de tokens. Después ejecutamos una evaluación de recuperación con tres tamaños de fragmento y elegimos el que maximiza el recall@10 sobre el conjunto de evaluación real. Ninguna regla empírica supera a la medición sobre sus datos.

Embeddings: comparamos OpenAI text-embedding-3-large, Cohere embed-multilingual-v3 y BAAI bge-large sobre su conjunto de evaluación; el ganador depende de la mezcla de idiomas y del dominio. Almacén vectorial: pgvector si ya tiene Postgres y el corpus no llega a unos pocos millones de vectores (gana la sencillez operativa); Qdrant o Weaviate para autoalojamiento a escala con filtrado por metadatos; Pinecone cuando el presupuesto de operaciones es ajustado y quiere un servicio gestionado; OpenSearch cuando BM25 más búsqueda densa en modo híbrido ya es el eje de su búsqueda. Dimensionamos el índice para 18 meses de crecimiento del corpus, no para la situación de hoy.

Casi siempre. La recuperación puramente densa no encuentra las consultas de coincidencia exacta (SKU de producto, números de cláusula de contratos, ID de tickets); BM25 por sí solo no encuentra las paráfrasis. Combinamos BM25 y recuperación densa con reciprocal rank fusion y después reordenamos los 50 primeros con un cross-encoder (Cohere Rerank 3 o bge-reranker-v2-m3) hasta los 5 a 10 mejores que entran en el prompt. En corpus empresariales, el reranking suele mejorar el recall@5 entre un 15 y un 30 por ciento frente a la recuperación solo densa; lo medimos sobre su conjunto de evaluación antes de recomendarlo para producción.

Tres capas de evaluación. Recuperación: recall@k, MRR y un juez de relevancia sobre un conjunto de evaluación de entre 200 y 500 preguntas elaborado con sus expertos en la materia. Generación: fidelidad (Ragas) más una rúbrica de relevancia de la respuesta, para detectar alucinaciones y desvíos de tema. De extremo a extremo: una muestra calificada por personas de entre 50 y 100 consultas similares a las de producción cada semana durante el piloto. Las tres se ejecutan en CI con cada cambio de prompt o de índice. Cualquier regresión de nivel 1 bloquea la fusión. La observabilidad en producción mediante Phoenix, TruLens o LangSmith registra cada recuperación y cada generación para su análisis posterior.

Sí, y es el requisito más común que vemos. La recuperación según permisos aplica las ACL en el momento de la consulta, no en el de la indexación. Asociamos metadatos de acceso (ID de usuario, ID de grupo, ID de inquilino, etiquetas de sensibilidad) a cada fragmento en la ingesta y, antes del reranking, filtramos la búsqueda vectorial según los permisos efectivos del usuario que consulta. Para corpus de alta sensibilidad añadimos aislamiento del índice por inquilino. Los conectores de SharePoint, Confluence, Google Drive y Slack lo admiten cuando se configuran correctamente; un RAG mal configurado es una fuente común de exposición accidental de datos, por eso lo auditamos de forma explícita.

Cuatro niveles de alcance cerrado, todo incluido y presupuestados en USD. Una base de conocimiento inicial cuesta desde $1,400 (1–2 semanas) para la ingesta y la búsqueda de una sola fuente; un centro de ayuda público desde $2,900 (2–4 semanas) para documentación y búsqueda de cara al público; una base de conocimiento interna desde $4,100 (3–5 semanas) para un corpus privado con control de acceso; y una base de conocimiento con IA más integraciones desde $6,900 (5–8 semanas), que entrega respuestas RAG con citas conectadas a sus herramientas y API. Usted ve el presupuesto desglosado al final del descubrimiento y lo aprueba antes de escribir una sola línea de código. La propiedad intelectual se transfiere el primer día, no hay recargo por intermediación ni sobrecostes por herramientas, y los costes de la nube corren en sus propias cuentas, de modo que conserva el control del coste.

El ajuste fino (fine-tuning) modifica los pesos del modelo para cambiar el estilo, el formato o el comportamiento en un dominio acotado; el RAG deja el modelo intacto y le proporciona los pasajes adecuados en el momento de la consulta. Para el conocimiento empresarial que cambia cada semana (políticas, tickets, documentación, contratos), el RAG es casi siempre el primer paso correcto: se actualiza un índice, no se repite un entrenamiento, y cada respuesta puede citar su fuente. El fine-tuning es complementario cuando se necesita un tono coherente o un modelo compacto para una tarea concreta; ambos no son excluyentes. Ayudamos a los equipos a decidir según cada caso de uso: nuestra guía de RAG frente a fine-tuning repasa las contrapartidas, y nuestro servicio de fine-tuning de LLM cubre el otro lado cuando de verdad es la mejor opción.

Sí. Ingerimos desde SharePoint, Confluence, Google Drive, S3, Slack, Notion y extracciones directas de bases de datos, y servimos la recuperación detrás de una API sencilla para que su producto, su herramienta de soporte o su portal interno la llamen como cualquier otro servicio. La sincronización incremental mantiene el índice al día cuando cambian los documentos de origen, y los metadatos de ACL que se trasladan desde los sistemas de origen son los que hacen posible la recuperación según permisos. Si su objetivo es conectar un LLM en una superficie de producto más amplia y no solo la recuperación, eso se solapa con nuestro trabajo de integración de IA generativa.

Lo es, siempre que la recuperación se haga según permisos y sea auditable, que es justo como la construimos. El control de acceso se aplica en el momento de la consulta, de modo que cada usuario solo recupera fragmentos que está autorizado a ver; el aislamiento del índice por inquilino está disponible para corpus de alta sensibilidad, y cada recuperación y cada generación se registran para su revisión posterior. YuSMP trabaja con prácticas alineadas con el RGPD, preparadas para ISO 27001, aptas para HIPAA y con la CCPA contemplada, con SOC 2 Type II en curso, y cada proyecto comienza con un NDA, una cesión de propiedad intelectual y un DPA. Como las respuestas de RAG pueden citar los pasajes de origen, son más fáciles de defender en una revisión de cumplimiento que un modelo opaco con ajuste fino.

Tres flujos, activos desde el primer día de producción. Telemetría de recuperación: cada consulta registra en Phoenix, TruLens o LangSmith los ID de los k fragmentos principales, sus puntuaciones y los fragmentos seleccionados, para que pueda reproducir cualquier recuperación sin conexión. Telemetría de generación: las puntuaciones de fidelidad y de relevancia de la respuesta se añaden a cada registro y se marcan automáticamente al superar un umbral. Monitorización de la frescura del corpus: se dispara una alerta cuando cambian los documentos de origen pero los fragmentos correspondientes del índice no se han reindexado dentro de la ventana de SLA acordada. Su equipo recibe un runbook que explica cómo añadir corpus, ampliar el conjunto de evaluación e interpretar los paneles, y no solo código que no podrá mantener.

Sí, y es el camino de evolución más común que vemos. El RAG le da una capa de recuperación con una API de consulta; conectar llamadas a herramientas a esa API es el primer paso hacia un agente. Las decisiones de arquitectura que tomamos en un proyecto de RAG (una API de recuperación con un contrato definido, aplicación de ACL en el momento de la consulta, arnés de evaluación en CI) son justo lo que evita que la extensión a agentes se convierta en una reescritura. Cuando esté listo para pasar de la generación de respuestas con citas a la orquestación de varios pasos, eso se solapa con nuestro trabajo de integración de IA generativa, que cubre los flujos de trabajo guiados por LLM en toda la superficie de su producto.