Servicios de ajuste fino de LLM y MLOps para equipos de IA

Hay tres señales que justifican el ajuste fino. Primera, latencia o coste: un modelo de 7B con ajuste fino sobre vLLM cuesta aproximadamente 1/40 de GPT-4o para la misma tarea, con latencia p95 inferior a 400 ms. Segunda, un comportamiento que no se consigue solo con prompts: estilo específico del dominio, cumplimiento de la salida estructurada superior al 99 % o patrones de rechazo que las capas de seguridad de los modelos de frontera no permiten. Tercera, el aprovechamiento de los datos: dispone de más de 5,000 pares etiquetados de alta calidad que nadie más tiene. Si la respuesta es sobre todo recuperación de conocimiento, haga primero RAG. Si se trata de un formato ocasional, haga primero prompt engineering. El ajuste fino es la decisión correcta cuando necesita un cambio de comportamiento a escala.

De ambos. Ajuste fino de OpenAI (GPT-4o, GPT-4.1, GPT-4o-mini), Anthropic mediante los modelos personalizados de Bedrock, ajuste de Google Gemini y todo el stack de código abierto: Llama 3.3, Qwen 2.5, Mistral, Phi-4, DeepSeek. La elección es una cuestión de ingeniería, no de ideología. Los modelos cerrados ofrecen una entrega más rápida y cero infraestructura. Los modelos abiertos ofrecen propiedad, inferencia más barata a escala y despliegue on-premise cuando el cumplimiento lo exige. Ejecutamos el mismo entorno de evaluación en ambos caminos y le presentamos por escrito la contrapartida entre coste por token, latencia y calidad antes de que se comprometa.

Cada proyecto incluye una suite de evaluación versionada: un golden set de entre 200 y 1,000 ejemplos etiquetados curados con el cliente, LLM como juez automatizado con puntuación por rúbrica (Ragas, rúbricas a medida), métricas específicas de la tarea (BLEU, ROUGE, coincidencia exacta, F1, cumplimiento de la salida estructurada) y pruebas adversarias de alucinación, jailbreak y filtración de PII. Cada ejecución de entrenamiento se publica en Weights & Biases con la tabla de evaluación completa. El CI bloquea cualquier merge que empeore el golden set más allá del umbral acordado (normalmente el 2 %). La suite de evaluación es suya, está versionada en su repositorio y se ejecuta frente a las líneas base de modelos de frontera en cada versión.

Primero los métodos eficientes en parámetros: LoRA y QLoRA reducen la memoria de GPU entre un 60 y un 80 % y nos permiten ejecutar un SFT de Llama 3.3 70B en un solo nodo A100 80GB por menos de $350 en tiempo de GPU. Unsloth y Axolotl nos dan 2 veces el rendimiento de entrenamiento del TRL de Hugging Face estándar. Por defecto usamos QLoRA de 4 bits en la experimentación inicial y pasamos al ajuste fino completo solo cuando las ablaciones demuestran que mueve la aguja en la evaluación. El coste de inferencia se controla con cuantización INT8/INT4 (AWQ, GPTQ), continuous batching de vLLM y speculative decoding. Un cliente típico pasa de unos $20,000 al mes de gasto en API de modelos de frontera a unos $3,900 al mes de inferencia autoalojada. El cómputo de GPU se ejecuta en sus propias cuentas, de modo que conserva el control del coste.

El proyecto arranca con un NDA mutuo y un DPA alineado con el RGPD. Los datos de entrenamiento permanecen en su cuenta de nube: trabajamos mediante roles de IAM asumidos, nunca copiamos datos a portátiles y el clúster de entrenamiento se ejecuta en su VPC (AWS SageMaker, GCP Vertex, Azure ML o su Kubernetes). Para datos regulados firmamos BAA de HIPAA y trabajamos solo en regiones aptas para HIPAA. Los pipelines de enmascaramiento de PII (Presidio, regex personalizadas + NER) forman parte de la fase de curación de datos. Estamos alineados con el RGPD, preparados para ISO 27001, con SOC 2 Type II en curso, aptos para HIPAA y con la CCPA contemplada.

Los proyectos son de alcance cerrado y ajustados, con precio total y presupuestados en USD. Una PoC de evaluación parte de $2,900 (4–6 semanas); RAG sobre su base de conocimiento, de $8,100, cuando la recuperación supera al ajuste; un agente de IA autónomo, de $10,400; y un modelo con ajuste fino en producción, de $13,800. La cifra exacta depende del tamaño del modelo base y de si es una API cerrada o un modelo de pesos abiertos autoalojado, de cuántos datos etiquetados existen frente a cuántos hay que curar, del número de métodos de entrenamiento en juego, del SLA de inferencia y los objetivos de cuantización, y del alcance del cumplimiento. Usted ve el presupuesto desglosado al final del descubrimiento y lo aprueba antes de que se escriba una sola línea de código. No hay recargo por intermediación ni sobrecostes por herramientas, y el cómputo de GPU se ejecuta en sus propias cuentas, de modo que conserva el control del coste.

El mínimo práctico para un SFT sobre un modelo base ajustado a instrucciones es de unos 500 ejemplos de alta calidad, suficientes para mover la aguja de la evaluación de forma fiable. Para el alineamiento de preferencias con DPO u ORPO se necesitan al menos 1,000 pares de preferencia (elegido frente a rechazado). La calidad importa mucho más que la cantidad: 500 ejemplos cuidadosamente curados y de referencia superan a 5,000 ejemplos ruidosos. Si tiene menos de 200 ejemplos etiquetados, empezamos por la curación de datos (generación sintética con un modelo de frontera, revisión humana y deduplicación) antes de cualquier entrenamiento. El golden set crece a medida que iteramos.

Admitimos todo el stack de código abierto (Llama 3.3, Qwen 2.5, Mistral, Phi-4, DeepSeek, Falcon) y el ajuste fino de API cerradas (GPT-4o, GPT-4.1, GPT-4o-mini, Anthropic mediante Bedrock, Google Gemini). Si ya dispone de un checkpoint, ya sea un modelo de la comunidad, el ajuste fino de un proveedor anterior o su propio modelo interno, podemos evaluarlo frente a su tarea y continuar el entrenamiento desde ese checkpoint. Ejecutamos el mismo entorno de evaluación con cada candidato y presentamos en una memoria por escrito las contrapartidas entre coste por token, latencia en p95 y calidad antes de que se comprometa con un modelo base.

Sí. Los despliegues on-premise y aislados son un requisito habitual en sectores regulados y en el ámbito público. Desplegamos modelos de pesos abiertos con ajuste fino en su propio clúster de Kubernetes o en nodos de GPU bare-metal, con vLLM o TGI para el servicio de inferencia. La salida de red desde el clúster de entrenamiento hacia nuestra infraestructura es nula: trabajamos mediante roles asumidos o acceso por bastión dentro de su VPC. Para entornos aislados entregamos una configuración de entrenamiento reproducible, un stack de inferencia en contenedores y un runbook documentado para que su equipo pueda reentrenar y servir sin dependencias externas tras el traspaso.

Una PoC de evaluación dura 4–6 semanas y entrega una decisión go/no-go con un entorno de evaluación versionado. Un modelo completo con ajuste fino en producción (curación de datos, SFT, ablaciones de DPO, inferencia con vLLM, pruebas de carga y traspaso) suele requerir 10–14 semanas. Los proyectos de RAG sobre una base de conocimiento duran 6–8 semanas. Los agentes autónomos dependen mucho del número de herramientas y de las rutas con intervención humana, pero suelen requerir 8–12 semanas. Todos los plazos presuponen que su cuenta de nube está lista y que el primer lote de datos de entrenamiento es accesible en la primera semana. Compartimos un plan de hitos semana a semana antes de firmar.