En resumen
El código PyTorch ya puede ejecutarse de forma nativa en las TPU de Google, sin una capa de adaptación aparte. Google publicó TorchTPU como código abierto el 20 de octubre de 2026 en la PyTorch Conference, desarrollado junto con el equipo de PyTorch de Meta. El código PyTorch existente de entrenamiento y de servicio pasa a Cloud TPU con cambios mínimos, de modo que los equipos pueden comparar TPU, GPU y Trainium en coste y calidad antes de comprometer presupuesto.
¿Qué ha publicado Google?
TorchTPU registra la TPU como un dispositivo de PyTorch de primera clase, de modo que el código que hoy llama a .to("cuda") puede llamar a .to("tpu") y mantener intacto su bucle de entrenamiento. Hasta ahora, PyTorch en TPU funcionaba a través de la capa independiente PyTorch/XLA, que muchos equipos consideraban más difícil de depurar que la vía GPU. El anuncio de Google, firmado por Mark Lohmeyer y Bill Jia, afirma que las TPU ahora «se suman a las GPU y las CPU como opción nativa para PyTorch».
El backend admite ejecución eager para el desarrollo y torch.compile para el rendimiento en producción. Junto a él, Google publicó una versión preliminar temprana de TPU Agent Suite, un agente de programación con IA que ayuda con la incorporación, el diagnóstico de errores y el ajuste de la inferencia, e integró LiteRT (antes TensorFlow Lite) en el ecosistema de PyTorch para exportar modelos a teléfonos, portátiles y dispositivos embebidos.
¿Qué herramientas funcionan ya con TorchTPU?
El ecosistema es la verdadera noticia. Según TechCrunch, Google trabajó directamente con Meta, Hugging Face, Inferact (la empresa detrás de vLLM) y RadixArk (la creadora de SGLang) antes del lanzamiento. Según Google, el stack compatible en el momento del lanzamiento es el siguiente:
- Entrenamiento: recetas de TorchTitan para Llama 3, Qwen 3 y FLUX.1; VeRL para el posentrenamiento con aprendizaje por refuerzo (versión preliminar); Ray para trabajos mixtos de CPU, GPU y TPU.
- Servicio: backends de TorchTPU para vLLM y SGLang, además de llm-d 1.0, el proyecto CNCF Sandbox de inferencia distribuida respaldado por Red Hat e IBM.
- Modelos: Hugging Face Transformers v5 se despliega en TPU con
device_map="tpu"; Diffusers y TorchRec también están cubiertos.
Google cita el resultado de un cliente: Zenteiq registró un rendimiento agregado de inferencia 4x mayor con llm-d, con lo que su capacidad diaria pasó de 1.47 mil millones a 5.97 mil millones de tokens por cada 1,000 chips TPU v6e.
¿Por qué importa una segunda adaptación de PyTorch?
La ventaja de Nvidia se apoya en gran medida en que CUDA sea el destino predeterminado de PyTorch. Amazon atacó ese estándar el 19 de octubre con TorchNeuron para Trainium; Google le siguió un día después. Con dos hiperescaladores que publican backends nativos e incorporan su trabajo al propio PyTorch, un PyTorch neutral respecto al hardware se está convirtiendo en la base esperada y no en un experimento de un proveedor.
Para los compradores, el efecto es poder de negociación. Cuando el mismo código de modelo se ejecuta en tres familias de aceleradores, las reservas de GPU, los compromisos de TPU y la capacidad de Trainium se convierten en partidas comparables en una negociación.
¿Qué queda por demostrar?
Las cifras de utilización y rendimiento proceden de Google y sus socios, no de benchmarks independientes. En su versión preliminar técnica de abril, la propia Google señaló que los cambios de longitud de secuencia y de tamaño de lote provocan recompilación, y que el rendimiento máximo en TPU aún puede exigir refactorizar el modelo. Los kernels CUDA personalizados no se trasladan con un indicador de dispositivo, y las TPU solo están disponibles en Google Cloud, así que la ganancia de portabilidad se da entre chips, no entre nubes.
Qué significa para los equipos de software de EE. UU. y la UE
Los equipos que entrenan, ajustan o sirven modelos en PyTorch estándar disponen ahora de una tercera opción realista para cargas estables y de gran volumen, como la inferencia por lotes, los embeddings y las ejecuciones de fine-tuning. Los factores decisivos serán el coste por token o por ejecución de entrenamiento con sus propios modelos, el perfil de latencia del servicio mediante vLLM o SGLang y la capacidad en las regiones que tenga autorizadas.
Aquí se aplica la misma disciplina que hizo comprobable Trainium: selección del dispositivo en la configuración, ninguna llamada CUDA codificada de forma fija en la ruta principal y un conjunto de evaluación reproducible. Los equipos de la UE deberían comprobar la disponibilidad de TPU v6e e Ironwood en las regiones aprobadas de la UE antes de planificar una migración y registrar cualquier nueva ubicación de tratamiento en la documentación del RGPD.
Qué deberían hacer los equipos de ML este trimestre
- Inventariar la dependencia de CUDA. Enumere los kernels personalizados, las bibliotecas exclusivas de CUDA y las llamadas a dispositivo codificadas de forma fija en el código de entrenamiento y de servicio.
- Convertir el dispositivo en un ajuste. Gestione la elección de acelerador de cada pipeline mediante la configuración para que las ejecuciones en GPU, TPU y Trainium usen un código idéntico.
- Empezar el piloto por el servicio. Compare un modelo de producción servido mediante vLLM o SGLang en TPU con su configuración GPU actual, midiendo latencia, rendimiento y coste por millón de tokens.
- Probar formas dinámicas. Reproduzca tráfico real con prompts de longitudes variadas para ver si la recompilación afecta a la latencia.
- Revisar regiones y compromisos. Confirme la capacidad de TPU en sus regiones aprobadas y cómo interactuaría un cambio con los compromisos existentes de GPU o de AWS.
Preguntas frecuentes
¿Qué es Google TorchTPU?
TorchTPU es un backend de PyTorch de código abierto que ejecuta modelos PyTorch de forma nativa en las Cloud TPU de Google. Google lo publicó el 20 de octubre de 2026, tras desarrollarlo junto con el equipo de PyTorch de Meta.
¿Cuánto código hay que cambiar para ejecutar PyTorch en TPU?
Según Google, el cambio es mínimo: el código que apunta al dispositivo GPU puede apuntar al dispositivo TPU, y Hugging Face Transformers v5 usa device_map="tpu". Los kernels CUDA personalizados y las bibliotecas exclusivas de CUDA siguen necesitando adaptación.
¿En qué se diferencia TorchTPU de Amazon TorchNeuron?
Ambos hacen que PyTorch se ejecute de forma nativa en un chip que no es de Nvidia. TorchTPU se dirige a las Cloud TPU de Google e incluye un agente de IA para la adaptación y LiteRT para exportar al edge; TorchNeuron, anunciado un día antes, se dirige a AWS Trainium. Cada uno solo funciona dentro de su propia nube.
¿Está TorchTPU listo para producción?
Google y Meta describen un uso en producción, y llm-d 1.0 figura como listo para producción, pero las cifras de rendimiento son afirmaciones de los proveedores. Realice un piloto con sus propios modelos y tráfico antes de trasladar cargas de producción.
Fuentes
Google Cloud — TorchTPU is now open source: run native PyTorch on TPUs (en inglés, 20 de octubre de 2026)
TechCrunch — Google has joined Amazon in attacking Nvidia’s stronghold with AI app developers (en inglés, 20 de octubre de 2026)
Google Developers Blog — TorchTPU: Running PyTorch natively on TPUs at Google scale (en inglés, 7 de abril de 2026)
Techzine — Google and Meta are making AI chips more accessible with TorchTPU (en inglés, 21 de octubre de 2026)