Inteligencia Artificial

TPU de Google: el 8tx y el 8i Max apuntan a agentes y datos sensibles

Resumen IA en 30 segundos
  • TPU de Google suma el 8tx para inferencia confidencial y el 8i Max para contextos largos: cifras, límites y lo que implica para empresas de LatAm.
  • Descubre más.
Andrés BlancoAndrés Blanco6 min lectura--leyendo ahora
Compartir:

TPU de Google: qué cambia con el 8tx y el 8i Max

La TPU de Google acaba de sumar dos sistemas nuevos en un momento en que las empresas chocan con dos muros a la vez: proteger datos sensibles mientras un modelo los procesa y sostener agentes que manejan contextos enormes sin disparar la factura. El problema no es menor, porque cada consulta a un modelo propietario expone información y cada sesión inactiva consume cómputo pagado. La respuesta de Google es una variante confidencial y otra de doble chip, que amplían la familia de octava generación como alternativa a las GPU de Nvidia.

Google presentó dos piezas nuevas de su catálogo de aceleradores: la TPU 8tx y la TPU 8i Max. Ambas se suman a la TPU 8t y la TPU 8i, que la empresa introdujo en abril durante Google Cloud Next.

Con ese movimiento, la compañía asegura que es la primera vez que introduce cuatro sistemas TPU en un solo año, un ritmo poco habitual en el diseño de silicio propio, donde los ciclos suelen medirse en generaciones plurianuales.

Para dimensionar el salto, la TPU de Google de octava generación ya prometía mejoras: según la empresa, la TPU 8t y la 8i ofrecen hasta 2.7 veces mejor rendimiento de entrenamiento y un 80% mejor relación precio-rendimiento en inferencia frente a la generación anterior.

La TPU de Google 8tx: inferencia confidencial para sectores regulados

La TPU 8tx usa el mismo silicio que la TPU 8t, pero lo combina con procesadores anfitriones AMD EPYC de quinta generación y añade computación confidencial a nivel de hardware para proteger datos y pesos del modelo durante el procesamiento.

Google la dirige a empresas reguladas y gobiernos que ejecutan modelos de frontera o propietarios, y promete mantener los datos sensibles y los pesos del modelo protegidos y aislados incluso mientras están en uso activo.

Presentación oficial de la octava generación del TPU de Google, una infraestructura diseñada específicamente para potenciar la era de los agentes de IA | Fuente Video: Google Cloud

En rendimiento, la compañía sostiene que el sistema ofrece hasta 2x menos latencia que la TPU 8t, con una penalización de rendimiento cercana a cero, un argumento dirigido a quienes temían que el cifrado en uso frenara sus cargas.

¿Por qué importa en Colombia y el resto de América Latina? Bancos, aseguradoras, entidades de salud y organismos públicos operan bajo normas de protección de datos que dificultan enviar información sensible a una nube compartida sin garantías verificables.

La computación confidencial no elimina esas obligaciones legales, pero sí cambia la conversación técnica: si el proveedor demuestra aislamiento durante el procesamiento, el debate pasa de la desconfianza general a auditar certificados, regiones disponibles y contratos de tratamiento.

TPU 8i Max: doble chip contra el muro de memoria

La segunda novedad ataca otro cuello de botella. Google explica que tomó dos chips TPU 8i de baja latencia y los combinó en un solo paquete, de modo que el cómputo y la memoria escalan al mismo tiempo.

El resultado, según la empresa, entrega el doble de cómputo, el doble de SRAM y el doble de ancho de banda HBM frente a la TPU 8i, y además cabe el doble de silicio en el espacio actual de un rack.

Hay una limitación que conviene anotar: el anuncio no detalla una cifra absoluta de capacidad HBM para el nuevo paquete, y Google no reveló precios ni fechas de disponibilidad para ninguno de los dos sistemas.

Ese vacío pesa para los equipos de compras. Sin tarifas publicadas de la TPU de Google, ninguna empresa latinoamericana puede comparar todavía el costo por token frente a las GPU que ya alquila en otras nubes, ni cerrar presupuestos.

Software para agentes: el otro frente de la TPU de Google

El hardware llega acompañado de herramientas. Google recordó que el mes pasado liberó TorchTPU como código abierto, de forma que el código PyTorch y los modelos de Hugging Face ya corren de manera nativa en sus TPU.

También presentó XLA Serving Engine, un motor de código abierto para entrenar modelos en Python y servirlos directamente, y Agent Compute Engine, que suspende y reanuda de forma automática las sesiones inactivas para reducir costos operativos.

Anuncio oficial de Google Cloud: conoce en detalle la octava generación del TPU de Google y sus modelos 8tx y 8i Max para la nueva era de la IA. | Fuente Video: Google Cloud

En orquestación, Google afirma que la nueva flexibilidad de topología reduce los tiempos de arranque de trabajos hasta 5 veces y acelera la recuperación ante fallos hasta 4.5 veces, siempre según cifras de la propia compañía.

TPU Sync une la HBM del chip, la DRAM del anfitrión, el almacenamiento compartido y la red en una sola jerarquía de memoria; Google afirma que recorta en más de 90% la latencia de transferencia KV y el tiempo hasta el primer token.

Conviene leer esos datos como cifras del fabricante: el rendimiento real dependerá del modelo, del tamaño del contexto y de cómo cada equipo adapte su código a una arquitectura distinta a la de las GPU.

La apuesta llega cuando la TPU de Google ya es un negocio en rápido crecimiento con cerca de 100 clientes, de acuerdo con la empresa, lo que la vuelve una alternativa cada vez más visible frente a las GPU tradicionales.

Para seguir la disputa global por los aceleradores de IA, vale contrastar estos anuncios con la cobertura económica de Reuters, donde se reportan los acuerdos de suministro y capacidad que definen quién accede al cómputo.

En el portal reunimos más noticias tecnológicas sobre inteligencia artificial y chips, y en Gazu Technology documentamos cómo funcionan los agentes de IA y automatizaciones que dependen de esta clase de infraestructura.

Fuente Imagen Principal: Google

RECOMENDACIÓN EDITORIAL
Implementación de Inteligencia Artificial Corporativa
SERVICIOS CORPORATIVOS

Implementación de Agentes de IA & Automatización de Procesos

Lleve la productividad de su empresa al siguiente nivel. Diseñamos e integramos agentes inteligentes a la medida para automatizar su flujo de ventas, atención al cliente y operaciones repetitivas de forma 100% segura.

Agendar Consultoría Gratuita ✦ Cupos limitados para este mes en Ibagué y Colombia

Preguntas Frecuentes sobre la TPU de Google

1. ¿Qué diferencia hay entre la TPU 8tx y la TPU 8i Max?

La TPU 8tx está optimizada para inferencia segura y confidencial, con protección de datos integrada en el hardware y orientada a empresas reguladas y gobiernos. La TPU 8i Max combina dos chips TPU 8i en un solo paquete para duplicar cómputo, SRAM y ancho de banda de memoria, pensando en cargas de razonamiento intensivas en memoria.

2. ¿Cuándo estarán disponibles y cuánto costarán?

Por ahora no hay respuesta oficial. Google no reveló precios ni fechas de disponibilidad para ninguno de los dos sistemas nuevos. Las empresas interesadas tendrán que esperar la documentación comercial de Google Cloud antes de comparar la TPU de Google frente a otras opciones de cómputo, incluidas las GPU que ya alquilan.

3. ¿Puede una empresa usar la TPU de Google con PyTorch?

Sí. Google liberó TorchTPU como código abierto, de modo que el código PyTorch y los modelos de Hugging Face corren de forma nativa en sus TPU. Eso reduce la necesidad de reescribir proyectos completos, aunque cada equipo debe validar el rendimiento y la compatibilidad de sus propias cargas antes de migrar.

La TPU de Google deja de ser una sola línea de producto y se convierte en una familia segmentada por riesgo y tipo de carga. Su peso real en la región se medirá cuando aparezcan precios, regiones habilitadas y pruebas independientes.

¿Te aportó valor este artículo?Compártelo con tu equipo o red profesional

ARTÍCULOS RECOMENDADOS

Gazu Technology forma parte activa del Clúster TIC Tolima y de la Mesa del Sector Creativo TIC, impulsando la innovación tecnológica y las soluciones digitales de alto impacto para la región y el mundo.