Tres chips dentro y Google Tensor está con respiración asistida

Los smartphones Pixel de Google siempre han estado a la vanguardia del uso del aprendizaje automático y la IA para ofrecer experiencias únicas, todo ello aprovechando la experiencia en software de Google creando algoritmos inteligentes. El original Pixel fue el primer teléfono inteligente Android en incorporar Google Assistant, al tiempo que fue también el primer teléfono inteligente en general en incorporar funciones de fotografía computacional impulsadas por IA, como Lens Blur y Smartburst. Cada teléfono sucesivo se basó en este legado y hasta el Pixel 5, Google se había asociado con Qualcomm para utilizar sus chips Snapdragon para impulsar estas experiencias de IA y ML.

Esto cambió con el lanzamiento del Pixel 6 y Pixel 6 Pro en 2021, que fueron impulsados por el Google Tensor, su primer chip personalizado. En ese momento, Google dijo que su objetivo era crear su propio chip para poder "...ofrecer capacidades totalmente nuevas a los usuarios de Pixel siguiendo el ritmo de los últimos avances en ML" La implicación es, que si se hubiera quedado con Qualcomm, simplemente no habría sido capaz de alcanzar sus objetivos. Concretamente:

El codiseño de Google Tensor con Google Research nos permitió comprender hacia dónde se dirigen los modelos de ML, no dónde se encuentran actualmente. Esto nos permitió construir una plataforma de IA/ML que pudiera seguir el ritmo de nuestro trabajo en Google.

También destacó cómo el Tensor permitió que las entonces nuevas funciones de IA, como Live Translate, "trabajaran con medios como vídeos utilizando modelos de habla y traducción en el dispositivo" En cuanto a las capacidades originales de aprendizaje automático del primer Tensor, cumplió. Si la serie de chips Google Tensor se creó específicamente para dar soporte a las funciones de IA de Google -tanto para mantener el ritmo de los modelos de IA de Google como para darles soporte en el dispositivo, tal y como se pretendía-, desde entonces algo se ha torcido.

Desarrollar chips personalizados líderes en el mercado es una empresa costosa. Applela decisión de Google de invertir en chips totalmente personalizados basados en Arm se remonta a la era de Steve Jobs, cuando adquirió un par de empresas de diseño de chips especializadas en silicio de bajo consumo y alto rendimiento. Su primer prototipo de Mac basado en Arm también se remonta a la era Jobs, con rumores de su existencia que surgieron por primera vez en 2011el año antes de que Jobs falleciera tristemente a causa de un cáncer de páncreas. Ese mismo año, el equipo de chips de Apple ya contaba con al menos 1.000 personas. También ha invertido mucho en TSMC para asegurarse un acceso prioritario a sus últimas tecnologías de fabricación. En resumen, Apple ha invertido muchos miles de millones de dólares con sus esfuerzos de silicio personalizado por la razón de que ofrecería un unísono sin igual entre su hardware y su software.

Google también ha querido emular el enfoque de Appleadaptando el silicio para que se alinee mejor con sus capacidades de software impulsado por IA, líderes en el mercado. Sin embargo, hasta la fecha, sus esfuerzos no han sido tan ambiciosos como los de Apple. Los tres primeros chips Tensor se consideran diseños semipersonalizados, ya que han sido codiseñados y desarrollados con Samsung LSI, el equipo que está detrás de los propios chips Exynos de Samsung. También son fabricados por Samsung Foundry. La procedencia del Tensor original y su estrecha relación con los chips Exynos de Samsung fue identificada por Andrei Frumansu, que entonces escribía para Anandtech. (Frumansu, desde entonces ha pasado a cosas más grandes y mejores y ahora es Ingeniero Principal en Qualcomm trabajando en el Chip Snapdragon X Elite -- así que sabe un par de cosas sobre chips).

Así que mientras Apple ha estado desarrollando CPUs basadas en Arm totalmente personalizadas durante muchos años y, más recientemente, también núcleos de GPU totalmente personalizados, los chips Tensor de Google codiseñados y desarrollados por Samsung han estado utilizando núcleos de CPU Cortex de Arm y núcleos de GPU Mali de Arm stock. Sin embargo, incorporan bloques de IP de Google totalmente personalizados, entre los que se incluyen la unidad de procesamiento de sensores (TPU), el enclave seguro Titan M y otros bloques de IP personalizados, tal y como señala Frumansu. Esto se basa en la IP de silicio personalizada que Google había desarrollado cuando aún utilizaba los chips Qualcomm Snapdragon, incluido el Núcleo visual Pixel visto por primera vez en el Pixel 2 y el primer Titan M que debutó en el Pixel 3. Este ha sido el enfoque que Google ha seguido con todos sus chips Tensor hasta ahora: el Tensor original, Tensor G2 y el último Tensor G3.

Según los últimos rumores, Google ha estado diseñando un tensor totalmente personalizado. Este se fabricará en uno de los nodos de 3 nm de TSMC en lugar de en los nodos de Samsung - a pesar de que Samsung parece estar recuperando algunos de los clientes que ha perdido en los últimos dos o tres años en favor de TSMC, parece que Google ha perdido la paciencia con el gigante coreano. Por desgracia para los fans del Pixel, no se espera que este chip llegue hasta 2025, lo que significa que podemos esperar al menos un chip Tensor más de su actual enganche con Samsung. Sin embargo, los primeros indicios no son prometedores. Al igual que el Tensor G2, que era una modesta mejora sobre el Tensor OG, el Tensor G4 se espera que sea una modesta actualización sobre el Tensor G3. Esto podría ser un problema para Google dado que el Tensor G3 es incapaz de manejar los últimos algoritmos de IA de Google en el dispositivo según sus planes originales.

Aunque el Tensor G3 mejoras arquitectónicas significativassu rendimiento en los puntos de referencia sitúa su rendimiento entre el Qualcomm de gama media Snapdragon 7+ Gen 2 y el Snapdragon 8+ Gen 1. Si bien el rendimiento es suficiente para mantener el Pixel 8 Pro ejecutando la IU del sistema sin problemas y otras tareas, sigue siendo propenso a calentarse realizando tareas sencillas como descargar apps y grabar vídeo en la experiencia de este redactor con él. Cuando los teléfonos se calientan de esta manera en el uso general, es un reflejo del tipo de ineficiencia que es una característica conocida de los chips producidos en los nodos de 5 nm y 4 nm de Samsung, incluido el nodo 4LPP utilizado para fabricar el Tensor G3. Google ha intentado enmascarar estas deficiencias térmicas cargando el Pixel 8 Pro con mucho grafeno. La misma ineficiencia también es evidente en numerosas pruebas de batería estandarizadas que se encuentran en y que suelen mostrar al el Pixel 8 Pro muy por detrás del iPhone 15 Pro Max y el Galaxy S23 Ultrasus dos competidores clave.

El mayor problema, tal vez, con el Tensor G3 es (como hemos destacado recientemente), que muchas de las últimas funciones de IA que Google ha anunciado junto con el lanzamiento del Pixel 8 Pro no se pueden manejar en el dispositivo. Esto es a pesar de Google posicionando el chip como capaz de hacerlo en su blog oficial. Aunque Google dejó claro en su lanzamiento que la nueva función Video Boost se descarga a la nube para su procesamiento, no ha dejado claro exactamente qué funciones requieren una conexión a Internet. La única pista de que el procesamiento de la IA se está descargando en la nube para que funcione una nueva función de IA es cuando Google indica específicamente en la letra pequeña que una función "requiere la aplicación Google Fotos". Entre las nuevas funciones de IA que el Tensor G3 no es lo suficientemente potente como para procesar en el dispositivo se incluyen el Asistente de Google con Bard, el vídeo Night Sight, la corrección de textos de Gboard, Magic Editor, AI Wallpaper, Audio Magic Eraser y la actualización de IA generativa que llegará a Magic Eraser.

Está claro que con sólo tres chips y tantas nuevas funciones de IA en Google Cloud, el proyecto Google Tensor se encuentra con respiración asistida. Como recordará, Google dijo que había cambiado el uso de chips Snapdragon porque lo venía haciendo:

El codiseño de Google Tensor con Google Research nos permitió saber hacia dónde se dirigen los modelos ML, no dónde están hoy. Esto nos permitió construir una plataforma de IA/ML que pudiera seguir el ritmo de nuestro trabajo en Google.

El Tensor G3 simplemente no se acerca a cumplir la razón de ser original de Google para crear sus propios chips. Según Google, las ventajas de que un chip pueda procesar tareas de IA en el dispositivo incluyen: baja latencia (ya que el procesamiento se realiza localmente); privacidad (ya que los datos del usuario no se descargan en servidores remotos); y mayor duración de la batería (ya que las conexiones celulares o Wi-Fi consumen energía). En cambio, al descargar las tareas de IA a la nube, la latencia en el Pixel 8 Pro aumenta, la privacidad disminuye y la duración de la batería recibe un golpe cada vez que un usuario utiliza una de las nuevas funciones de IA que necesita utilizar una conexión celular o Wi-Fi.

En el lanzamiento del potente Snapdragon 8 Gen 3 apenas unas semanas después del Tensor G3, Qualcomm no perdió la oportunidad de enviar a Google el mensaje de que nunca debió prescindir de ellos. Durante su acto de presentación, Qualcomm hizo especial hincapié en las capacidades de procesamiento generativo de IA en el dispositivo del Snapdragon 8 Gen 3, calificándolo de "Titán de la inteligencia en el dispositivo". Qualcomm no exageraba: el Snapdragon 8 Gen 3 es el primer SoC móvil con capacidad para soportar la difusión estable en el dispositivo, y grandes modelos de IA de hasta 10.000 millones de parámetros.

El Snapdragon 8 Gen 3 también ha puesto de manifiesto que la afirmación de Google de que las "métricas de rendimiento tradicionales" carecen de importancia es una farsa. La razón por la que el Snapdragon 8 Gen 3 aplasta las capacidades de procesamiento de IA en el dispositivo del Tensor G3 es por la misma que también lo lo aplasta en los puntos de referencia. Qualcomm denomina a la combinación de CPU, GPU y NPU del Snapdragon 8 Gen 3 su "motor de IA". Esto se debe a que la CPU, la GPU y la NPU de un SoC de smartphone se utilizan en gran medida a la hora de procesar los modelos de aprendizaje automático que potencian las funciones de IA en los smartphones. Los análisis comparativos muestran claramente que el Tensor G3 tiene una CPU y una GPU comparativamente débiles, mientras que su TPU personalizada no es suficiente para acercarse a compensar esto.

La potencia bruta importa, e importa ahora más que nunca gracias al auge de la IA generativa en los últimos 12 a 18 meses. En este punto, el único beneficio del Tensor G3 para los fans del Pixel es que Google ha prometido 7 años de actualizaciones del sistema operativo para la serie Pixel 8, lo que es sustancialmente más de lo que habría sido posible con Qualcomm. Sin embargo, a estas alturas, esto no es más que una promesa, y tiene que haber signos de interrogación sobre la capacidad para que el Tensor G3 sea capaz de soportar realmente Android 21, que es ostensiblemente la última de las actualizaciones del SO que recibirán el Pixel 8 Pro y el Pixel 8.

No parece que las cosas vayan a mejorar mucho para el Pixel 9 Pro cuando se lance en 2024, ya que los primeros indicios apuntan a que el Tensor G4 continuará con la actual arquitectura de CPU del Tensor G3, mientras que podría recibir una actualización de TPU y GPU. Esto sería similar en enfoque al Tensor G2, que fue una modesta actualización sobre el Tensor OG. No será hasta 2025 cuando veamos por fin a Google entregar un Tensor que pueda cumplir la promesa original de Google, uno que esté totalmente personalizadopero -crucialmente- fabricado en el nodo 3NE de TSMC. Esto debería hacer que el Tensor G5 sea mucho más competitivo con otros chips insignia del mercado.

Ahora mismo, sin embargo, el Pixel 8 Pro apenas está aguantando tal y como está -- ¿puede sobrevivir a una actualización tipo Tensor G2 cuando se necesita una arquitectura totalmente nueva y un proceso de fabricación mucho mejor lo antes posible? Un arreglo obvio a corto plazo sería dejar caer un Snapdragon 8 Gen 3 en el Pixel 9 Pro el próximo año. Sin embargo, eso presentaría un desafío de marketing dado el enorme esfuerzo que Google ha volcado en la marca Tensor, antes de tener en cuenta los costes irrecuperables gastados en el desarrollo del Tensor G4 y los costes de reingeniería de cambiar de chip. Es tanto el obstáculo, que parecería que Google está encerrado en su trayectoria actual. Si Google procede según lo previsto, bien podría acabar con cualquier caché que quedara en las marcas Tensor y Pixel.

Incluso en esta etapa temprana, parece que las ventas de la serie Pixel 8 están en el lado suave. Mientras que Google tradicionalmente descuenta sus Pixel para las rebajas del Viernes Negro, grandes descuentos de más de 400 dólares australianos ya estaban disponibles en el Pixel 8 Pro solo cuatro semanas después de su lanzamiento y una semana y media antes del inicio oficial de las ventas del Black Friday. Esto es extremadamente inusual. La serie Pixel sigue ofreciendo un gran software y un excelente rendimiento de la cámara. Google fue pionera en las funciones de IA en los smartphones, y sus funciones de IA siguen siendo líderes en su clase. Pero sus chips Tensor son su talón de Aquiles.