Notebookcheck Logo

Nvidia y Apple: Los enemigos dejan a un lado las rencillas para potenciar el rendimiento de la IA

Apple y Nvidia anuncian una asociación sorpresa en materia de IA. (Fuente de la imagen: Pexels, Nvidia, editado)
Apple y Nvidia anuncian una asociación sorpresa en materia de IA. (Fuente de la imagen: Pexels, Nvidia, editado)
Apple y Nvidia han anunciado una colaboración sorpresa destinada a mejorar el rendimiento de la inferencia LLM, combinando el ReDrafter de código abierto de Apple con el gruñido de silicio en bruto de Nvidia. ¿El resultado? Una mejora del rendimiento de 2,7 veces con respecto a la regresión automática.

Es bien sabido que Apple y Nvidia no se llevan demasiado bien. Hubo un tiempo en el que la línea Mac de Apple sí utilizaba gráficos Nvidia, pero las cosas se torcieron cuando en 2008, los problemas generalizados en los MacBooks con el procesador Nvidia GeForce 8400M y 8600M dGPU de Nvidia empezaron a surgir debido a defectos de embalaje, que provocaban sobrecalentamiento, fallos gráficos y, en casos extremos, el fallo total de la GPU. Aunque los MacBook siguieron teniendo GPU Nvidia, su relación fue indudablemente en picado y, en los años siguientes, Apple se pasó a AMD y nunca miró atrás.

Como resultado, y sin ánimo de ofender a los fans del Team Red, los Mac sufrían un rendimiento gráfico deficiente en comparación con los portátiles Windows equipados con GTX y RTX. Eso fue hasta que llegaron los Mac potenciados por SiliconApple , por supuesto. A pesar de que los entusiastas del Mac esperaban que Nvidia y Apple enterraran el hacha de guerra, nunca llegó a ocurrir realmente... hasta ahora. Bueno, más o menos. Apple anunció recientemente una colaboración con Nvidia destinada a acelerar la inferencia de modelos de grandes lenguajes, marcando una especie de armisticio bienvenido entre los dos gigantes multimillonarios.

En el centro de esta inesperada colaboración se encuentra Apple's ReCurrent Drafter (ReDrafter), que es básicamente un método de descodificación especulativa bastante innovador diseñado para mejorar la generación de tokens LLM lanzado a principios de este año. Al parecer, Nvidia ha trabajado con Apple para incorporar de algún modo ReDrafter a su TensorRT-LLM framework. Además, el gigante de la IA también ha actualizado su marco con nuevos operadores optimizados, lo que permite una adopción sin problemas. Los resultados, incluso para un profano como yo, suenan prometedores: los LLM que utilizan GPU de Nvidia con ReDrafter consiguen multiplicar por 2,7 la velocidad de generación de tokens, lo que reduce la latencia y el consumo de energía.

Ahora, por supuesto, si esta colaboración indica que hay más en la tienda de las dos empresas más grandes del mundo, o si marca más de una tregua de una sola vez tipo de cosa todavía está en el aire. En cualquier caso, cualquier tipo de alianza en I+D probablemente supondrá una noticia positiva para los consumidores. Después de todo, ¿quién no quiere un software más rápido?

Fuente(s)

Please share our article, every link counts!
Mail Logo
> Análisis y pruebas de ordenadores portátiles y móviles teléfonos > Noticias > Archivo de noticias > Archivo de noticias 2024 12 > Nvidia y Apple: Los enemigos dejan a un lado las rencillas para potenciar el rendimiento de la IA
Sambit Saha, 2024-12-20 (Update: 2024-12-20)