SlimLM, respaldado por Adobe, ofrece capacidades de IA móvil sin nube

Gracias a un nuevo modelo de lenguaje reducido (SLM) que ha desarrollado un equipo de investigadores de IA de Adobe Inc. junto con colegas de la Universidad de Auburn y Georgia Tech, las nuevas aplicaciones de IA para smartphones podrán procesar documentos localmente sin necesidad de acceder a la nube. Este SLM se llama SlimLM, y todos los detalles sobre él se han publicado en arXiv.

"Mediante experimentos exhaustivos en un Samsung Galaxy S24, identificamos los equilibrios óptimos entre el tamaño del modelo (que oscila entre 125M y 7B parámetros), la longitud del contexto y el tiempo de inferencia para un procesamiento eficiente en el dispositivo. SlimLM se entrena previamente en SlimPajama-627B y se pone a punto en DocAssist, nuestro conjunto de datos construido para tareas de resumen, respuesta a preguntas y sugerencias. Nuestro modelo más pequeño demuestra un rendimiento eficiente en S24, mientras que las variantes más grandes ofrecen capacidades mejoradas dentro de las limitaciones móviles"

reveló el equipo de investigación.

SlimLM aún no está disponible para las masas, pero esto podría ocurrir muy pronto. Gracias a esta pieza de código, un smartphone puede utilizar la potencia de la IA localmente para procesar documentos sin ni siquiera conectarse a Internet. Aunque las soluciones de IA basadas en la nube suelen utilizar mucha menos potencia informática local que las aplicaciones que se ejecutan localmente, el atributo más importante que ofrecen es la privacidad. Hasta ahora, los grandes nombres del sector, como Google, Apple, y Meta, ya han desarrollado aplicaciones de este tipo. Lamentablemente, su estado sigue siendo más bien experimental, y ninguna de ellas ha llegado a las masas. Si los planes de los investigadores mencionados llegan a buen puerto, SlimLM podría convertirse en la primera solución de este tipo.

Los interesados en SlimLM y soluciones similares deberían hacerse con el libro de Jesse Sprinter Demystifying AI: Your Guide to Mastering Small Language Models, que actualmente está disponible por 7,11 dólares en formato Kindle, mientras que la versión en rústica cuesta 18,99 dólares.