Opera se convierte en el primer navegador web que ofrece acceso a los LLM locales
Los usuarios de Opera One en el flujo de desarrolladores están recibiendo una gran actualización. La última actualización permite a los usuarios descargar y utilizar LLM localmente. Actualmente, la selección de modelos es de más de 50 familias, y hay más de 150 modelos diferentes que los usuarios pueden descargar y ejecutar en sus ordenadores.
Algunos de los modelos destacados son Gemma de Google, LLaMA de Meta, Mixtral de Mistral AI, y Vicuna de LMSYS. Esta nueva función se está desplegando como parte del programa de lanzamiento de funciones de IA. Es decir, los usuarios que ejecuten la versión para desarrolladores de Opera One para probar la actualización.
Aun así, con esto, Opera se convierte en el primer navegador web que permite a sus usuarios descargar y utilizar LLM locales. Para quienes se lo pregunten, ejecutar estos modelos localmente suele ofrecer un control total, una latencia reducida y, lo que es más importante, una mayor privacidad. Pero su ordenador debe cumplir algunos requisitos.
Por ejemplo, la empresa de navegadores afirma que cada variante del LLM local necesitará más de 2 GB de almacenamiento. En cuanto a la ejecución de los modelos, Opera afirma que utiliza el marco de código abierto Ollama. Eso también significa que todos los modelos disponibles actualmente en el navegador son subconjuntos de la biblioteca Ollama. La parte buena es que Opera planea incluir modelos de otras fuentes.
No todos los usuarios se beneficiarán de esta actualización. Sin embargo, es una buena noticia para aquellos que quieran probar diferentes LLM localmente en sus máquinas. Puede utilizar el Asistente de IA llamado Aria si no desea descargar modelos. Está disponible para la versión normal del navegador desde mayo del año pasado.
Fuente(s)
