Anthropic avanza en IA con Claude 3.5 Haiku, Claude 3.5 Sonnet mejorado con control informático, y la asociación con Palantir para operaciones de inteligencia y defensa del Gobierno de EE.UU

Antrópico =====
Introducción al uso del ordenador, un nuevo soneto Claude 3.5 y un haiku Claude 3.5
22 de octubre de 2024

5 minutos de lectura

Una ilustración de Claude navegando por el cursor de un ordenador

Actualización (11/04/2024): Hemos revisado el precio de Claude 3.5 Haiku. El modelo tiene ahora un precio de 1 MTok de entrada / 5 MTok de salida.

Hoy anunciamos una versión mejorada de Claude 3.5 Sonnet y un nuevo modelo, Claude 3.5 Haiku. La versión mejorada de la Claude 3.5 Sonnet ofrece mejoras generales con respecto a su predecesora, con avances especialmente significativos en la codificación, un área en la que ya era líder. Claude 3.5 Haiku iguala el rendimiento de Claude 3 Opus, nuestro anterior modelo de mayor tamaño, en muchas evaluaciones a una velocidad similar a la de la generación anterior de Haiku.

También estamos introduciendo una nueva capacidad innovadora en la beta pública: el uso del ordenador. Disponible desde hoy en la API, los desarrolladores pueden dirigir a Claude para que utilice los ordenadores como lo hace la gente: mirando una pantalla, moviendo un cursor, pulsando botones y escribiendo texto. Claude 3.5 Sonnet es el primer modelo de IA de frontera que ofrece el uso del ordenador en beta pública. En esta fase, todavía es experimental, a veces engorroso y propenso a errores. Estamos liberando el uso del ordenador antes de tiempo para recibir comentarios de los desarrolladores, y esperamos que la capacidad mejore rápidamente con el tiempo.

Asana, Canva, Cognition, DoorDash, Replit y The Browser Company ya han empezado a explorar estas posibilidades, realizando tareas que requieren docenas, y a veces incluso cientos, de pasos para completarse. Por ejemplo, Replit está utilizando las capacidades de Claude 3.5 Sonnet con el uso del ordenador y la navegación por la interfaz de usuario para desarrollar una función clave que evalúa las aplicaciones a medida que se construyen para su producto Replit Agent.

El Sonnet Claude 3.5 actualizado ya está disponible para todos los usuarios. A partir de hoy, los desarrolladores pueden construir con la beta de uso computacional en la API Anthropic, Amazon Bedrock y Vertex AI de Google Cloud. El nuevo Claude 3.5 Haiku se lanzará a finales de este mes.

Soneto Claude 3.5: Habilidades de ingeniería de software líderes en la industria

La versión actualizada de Claude 3.5 Sonnet muestra amplias mejoras en los puntos de referencia de la industria, con ganancias particularmente fuertes en las tareas de codificación agéntica y uso de herramientas. En codificación, mejora el rendimiento en SWE-bench Verified del 33,4% al 49,0%, con una puntuación superior a la de todos los modelos disponibles públicamente, incluidos los modelos de razonamiento como OpenAI o1-preview y los sistemas especializados diseñados para la codificación agéntica. También mejora el rendimiento en TAU-bench, una tarea de uso de herramientas agénticas, del 62,6% al 69,2% en el dominio del comercio minorista, y del 36,0% al 46,0% en el dominio más desafiante de las aerolíneas. El nuevo Sonnet Claude 3.5 ofrece estos avances al mismo precio y velocidad que su predecesor.

Los primeros comentarios de los clientes sugieren que la versión mejorada de Claude 3.5 Sonnet representa un salto significativo para la codificación impulsada por IA. GitLab, que probó el modelo para tareas de DevSecOps, descubrió que ofrecía un razonamiento más sólido (hasta un 10% en todos los casos de uso) sin latencia añadida, lo que lo convierte en una opción ideal para potenciar los procesos de desarrollo de software de varios pasos. Cognition utiliza el nuevo Sonnet Claude 3.5 para las evaluaciones autónomas de IA, y experimentó mejoras sustanciales en la codificación, la planificación y la resolución de problemas en comparación con la versión anterior. The Browser Company, al utilizar el modelo para automatizar flujos de trabajo basados en la web, observó que Claude 3.5 Sonnet superaba a todos los modelos que habían probado antes.

Como parte de nuestro esfuerzo continuo por colaborar con expertos externos, el Instituto de Seguridad de la IA de EE.UU. (US AISI) y el Instituto de Seguridad del Reino Unido (UK AISI) realizaron pruebas conjuntas previas a la implantación del nuevo modelo Claude 3.5 Sonnet.

También evaluamos el modelo actualizado Claude 3.5 Sonnet para detectar riesgos catastróficos y descubrimos que la norma ASL-2, tal y como se describe en nuestra Política de escalado responsable, sigue siendo apropiada para este modelo.

Claude 3.5 Haiku: El estado del arte se une a la asequibilidad y la rapidez

Claude 3.5 Haiku es la nueva generación de nuestro modelo más rápido. Por una velocidad similar a la de Claude 3 Haiku, Claude 3.5 Haiku mejora en todos los conjuntos de habilidades y supera incluso a Claude 3 Opus, el modelo más grande de nuestra generación anterior, en muchos puntos de referencia de inteligencia. Claude 3.5 Haiku es particularmente fuerte en tareas de codificación. Por ejemplo, obtiene una puntuación del 40,6% en el SWE-bench Verified, superando a muchos agentes que utilizan modelos de última generación disponibles públicamente, incluidos el Claude 3.5 Sonnet original y el GPT-4o.

Con una baja latencia, un mejor seguimiento de las instrucciones y un uso más preciso de las herramientas, Claude 3.5 Haiku es muy adecuado para los productos de cara al usuario, las tareas especializadas de los subagentes y la generación de experiencias personalizadas a partir de enormes volúmenes de datos, como el historial de compras, los precios o los registros de inventario.

Claude 3.5 Haiku estará disponible a finales de este mes a través de nuestra API de origen, Amazon Bedrock y Vertex AI de Google Cloud, inicialmente como modelo de sólo texto y posteriormente con entrada de imágenes.

Enseñar a Claude a navegar por los ordenadores, de forma responsable

Con el uso de ordenadores, estamos intentando algo fundamentalmente nuevo. En lugar de crear herramientas específicas para ayudar a Claude a completar tareas individuales, le estamos enseñando habilidades informáticas generales, permitiéndole utilizar una amplia gama de herramientas estándar y programas de software diseñados para las personas. Los desarrolladores pueden utilizar esta capacidad naciente para automatizar procesos repetitivos, construir y probar software y realizar tareas abiertas como la investigación.

Para hacer posibles estas capacidades generales, hemos construido una API que permite a Claude percibir e interactuar con interfaces informáticas. Los desarrolladores pueden integrar esta API para que Claude pueda traducir instrucciones (por ejemplo, "utilizar los datos de mi ordenador y de Internet para rellenar este formulario") en órdenes informáticas (por ejemplo, consultar una hoja de cálculo; mover el cursor para abrir un navegador web; navegar a las páginas web pertinentes; rellenar un formulario con los datos de esas páginas; etc.). En OSWorld, que evalúa la capacidad de los modelos de IA para utilizar los ordenadores como lo hacen las personas, Claude 3.5 Sonnet obtuvo una puntuación del 14,9% en la categoría de sólo capturas de pantalla, notablemente mejor que la puntuación del siguiente mejor sistema de IA, que fue del 7,8%. Cuando se le permitieron más pasos para completar la tarea, Claude obtuvo una puntuación del 22,0%.

Aunque esperamos que esta capacidad mejore rápidamente en los próximos meses, la capacidad actual de Claude para utilizar ordenadores es imperfecta. Algunas acciones que las personas realizan sin esfuerzo -desplazarse, arrastrar, hacer zoom- presentan actualmente desafíos para Claude y animamos a los desarrolladores a comenzar la exploración con tareas de bajo riesgo. Dado que el uso del ordenador puede proporcionar un nuevo vector para amenazas más familiares como el spam, la desinformación o el fraude, estamos adoptando un enfoque proactivo para promover su despliegue seguro. Hemos desarrollado nuevos clasificadores que pueden identificar cuándo se está utilizando el ordenador y si se está produciendo algún daño. Puede leer más sobre el proceso de investigación que hay detrás de esta nueva habilidad, junto con más información sobre las medidas de seguridad, en nuestro post sobre el desarrollo del uso del ordenador.

Mirando al futuro

Aprender de los despliegues iniciales de esta tecnología, que aún se encuentra en sus primeras fases, nos ayudará a comprender mejor tanto el potencial como las implicaciones de unos sistemas de IA cada vez más capaces.

Nos entusiasma que explore nuestros nuevos modelos y la beta pública del uso del ordenador, y le invitamos a que comparta sus comentarios con nosotros. Creemos que estos desarrollos abrirán nuevas posibilidades para su forma de trabajar con Claude, y estamos deseando ver lo que creará.

Antrópico ====
Desarrollo de un modelo de uso del ordenador
22 de octubre de 2024

7 minutos de lectura

Una representación abstracta del uso del ordenador por parte de la IA, con un cursor de ordenador pulsando sobre una representación estilizada de una red neuronal

Claude ya puede utilizar ordenadores. La última versión de Claude 3.5 Sonnet puede, cuando se ejecuta a través de la configuración de software adecuada, seguir las órdenes de un usuario para mover un cursor por la pantalla de su ordenador, hacer clic en lugares relevantes e introducir información a través de un teclado virtual, emulando la forma en que las personas interactúan con su propio ordenador.

Creemos que esta habilidad -que actualmente se encuentra en fase beta pública- representa un avance significativo en el progreso de la IA. A continuación, compartimos algunas ideas de la investigación que se llevó a cabo para desarrollar modelos de uso del ordenador... y para hacerlos más seguros.

¿Por qué el uso del ordenador?

¿Por qué es importante esta nueva capacidad? Una gran cantidad del trabajo moderno se realiza a través de ordenadores. Permitir que las IA interactúen directamente con los programas informáticos del mismo modo que lo hacen las personas desbloqueará una enorme gama de aplicaciones que sencillamente no son posibles para la actual generación de asistentes de IA.

En los últimos años, se han alcanzado muchos hitos importantes en el desarrollo de IA potentes: por ejemplo, la capacidad de realizar razonamientos lógicos complejos y la capacidad de ver y comprender imágenes. La próxima frontera es el uso de ordenadores: Modelos de IA que no tengan que interactuar a través de herramientas hechas a medida, sino que en su lugar estén capacitados para utilizar esencialmente cualquier programa informático según sus instrucciones.

El proceso de investigación

Nuestro trabajo anterior sobre el uso de herramientas y la multimodalidad sentó las bases para estas nuevas habilidades de uso del ordenador. Manejar ordenadores implica la capacidad de ver e interpretar imágenes; en este caso, imágenes de la pantalla de un ordenador. También requiere razonar sobre cómo y cuándo realizar operaciones específicas en respuesta a lo que aparece en la pantalla. Combinando estas habilidades, entrenamos a Claude para que interprete lo que ocurre en una pantalla y luego utilice las herramientas de software disponibles para llevar a cabo las tareas.

Cuando un desarrollador encarga a Claude el uso de un programa informático y le da el acceso necesario, Claude observa las capturas de pantalla de lo que es visible para el usuario y, a continuación, cuenta cuántos píxeles vertical u horizontalmente necesita mover un cursor para hacer clic en el lugar correcto. Entrenar a Claude para que contara los píxeles con precisión fue fundamental. Sin esta habilidad, al modelo le resulta difícil dar órdenes con el ratón, de forma parecida a como los modelos suelen tener dificultades con preguntas aparentemente sencillas como "¿cuántas A hay en la palabra 'plátano'?".

Nos sorprendió lo rápido que Claude generalizó a partir del entrenamiento en el uso del ordenador que le dimos con sólo unos pocos programas sencillos, como una calculadora y un editor de texto (por razones de seguridad no permitimos que el modelo accediera a Internet durante el entrenamiento). En combinación con otras habilidades de Claude, este entrenamiento le otorgó la notable capacidad de convertir la indicación escrita de un usuario en una secuencia de pasos lógicos y, a continuación, realizar acciones en el ordenador. Observamos que el modelo incluso se autocorregía y reintentaba las tareas cuando encontraba obstáculos.

Aunque los avances posteriores se produjeron rápidamente una vez que logramos el avance inicial, nos costó mucho ensayo y error llegar hasta allí. Algunos de nuestros investigadores señalaron que el desarrollo del uso del ordenador se parecía mucho al proceso "idealizado" de investigación de la IA que se habían imaginado cuando empezaron en este campo: iteración constante y repetidas visitas de vuelta a la mesa de dibujo hasta que hubiera progresos.

La investigación dio sus frutos. En la actualidad, Claude está a la vanguardia de los modelos que utilizan los ordenadores de la misma forma que lo hace una persona, es decir, mirando la pantalla y realizando acciones en respuesta. En una evaluación creada para poner a prueba los intentos de los desarrolladores de que los modelos utilicen ordenadores, OSWorld, Claude obtiene actualmente un 14,9%. Eso no se acerca ni de lejos a la habilidad de nivel humano (que suele ser del 70-75%), pero es muy superior al 7,7% obtenido por el siguiente mejor modelo de IA en la misma categoría.

Hacer que el uso del ordenador sea seguro

Cada avance en la IA trae consigo nuevos retos en materia de seguridad. El uso del ordenador es principalmente una forma de reducir la barrera para que los sistemas de IA apliquen sus habilidades cognitivas existentes, en lugar de aumentar fundamentalmente dichas habilidades, por lo que nuestras principales preocupaciones sobre el uso del ordenador se centran en los daños actuales más que en los futuros. Lo confirmamos evaluando si el uso de ordenadores aumenta el riesgo de amenazas fronterizas, tal y como se indica en nuestra Política de escalado responsable. Comprobamos que el Sonnet Claude 3.5 actualizado, incluida su nueva habilidad de uso del ordenador, se mantiene en el nivel de seguridad 2 de la IA, es decir, no requiere un nivel de medidas de seguridad y protección superior al que tenemos actualmente.

Cuando los modelos futuros requieran medidas de seguridad de nivel de seguridad de IA 3 o 4 porque presenten riesgos catastróficos, el uso del ordenador podría exacerbar esos riesgos. Juzgamos que probablemente sea mejor introducir el uso del ordenador ahora, mientras los modelos aún sólo necesiten salvaguardas del nivel 2 de seguridad de la IA. Esto significa que podemos empezar a lidiar con cualquier problema de seguridad antes de que lo que esté en juego sea demasiado importante, en lugar de añadir capacidades de uso informático por primera vez en un modelo con riesgos mucho más graves.

Con este espíritu, nuestros equipos de Confianza y Seguridad han llevado a cabo un análisis exhaustivo de nuestros nuevos modelos de uso del ordenador para identificar posibles vulnerabilidades. Una de las preocupaciones que han identificado es la "inyección de instrucciones", un tipo de ciberataque en el que se introducen instrucciones maliciosas en un modelo de IA, haciendo que anule sus instrucciones previas o realice acciones involuntarias que se desvían de la intención original del usuario. Dado que Claude puede interpretar capturas de pantalla de ordenadores conectados a Internet, es posible que esté expuesto a contenidos que incluyan ataques de inyección de instrucciones.

Quienes utilicen la versión de Claude para uso informático en nuestra beta pública deberán tomar las precauciones pertinentes para minimizar este tipo de riesgos. Como recurso para los desarrolladores, hemos proporcionado más orientación en nuestra implementación de referencia.

Como ocurre con cualquier capacidad de IA, también existe la posibilidad de que los usuarios hagan un mal uso intencionado de las habilidades informáticas de Claude. Nuestros equipos han desarrollado clasificadores y otros métodos para señalar y mitigar este tipo de abusos. Dadas las próximas elecciones estadounidenses, estamos en alerta máxima ante los intentos de uso indebido que podrían percibirse como un debilitamiento de la confianza pública en los procesos electorales. Aunque el uso del ordenador no es lo suficientemente avanzado ni capaz de operar a una escala que presente riesgos mayores en relación con las capacidades existentes, hemos puesto en marcha medidas para controlar cuándo se pide a Claude que participe en actividades relacionadas con las elecciones, así como sistemas para apartar a Claude de actividades como generar y publicar contenidos en las redes sociales, registrar dominios web o interactuar con sitios web gubernamentales. Evaluaremos e iteraremos continuamente estas medidas de seguridad para equilibrar las capacidades de Claude con un uso responsable durante la beta pública.

En consonancia con nuestro enfoque estándar de la privacidad de los datos, por defecto no entrenamos nuestros modelos generativos de IA con los datos enviados por los usuarios, incluidas las capturas de pantalla que recibe Claude.

El futuro del uso del ordenador

El uso del ordenador es un enfoque completamente diferente del desarrollo de la IA. Hasta ahora, los desarrolladores de LLM han hecho que las herramientas se ajusten al modelo, produciendo entornos personalizados en los que las IA utilizan herramientas especialmente diseñadas para completar diversas tareas. Ahora, podemos hacer que el modelo se adapte a las herramientas: Claude puede encajar en los entornos informáticos que todos utilizamos a diario. Nuestro objetivo es que Claude tome piezas preexistentes de software informático y las utilice simplemente como lo haría una persona.

Aún queda mucho por hacer. Aunque es el estado actual de la técnica, el uso del ordenador por parte de Claude sigue siendo lento y a menudo propenso a errores. Hay muchas acciones que la gente hace habitualmente con los ordenadores (arrastrar, hacer zoom, etc.) que Claude aún no puede intentar. La naturaleza de "libro animado" de la visión de Claude de la pantalla -hacer capturas de pantalla y unirlas, en lugar de observar un flujo de vídeo más granular- significa que puede perderse acciones o notificaciones de corta duración.

Incluso mientras grabábamos demostraciones del uso del ordenador para el lanzamiento de hoy, nos encontramos con algunos errores divertidos. En uno, Claude hizo clic accidentalmente para detener una grabación de pantalla que llevaba mucho tiempo en marcha, lo que provocó que se perdiera todo el metraje. En otro, Claude se tomó de repente un descanso de nuestra demostración de codificación y se puso a ojear fotos del Parque Nacional de Yellowstone.

Esperamos que el uso del ordenador mejore rápidamente para ser más rápido, más fiable y más útil para las tareas que nuestros usuarios quieren completar. También será mucho más fácil de implementar para quienes tengan menos experiencia en el desarrollo de software. En cada etapa, nuestros investigadores colaborarán estrechamente con nuestros equipos de seguridad para garantizar que las nuevas capacidades de Claude vayan acompañadas de las medidas de seguridad adecuadas.

Invitamos a los desarrolladores que prueben el uso del ordenador en nuestra beta pública a que se pongan en contacto con nosotros con sus comentarios a través de este formulario, para que nuestros investigadores puedan seguir mejorando la utilidad y la seguridad de esta nueva capacidad.

PALANTIR ====

11 / 07 / 2024

Anthropic y Palantir se asocian para llevar los modelos de IA de Claude a AWS para las operaciones de inteligencia y defensa del gobierno de EE.UU

DENVER--(BUSINESS WIRE)-- Anthropic y Palantir Technologies Inc. (NYSE: PLTR) han anunciado hoy una asociación con Amazon Web Services (AWS) para proporcionar a las agencias de inteligencia y defensa de EE.UU. acceso a la familia de modelos Claude 3 y 3.5 en AWS. Esta asociación permite disponer de un conjunto integrado de tecnología para hacer operativo el uso de Claude dentro de la Plataforma de Inteligencia Artificial (AIP) de Palantir, al tiempo que se aprovechan las ventajas de seguridad, agilidad, flexibilidad y sostenibilidad que ofrece AWS.

La asociación facilita la aplicación responsable de la IA, permitiendo el uso de Claude dentro de los productos de Palantir para apoyar las operaciones gubernamentales, tales como el procesamiento rápido de grandes cantidades de datos complejos, la elevación de las percepciones impulsadas por los datos, la identificación de patrones y tendencias de manera más eficaz, la racionalización de la revisión y preparación de documentos, y la ayuda a los funcionarios de EE.UU. a tomar decisiones más informadas en situaciones sensibles al tiempo, preservando al mismo tiempo sus autoridades de toma de decisiones. Claude se hizo accesible dentro de Palantir AIP en AWS a principios de este mes.

Con el AIP de Palantir, los clientes pueden ahora hacer operativo Claude utilizando un conjunto integrado de tecnología, facilitado por Amazon SageMaker, un servicio acreditado totalmente gestionado, y alojado en el entorno acreditado de Nivel de Impacto 6 (IL6) de Palantir, respaldado por AWS. Palantir y AWS se encuentran entre un número limitado de empresas que han recibido la acreditación IL6 de la Agencia de Sistemas de Información de Defensa (DISA), que exige algunos de los protocolos de seguridad más estrictos.

"Nuestra asociación con Anthropic y AWS proporciona a las comunidades de defensa e inteligencia de EE.UU. la cadena de herramientas que necesitan para aprovechar y desplegar modelos de IA de forma segura, aportando la próxima generación de ventaja en la toma de decisiones a sus misiones más críticas", declaró Shyam Sankar, Director de Tecnología de Palantir. "Palantir se enorgullece de ser el primer socio de la industria en llevar los modelos Claude a los entornos clasificados. Ya hemos visto de primera mano el impacto de estos modelos con AIP en el sector comercial: por ejemplo, una aseguradora estadounidense líder automatizó una parte importante de su proceso de suscripción con 78 agentes de IA impulsados por AIP y Claude, transformando un proceso que antes tardaba dos semanas en uno que podía realizarse en tres horas. Ahora estamos proporcionando esta misma ventaja asimétrica de la IA al gobierno estadounidense y a sus aliados."

"Estamos orgullosos de estar a la vanguardia de la aportación de soluciones responsables de IA a los entornos clasificados de EE.UU., mejorando las capacidades analíticas y la eficacia operativa en operaciones gubernamentales vitales. El acceso a Claude 3 y Claude 3.5 dentro de Palantir AIP en AWS equipará a las organizaciones de defensa e inteligencia de EE.UU. con potentes herramientas de IA que pueden procesar y analizar rápidamente grandes cantidades de datos complejos. Esto mejorará drásticamente el análisis de inteligencia y permitirá a los funcionarios en sus procesos de toma de decisiones, agilizará las tareas intensivas en recursos e impulsará la eficiencia operativa en todos los departamentos", dijo Kate Earle Jensen, Jefa de Ventas y Asociaciones de Anthropic.

"Estamos encantados de asociarnos con Anthropic y Palantir y ofrecer nuevas capacidades de IA generativa que impulsarán la innovación en todo el sector público. En AWS, nos comprometemos a ofrecer a los clientes y socios del sector público el conjunto de servicios en la nube más seguro, innovador y completo", afirmó Dave Levy, vicepresidente del sector público mundial de AWS.

Acerca de Palantir Technologies Inc.

Software fundacional del mañana. Entregado hoy. Encontrará más información en www.palantir.com.

Declaraciones prospectivas

Este comunicado de prensa contiene declaraciones prospectivas en el sentido de la Sección 27A de la Ley de Valores de 1933, según enmendada, y la Sección 21E de la Ley de Intercambio de Valores de 1934, según enmendada. Estas declaraciones pueden referirse, entre otras cosas, a las expectativas de Palantir con respecto al importe y las condiciones del contrato y a los beneficios esperados de nuestras plataformas de software. Las declaraciones prospectivas están inherentemente sujetas a riesgos e incertidumbres, algunos de los cuales no pueden predecirse ni cuantificarse. Las declaraciones prospectivas se basan en la información disponible en el momento en que se realizan dichas declaraciones y se basan en las expectativas actuales, así como en las creencias y suposiciones de la dirección en ese momento con respecto a acontecimientos futuros. Estas declaraciones están sujetas a riesgos e incertidumbres, muchos de los cuales implican factores o circunstancias que escapan a nuestro control. Estos riesgos e incertidumbres incluyen nuestra capacidad para satisfacer las necesidades únicas de nuestro cliente; el fracaso de nuestras plataformas para satisfacer a nuestro cliente o funcionar como se desea; la frecuencia o gravedad de cualquier error de software e implementación; la fiabilidad de nuestras plataformas; y la capacidad de nuestro cliente para modificar o rescindir el contrato. En los documentos que presentamos periódicamente ante la Comisión del Mercado de Valores se incluye información adicional sobre estos y otros riesgos e incertidumbres. Salvo que lo exija la ley, no asumimos ninguna obligación de actualizar o revisar públicamente ninguna declaración prospectiva, ya sea como resultado de nueva información, acontecimientos futuros u otros motivos.

Contacto para los medios

Morgan Gress

[email protected]

Fuente: Palantir Technologies Inc.