Pindrop desvela el software Pulse Inspect para detectar clones de voz con IA para ayudar a detener el fraude y la desinformación
Pindrop ha presentado el software Pulse Inspect para detectar clones de voz generados por IA y ayudar a frenar el fraude y la desinformación. El software utiliza tecnologías patentadas para detectar con fiabilidad más del 90% de las voces generadas por IA, incluso con muestras de audio de menos de diez segundos de duración.
Las voces clonadas por IA han llegado a ser tan convincentemente reales que se han perdido millones en fraudes. A principios de este año, los ladrones de robaron 25 millones de dólares a un trabajador financiero en una multinacional de Hong Kong mediante una videollamada deepfake que utilizaba voces deepfake del director financiero y otros miembros del personal. Los vídeos políticos deepfake se han utilizado para influir en el resultado de las eleccionesincluidas las próximas elecciones estadounidenses de 2024. También se han creado y utilizado llamadas de voz falsas de políticos https://www.nytimes.com/2024/02/27/us/politics/ai-robocall-biden-new-hampshire.htmlprovocando un gran revuelo.
Pindrop lleva ocho años investigando el asunto y posee 25 patentes sobre la detección de falsificaciones de audio. Su última IA Pulse Inspect ha sido entrenada con más de 20 millones de muestras de voces reales y falsas. Las muestras de voz falsa procedentes de más de 370 herramientas de clonación diferentes permiten alcanzar altos índices de detección. La IA divide las muestras de voz en clips de cuatro segundos para su análisis, utilizando las características de audio únicas de varios algoritmos de deepfake y las características de audio adicionales de las voces reales para identificar las falsificaciones. Esto permite a Pulse Inspect detectar falsificaciones el 90% de las veces cuando se enfrenta a voces clonadas de herramientas de deepfake nunca antes vistas y el 99% de las veces cuando se enfrenta a voces de herramientas previamente vistas.
Las empresas deben saber que el software de detección de fraudes nunca es perfecto. Una prueba reciente de Pulse Inspect realizada por la NPR descubrió que el software no categorizaba correctamente las voces reales frente a las falsas en 3 de las 84 muestras analizadas. La tasa de fallos del 3,6% deja una pequeña posibilidad de éxito a los atacantes, y las empresas deben utilizar siempre la defensa en profundidad para proteger sus activos.
Los lectores que se preocupan por sus activos y sus seres queridos deberían asegurar sus cuentas utilizando métodos de dos factores, como códigos de acceso por mensaje de texto o una llave física de dos factores(como ésta de Amazon), y asegurarse de que los miembros de la familia utilicen una palabra o frase secreta para verificar sus identidades durante las llamadas sospechosas.
Fuente(s)
Pindrop lanza Pulse Inspect: Una solución de vanguardia para combatir las falsificaciones profundas y la propagación de la desinformación
PindropⓇ PulseTM Inspect permite a los medios de comunicación, las redes sociales, las organizaciones sin ánimo de lucro y los gobiernos mantener la integridad de los contenidos identificando el audio generado por IA con un 99% de precisión
Atlanta, GA - 15 de agosto de 2024 - Pindrop, líder mundial en autenticación y seguridad de voz desde 2011, ha anunciado hoy el lanzamiento de PindropⓇ PulseTM Inspect en Preview. Esta innovadora herramienta, la última incorporación a la vanguardista familia de productos de detección de falsificación profunda PindropⓇ PulseTM de Pindrop, puede detectar voz generada por IA en cualquier archivo de audio digital con una precisión del 99%. Tras el lanzamiento de Pindrop Pulse a principios de este año y la última financiación de Pindrop en julio, Pindrop Pulse Inspect amplía la tecnología de Pindrop más allá de los centros de llamadas, sino que ahora ofrece un nuevo caso de uso para organizaciones de medios de comunicación, organizaciones sin ánimo de lucro, agencias gubernamentales y redes de medios sociales. Pulse Inspect analiza y verifica rápidamente si los archivos multimedia contienen voz sintética para que los clientes puedan prevenir de forma proactiva la propagación de información errónea y mantener la credibilidad de su marca.
La IA generativa ha provocado un aumento de las deepfakes, lo que supone una grave amenaza para la credibilidad de las organizaciones. El informe de Pindrop Deepfake and Voice Clone Consumer Sentiment Report, estima que más de 12 millones de adultos estadounidenses conocen a alguien a quien personalmente le han creado deepfakes sin su consentimiento. Estos archivos sintéticos se difunden a menudo a través de plataformas como YouTube, TikTok, Instagram, Facebook y los medios de comunicación. Para ayudar a prevenir la exposición a estas amenazas en evolución, las organizaciones pueden adoptar esta tecnología de vanguardia para salvaguardar su imagen pública y su credibilidad. La solución Pulse de Pindrop aborda este problema de frente detectando las deepfakes con una precisión excepcional.
Al adoptar Pulse Inspect, los usuarios pueden cargar archivos de audio en la plataforma de Pindrop para determinar con rapidez y precisión si los archivos contienen voz sintética. Pindrop proporciona puntuaciones inmediatas de deepfake y visibilidad de las partes específicas del archivo que se identifica que contienen artefactos sintéticos o deepfake, de modo que el usuario puede prestar más atención a ese segmento al revisar y realizar el análisis. Con Pulse Inspect, los usuarios pueden tomar medidas rápidas para salvaguardar la integridad del contenido antes de distribuirlo en cualquier plataforma pública de noticias, social o de publicación en línea.
"Durante más de una década, Pindrop ha estado a la vanguardia de la innovación en autenticación y seguridad de voz. Por ejemplo, descubrimos el motor TTS fuente utilizado en el incidente de deepfake de Biden a principios de este año, y la necesidad crítica de mecanismos robustos de detección de deepfake ha llegado alto y claro en mis conversaciones con decenas de partes interesadas de todas las industrias", dijo el cofundador y CEO de Pindrop, Vijay Balasubramaniyan. "Hoy lanzamos Pulse Inspect para extender nuestra experiencia en la detección de deepfakes a organizaciones como medios de comunicación, organizaciones sin ánimo de lucro, gobiernos y redes de medios sociales en un momento crucial de la historia. Con Pulse Inspect, estamos capacitando a las organizaciones para salvaguardar la integridad de sus contenidos y devolver la confianza a la era digital moderna."
Pulse Inspect está impulsado por la avanzada tecnología de detección de deepfakes de Pindrop, que según NPR es 40 puntos porcentuales más eficaz que el competidor más cercano en un estudio independiente. Pindrop ha entrenado su modelo de detección de deepfakes en más de 350 herramientas de generación de deepfakes, más de 20 millones de expresiones únicas y más de 40 idiomas, que cubren más del 90% de las lenguas habladas en Internet. Se proporcionan puntuaciones continuas de deepfake cada cuatro segundos, lo que permite identificar el contenido sintético frente al humano en medios mixtos. El seguimiento continuo de la liveness permite a Pulse Inspect detectar qué segmentos del audio son sintéticos frente a los auténticos, lo que resulta especialmente útil cuando sólo una parte del audio es un deepfake. Su plataforma de procesamiento por lotes basada en API y fácil de usar y su sencilla interfaz de usuario proporcionan un análisis claro (sintético frente a no sintético) con umbrales ajustables en función de la tolerancia al riesgo, lo que en última instancia ahorra tiempo, dinero y recursos.
"Como líder en voz sintética para Hollywood, Respeecher estableció directrices y políticas que garantizan que nuestra tecnología no se utilice indebidamente, y mantenemos nuestro compromiso de ser pioneros en el desarrollo y uso éticos de la tecnología de clonación de voz por IA", dijo Alex Serdiuk, consejero delegado y cofundador de Respeecher, socio de Pindrop. "La tecnología Pulse Inspect de Pindrop nos ayuda a garantizar que nuestra tecnología de detección se mantiene por delante de las amenazas de ataques generativos de IA. Estamos entusiasmados con el lanzamiento de Pindrop Pulse Inspect, y esperamos poner la tecnología en manos de nuestros clientes comunes para que puedan examinar de forma forense cualquier audio y determinar su procedencia sintética."
"Con las próximas elecciones en EE.UU. y el drástico crecimiento del audio sintético generado por IA que aparecerá en estas llamadas en 2024, YouMail, un servicio de buzón de voz visual y bloqueo de Robocall, reconoce a Pindrop Pulse Inspect como la solución a seguir para detectar con precisión deepfakes en llamadas de voz", dijo Mike Rudolph, Director de Tecnología de YouMail. "La tecnología de Pindrop no sólo era resistente a los diferentes formatos de audio, sino que era impresionantemente precisa a escala. Estamos encantados de asociarnos con Pindrop para identificar las llamadas falsas (robocalls) relacionadas con las elecciones que son deepfakes, especialmente a medida que el volumen de estas llamadas se dispara durante la crítica temporada electoral estadounidense."
"TrueMedia.org es un proyecto de IA sin ánimo de lucro y no partidista que lucha contra la desinformación en las campañas políticas identificando los medios manipulados", declaró Oren Etzioni, director general de TrueMedia.org. "Nuestra exhaustiva evaluación reveló que la detección de audio deepfake de Pindrop tiene mejor precisión que otras alternativas a la hora de detectar el habla sintética. Estamos encantados de asociarnos con Pindrop en esta misión, y añadir la tecnología de detección de deepfake de Pindrop en la solución para nuestros clientes y usuarios de todo el mundo."
