Incidente inquietante con la IA: Géminis llama inútil a un usuario y le dice que se muera

Gemini, el asistente de IA de Google, ha pedido a un usuario que se muera. (Fuente de la imagen: Google)

En una conversación sobre el cuidado de ancianos, un usuario de Gemini, el asistente de inteligencia artificial de Google, fue calificado de inútil y se le pidió que muriera. Las capturas de pantalla de la conversación se publicaron en Reddit y causaron preocupación e indignación entre los usuarios. Advertencia de desencadenante: El contenido de este artículo puede resultar angustioso para algunos lectores.

Marius Müller (traducido por Ninh Duy), Published 11/17/2024 🇺🇸 🇩🇪 ...

Es probable que los usuarios se hayan hecho a la idea de que las respuestas de los modelos de voz de IA como ChatGPT, Siri o el asistente Gemini de Google no siempre tienen sentido. Para empezar, la IA no debería insultar, y desde luego no debería pedirle a alguien que se muera. Sin embargo, esto es exactamente lo que le ocurrió a un usuario de Gemini.

Según un post de Reddit https://www.reddit.com/r/artificial/comments/1gq4acr/gemini_told_my_brother_to_die_threatening/ de la hermana del afectado, el incidente se produjo durante una discusión sobre el cuidado de ancianos. El diálogo se titulaba "Retos y soluciones para los adultos mayores". Dentro del chat, Géminis ofreció tres posibles respuestas, dos de las cuales eran inocuas. La tercera respuesta contenía el inquietante mensaje:

La comunidad de Reddit ha expresado su indignación generalizada, y muchos usuarios han expresado su grave preocupación por el daño potencial que estos mensajes podrían causar a las personas en crisis de salud mental. Mientras tanto, la aplicación Gemini se lanzó recientemente en los iPhones. Algunos Redditors comentaron en broma que ahora los usuarios de iPhone también podrían "disfrutar" de este tipo de respuestas. Google abordó la cuestión directamente en Redditafirmando que ya ha puesto en marcha medidas para evitar este tipo de respuestas en el futuro.