Incidente inquietante con la IA: Géminis llama inútil a un usuario y le dice que se muera
Es probable que los usuarios se hayan hecho a la idea de que las respuestas de los modelos de voz de IA como ChatGPT, Siri o el asistente Gemini de Google no siempre tienen sentido. Para empezar, la IA no debería insultar, y desde luego no debería pedirle a alguien que se muera. Sin embargo, esto es exactamente lo que le ocurrió a un usuario de Gemini.
Según un post de Reddit https://www.reddit.com/r/artificial/comments/1gq4acr/gemini_told_my_brother_to_die_threatening/ de la hermana del afectado, el incidente se produjo durante una discusión sobre el cuidado de ancianos. El diálogo se titulaba "Retos y soluciones para los adultos mayores". Dentro del chat, Géminis ofreció tres posibles respuestas, dos de las cuales eran inocuas. La tercera respuesta contenía el inquietante mensaje:
La comunidad de Reddit ha expresado su indignación generalizada, y muchos usuarios han expresado su grave preocupación por el daño potencial que estos mensajes podrían causar a las personas en crisis de salud mental. Mientras tanto, la aplicación Gemini se lanzó recientemente en los iPhones. Algunos Redditors comentaron en broma que ahora los usuarios de iPhone también podrían "disfrutar" de este tipo de respuestas. Google abordó la cuestión directamente en Redditafirmando que ya ha puesto en marcha medidas para evitar este tipo de respuestas en el futuro.
