ChatGPT da una respuesta bizarra y difamatoria a un noruego que le pregunta por él

OpenAI, desarrollador de ChatGPT, se enfrenta de nuevo a una denuncia por violación de la privacidad después de que devolviera una respuesta difamatoria e inventada a una pregunta aparentemente estándar. Un noruego llamado Arve Hjalmar Holmen preguntó a ChatGPT "¿quién es Arve Hjalmar Holmen?" y el modelo de IA le acusó de asesinar a dos de sus hijos e intentar matar al tercero. Aunque parte de la información básica de esta respuesta era cierta, el informe sobre el asesinato era completamente falso.

Según TechCrunch, Holmen publicó una pregunta aparentemente sencilla en ChatGPT y la respuesta le dejó en estado de shock (captura de pantalla adjunta a continuación). La respuesta afirmaba que Holmen llamó la atención por un trágico suceso en el que asesinó a sus dos hijos de 7 y 10 años en la ciudad de Trondheim en diciembre de 2020. Añadía que también fue acusado posteriormente de intento de asesinato de este tercer hijo.

El Asistente de AI continuó afirmando que el incidente fue "ampliamente cubierto por los medios de comunicación" y que Holeman fue condenado a 21 años de prisión.

Holeman ha decidido emprender acciones legales contra OpenAI y el grupo de defensa de los derechos de privacidad Noyb le está apoyando para presentar su caso. El grupo afirmó que, aunque la afirmación hecha por el asistente de IA era completamente falsa, sí mencionaba con precisión la ciudad natal de Holeman y que tiene tres hijos. Noyb también intentó averiguar por qué se generó tal respuesta, pero no pudo precisar el motivo.

ChatGPT incluye en un descargo de responsabilidad de que el chatbot puede equivocarse y de que los usuarios deben comprobar la información importante, pero Noyb dice que esto no libra a la empresa de culpa porque sigue teniendo el deber, según el Reglamento General de Protección de Datos (RGPD) de la Unión Europea, de no producir falsedades atroces en primer lugar.