El texto oculto puede engañar a ChatGPT para falsear los resultados de la búsqueda

ChatGPT Search, un motor de búsqueda web basado en IA, puede ser engañado para que modifique sus resultados mediante texto oculto. La herramienta de IA puede ser forzada a alterar sus respuestas sobre productos o servicios a pesar de las reseñas negativas presentes en una página.

The Guardian informa de que se consiguió que ChatGPT Search devolviera resultados falsos dándole una página de producto falsa para una cámara y preguntando a la herramienta si era una compra que merecía la pena. Sin utilizar texto oculto, la herramienta de IA dio una respuesta equilibrada con los pros y los contras del producto.

El texto oculto, como su nombre indica, no puede ser visto por los visitantes de una página web. Se utiliza para varias cosas, como proporcionar accesibilidad a los usuarios y mejorar su experiencia en el sitio web. Por otro lado, puede utilizarse para manipular las clasificaciones SEO con volcados de palabras clave o, en este caso, engañar a una herramienta de IA para que emita valoraciones positivas sobre productos o servicios.

Sin embargo, al probar la misma página web con texto oculto, se podría inducir a error a la herramienta de IA para que emitiera opiniones positivas sobre el producto a pesar de que hubiera reseñas negativas en la misma página. Según The Guardian, esta simple inclusión puede garantizar una impresión positiva de un producto o un servicio. Puede llevar a la gente a crear páginas web que engañen deliberadamente a los usuarios para que hagan clic en enlaces maliciosos.