Un nuevo enfoque de formación pretende reducir el sesgo social en la IA

Los chatbots de IA son conocidos por generar con bastante frecuencia soluciones con prejuicios raciales cuando se les plantean diversas preguntas, y muchas investigaciones se han centrado en este problema. Ahora, un nuevo método de entrenamiento está listo para solucionar este problema. El método se conoce como "deduplicación justa" o simplemente "FairDeDup" y es el resultado de una investigación realizada por un equipo de Adobe y La Facultad de Ingeniería de la OSUdel estudiante de doctorado Eric Slyman.

La deduplicación de los conjuntos de datos utilizados en el entrenamiento de la IA consiste en eliminar la información redundante, reduciendo así los costes de todo el proceso. Por ahora, los datos utilizados proceden de todo Internet, por lo que contienen ideas y comportamientos injustos o sesgados que los humanos suelen idear y compartir en línea.

Según Slyman, "FairDeDup elimina los datos redundantes a la vez que incorpora dimensiones de diversidad controlables y definidas por los humanos para mitigar los sesgos. Nuestro enfoque permite un entrenamiento de la IA que no sólo es rentable y preciso, sino también más justo" La lista de enfoques sesgados perpetuados por los chatbots de IA en estos días incluye la ocupación, la raza o el género, pero también la edad, la geografía y las ideas relacionadas con la cultura que son obviamente injustas.

FairDeDup es una versión mejorada de un método anterior conocido como SemDeDupque a menudo exacerbaba los prejuicios sociales, aunque resultó ser una solución rentable. Los interesados en este campo deberían hacerse con Mastering AI Model Training de Kris Hermans : A Comprehensive Guide To Become An Expert In Training AI Models, que actualmente está disponible en Kindle por 9,99 dólares o en versión de bolsillo (por 44,07 dólares).