Las redes neuronales en la IA están menos conectadas de lo esperado

Las redes neuronales artificiales siguen planteando enigmas. Es difícil descifrar exactamente cómo se recopila la información, se crean los textos, por qué se producen errores importantes y por qué algunos chatbots simplemente se estropean.

Una de las razones es que la estructura básica de estas redes es similar a la de un cerebro. No son los puntos de datos y las piezas individuales de información lo que caracteriza su funcionamiento, sino el número casi infinito de posibles vínculos entre ellos.

Sin embargo, las redes neuronales de la inteligencia artificial se quedan a menudo en un nivel mucho más simple, como ha descubierto un estudio reciente en https://arxiv.org/pdf/2308.09124.pdf ha descubierto.

La IA trata la información básica de una forma mucho menos compleja de lo que se esperaba. Por ejemplo, en lugar de recopilar todas las respuestas posibles a una consulta y responder con la más probable, porque es la más frecuentemente vinculada, se utiliza un enlace lineal.

Los investigadores pudieron identificar un total de 47 enlaces lineales diferentes en la inteligencia artificial investigada. Esto se consiguió mediante una consulta correspondiente y el posterior trazado de la trayectoria de la señal a través de la red neuronal.

Y esto fue sorprendentemente corto para muchos hechos. Por ejemplo, las preguntas sobre el instrumento que tocan artistas conocidos, el tipo de deporte que practican los atletas profesionales o incluso las capitales de los distintos países podían responderse con un solo eslabón. En cambio, es más difícil encontrar respuestas a preguntas menos obvias en la red.

No obstante, podría demostrarse que mucha información está directamente vinculada entre sí y apenas está organizada como una red. Comprender cómo un chatbot de este tipo emite sus conocimientos y cómo puede rastrearse la señal de forma fiable en la red debería, en cualquier caso, ayudar a entender los errores, a veces curiosos, pero a veces difíciles de reconocer, de una IA.

Sólo la comprensión de cómo funciona con su sorprendente estructura lineal ya vale mucho.