El desarrollo de la GPT-5 sufre importantes contratiempos al quedarse OpenAI sin datos de entrenamiento

El trabajo de OpenAI en GPT-5apodado Proyecto Orión, se ha topado con un bache bastante importante. El proyecto va muy retrasado y, para colmo, está costando una fortuna. Después de trabajar en él durante más de 18 meses, Microsoft pensó en un principio que lo tendría listo para mediados de 2024, pero eso no está sucediendo.

Han invertido mucho dinero en esto -cada ejecución de entrenamiento cuesta unos 500 millones de dólares sólo en potencia informática- pero no han visto los saltos en el rendimiento que esperaban en comparación con GPT-4. Aunque hay algunas mejoras notables, no son suficientes para justificar tales gastos.

Uno de los mayores problemas es quedarse sin datos de calidad para entrenar el modelo. La Internet pública simplemente no tiene suficientes datos diversos y de alta calidad necesarios para marcar la diferencia. Para hacer frente a esto, OpenAI ha recurrido a expertos para crear nuevo material de entrenamiento, como código de software y problemas matemáticos. Pero es un proceso lento. Para que nos hagamos una idea, GPT-4 necesitó la asombrosa cifra de 13 billones de tokens para entrenarse. Para ponerlo en contexto, incluso si 1.000 personas escribieran 5.000 palabras al día, les llevaría meses llegar a un solo billón: aumentar a billones es como intentar llenar un océano con una manguera de jardín.

Para colmo de males, la empresa se ha visto afectada por problemas internos. Más de dos docenas de ejecutivos clave se marcharon en 2024, entre ellos el científico jefe Ilya Sutskever y la directora técnica Mira Murati. OpenAI también ha estado haciendo malabarismos con otros proyectos, como "o1" y "Sora", mientras sigue intentando averiguar cómo seguir adelante con GPT-5.

Su director ejecutivo, Sam Altman, ya ha confirmado que GPT-5 no verá la luz en 2024, lo que supone un importante revés para sus ambiciosos planes de IA.