Un antiguo responsable de seguridad de OpenAI acaba de lanzar una de las advertencias más fuertes que han salido desde dentro de la compañía: el desarrollo de sistemas cada vez más poderosos estaría avanzando a una velocidad superior a nuestra capacidad para comprender completamente sus riesgos.
David Robinson, quien trabajó durante tres años y medio en OpenAI y participó en la elaboración de su marco de preparación ante riesgos, renunció recientemente y cuestionó públicamente la cultura de desarrollo acelerado de la empresa.
“Se acabó el tiempo de prueba y error”
Robinson sostiene que las compañías de inteligencia artificial ya no pueden continuar desarrollando modelos cada vez más capaces y corregir las fallas solamente después de encontrarlas.
Durante su etapa en OpenAI participó en los informes de seguridad de doce lanzamientos de modelos avanzados. Según explicó, el problema no es simplemente que la inteligencia artificial esté mejorando con rapidez, sino que el conocimiento sobre cómo mantener estos sistemas alineados con los objetivos humanos no estaría avanzando al mismo ritmo.
Para Robinson, los sistemas más avanzados deberían tratarse con niveles de precaución comparables a los utilizados en industrias como la aviación o la energía nuclear.
Una carrera tecnológica cada vez más rápida
Las grandes compañías tecnológicas compiten por desarrollar modelos capaces de razonar mejor, programar, investigar, operar herramientas y ejecutar tareas con una autonomía creciente. Ese progreso está ocurriendo en períodos cada vez más cortos.
Robinson afirma que una cultura concentrada en pasar rápidamente de un lanzamiento al siguiente puede dificultar el nivel de análisis que considera necesario antes de liberar sistemas mucho más poderosos.
Su salida vuelve a colocar sobre la mesa una discusión que lleva años creciendo dentro de la industria: cuánto podemos acelerar antes de que nuestra capacidad para comprender y controlar estas tecnologías quede atrás.
OpenAI responde
OpenAI rechaza la idea de que esté avanzando sin límites. Un portavoz de la compañía aseguró que la empresa intenta impedir que sus modelos alcancen capacidades que no puedan ser gestionadas de manera segura y afirmó que OpenAI puede detener entrenamientos o retrasar modelos cuando considera necesario reducir el ritmo.
La empresa mantiene además un sistema de evaluación de riesgos para capacidades avanzadas relacionadas con ciberseguridad, manipulación, riesgos biológicos y pérdida de control.
El verdadero problema apenas comienza
La advertencia de Robinson no significa que una inteligencia artificial haya escapado actualmente del control humano. El problema que plantea es otro: los modelos pueden seguir aumentando sus capacidades mientras nuestra comprensión sobre su comportamiento, sus límites y sus posibles fallas permanece varios pasos detrás.
Y en una tecnología que cambia prácticamente cada mes, esa diferencia puede convertirse en uno de los mayores desafíos de los próximos años. La inteligencia artificial continúa acelerando. La incógnita ahora es si nuestra capacidad para controlarla podrá acelerar al mismo ritmo.
