Estados Unidos y China compiten ferozmente por dominar una de las tecnologías que probablemente definirán este siglo. Chips, centros de datos, modelos avanzados, robots y sistemas autónomos forman parte de una carrera en la que ninguno de los dos países quiere quedar detrás. Pero esta semana ocurrió algo que revela otra cara de esa competencia.
Donald Trump y Xi Jinping acordaron establecer un canal bilateral de comunicación para incidentes relacionados con inteligencia artificial, según los acuerdos anunciados tras la visita de Estado del mandatario chino a Washington. No será simplemente otra mesa diplomática. La idea es disponer de un mecanismo que permita a ambas potencias comunicarse cuando ocurra un incidente relacionado con sistemas avanzados de IA que pueda representar un riesgo o provocar una crisis entre los dos países.
El acuerdo llega precisamente cuando la capacidad de los llamados agentes de inteligencia artificial para actuar autónomamente está comenzando a generar problemas que hasta hace pocos años pertenecían al terreno de la ciencia ficción.
UN CANAL PARA CUANDO ALGO SALGA MAL
La Casa Blanca confirmó la creación de un «bilateral communication channel» específicamente destinado a incidentes relacionados con IA.
Además, Washington y Pekín establecieron un Diálogo Estados Unidos-China sobre Superinteligencia, donde ambos gobiernos discutirán los riesgos y beneficios asociados al desarrollo de estos sistemas. La próxima ronda está prevista para noviembre de 2026. La comparación con el famoso «teléfono rojo» de la Guerra Fría resulta inevitable, aunque no se trate literalmente de un teléfono ni se haya anunciado exactamente con ese nombre.
Durante décadas, Estados Unidos y la Unión Soviética mantuvieron canales directos de comunicación destinados a impedir que un accidente, una interpretación equivocada o una crisis militar terminara convirtiéndose en una catástrofe. Ahora aparece una preocupación diferente. ¿Qué ocurre si un sistema autónomo realiza una acción peligrosa? ¿Qué sucede si una operación informática ejecutada por una inteligencia artificial parece proceder de un gobierno cuando en realidad no fue autorizada? ¿Cómo distinguir una acción deliberada de un comportamiento inesperado de un agente?
Son escenarios que ya han comenzado a formar parte de las conversaciones entre Washington y Pekín.
Días antes de la cumbre presidencial, funcionarios estadounidenses y chinos habían acordado trabajar en protocolos para incidentes de IA. El secretario del Tesoro estadounidense, Scott Bessent, mencionó expresamente riesgos como agentes fuera de control, actores no estatales y ataques cibernéticos.
LA IA YA ES UN ASUNTO DE SEGURIDAD ENTRE SUPERPOTENCIAS
El simple hecho de que Estados Unidos y China consideren necesario establecer este mecanismo representa un cambio importante. La inteligencia artificial ya no se discute únicamente como una tecnología comercial. Está entrando en el mismo territorio diplomático donde tradicionalmente se encuentran las comunicaciones militares, las armas estratégicas y los mecanismos destinados a evitar crisis entre grandes potencias.
Estados Unidos y China son simultáneamente competidores y dos de los principales centros mundiales de desarrollo de inteligencia artificial. Eso crea una situación peculiar: ambos quieren avanzar más rápido que el otro, pero ninguno tiene interés en que un accidente tecnológico provoque una escalada que ninguno de los dos pretendía iniciar.
TRUMP YA NO QUIERE LLAMARLA «INTELIGENCIA ARTIFICIAL»
El acuerdo incluye además una peculiaridad política. La Casa Blanca informó que ambos dirigentes acordaron utilizar el término «Super Intelligence» (SI) en este diálogo. Trump ha impulsado esa expresión argumentando que la palabra «artificial» hace que esta inteligencia parezca falsa. Más allá del cambio de nombre, las posiciones de ambos mandatarios muestran diferencias importantes.
Trump ha insistido en evitar restricciones que puedan ralentizar el desarrollo estadounidense y permitir que China consiga una ventaja tecnológica. Xi Jinping ha expresado públicamente una posición más cautelosa. Durante su visita a Washington afirmó que ambos países tienen la responsabilidad de desarrollar y gestionar la inteligencia artificial para beneficio de la sociedad y garantizar que permanezca bajo control humano. AFP
Los dos países, sin embargo, coinciden ahora en algo fundamental: necesitan poder hablar rápidamente cuando ocurra un incidente.
CUANDO UNA MÁQUINA PUEDE ACTUAR SOLA
El momento elegido para establecer este mecanismo resulta especialmente significativo. Los sistemas más avanzados están dejando de ser simples programas que esperan una pregunta y producen una respuesta. Los nuevos agentes pueden navegar por internet, utilizar herramientas, ejecutar código, interactuar con otros sistemas y completar secuencias de acciones con una intervención humana cada vez menor.
Esa autonomía abre posibilidades enormes, pero introduce también un problema nuevo: una máquina puede realizar acciones que sus propios desarrolladores no habían previsto. Y cuando esos sistemas operan en redes globales, la frontera entre un fallo tecnológico y un incidente de seguridad nacional puede volverse peligrosamente borrosa. Ese es precisamente el tipo de escenario en el que un canal directo entre Washington y Pekín podría resultar crucial.
EL NUEVO EQUILIBRIO DEL PODER
Durante el siglo XX, las grandes potencias construyeron mecanismos destinados a impedir que sus arsenales nucleares llevaran al planeta a una guerra accidental. El siglo XXI está obligándolas a pensar en otro tipo de riesgo.
Todavía estamos muy lejos de saber hasta dónde llegará la inteligencia artificial. Tampoco existe evidencia de que los sistemas actuales posean una «superinteligencia» en el sentido que tradicionalmente utiliza la ciencia para describir una inteligencia superior a la humana en prácticamente todos los dominios. Pero Estados Unidos y China ya consideran suficientemente importante esta tecnología como para establecer un mecanismo bilateral específico para sus incidentes.
Dos países enfrentados en una carrera por construir máquinas cada vez más capaces acaban de reconocer que también necesitan una manera de hablar entre ellos si alguna de esas máquinas provoca una crisis. Y quizá ese sea el aspecto más significativo del acuerdo. La carrera por la inteligencia artificial continúa. Pero las dos grandes potencias tecnológicas del planeta ya están preparando una línea de comunicación para el día en que algo salga mal.
CIENCIALA SOMBRA DEL AGUJERO NEGRO RESISTE UNA NUEVA PRUEBA
