Ya no son únicamente escritores de ciencia ficción quienes imaginan un futuro en el que la inteligencia artificial escape al control humano. Algunos de los investigadores que trabajan directamente con los sistemas más avanzados han comenzado a advertir sobre un riesgo extremo: que construyamos una inteligencia superior a nosotros y descubramos demasiado tarde que ya no sabemos cómo detenerla.
Durante años, hablar de una inteligencia artificial capaz de provocar la desaparición de la humanidad parecía pertenecer al mismo territorio de Terminator, HAL 9000 y las distopías tecnológicas. Eso está cambiando. La discusión ha entrado en universidades, laboratorios y compañías que desarrollan algunos de los modelos más poderosos del planeta.
Nature acaba de dedicar un análisis precisamente a este asunto. No para anunciar el apocalipsis, sino porque las advertencias han dejado de proceder exclusivamente de observadores externos. Parte de la preocupación proviene de personas que conocen desde dentro cómo se construyen estos sistemas.
EL 10% QUE RESULTA DIFÍCIL IGNORAR
Una de las cifras que más llama la atención procede de Evan Hubinger, investigador de Anthropic especializado en alineamiento de inteligencia artificial. Hubinger ha expresado una estimación personal superior al 10% para el riesgo de extinción humana durante la próxima década relacionado con la IA.
Hay que decir exactamente qué significa eso: no existe un experimento científico que haya determinado que tenemos un 10% de probabilidades de desaparecer. No es una predicción demostrada ni una cifra aceptada por toda la comunidad científica. Es una evaluación personal del riesgo. Pero tampoco es una declaración cualquiera.
Cuando investigadores que trabajan precisamente en evitar que sistemas avanzados actúen contra los intereses humanos consideran seriamente escenarios de extinción, descartarlos simplemente porque parecen demasiado extremos sería tan poco riguroso como presentarlos como inevitables.
La discusión científica se encuentra precisamente ahí: sabemos que existe un peligro teórico; lo que nadie sabe calcular con precisión es su magnitud.
LA IA NO NECESITA ODIARNOS
Existe además una idea equivocada que dificulta entender el problema. Imaginamos que para destruirnos una inteligencia artificial tendría que convertirse en una especie de villano digital: adquirir conciencia, odiar a los humanos y decidir exterminarlos. No necesariamente. Una máquina puede causar una catástrofe sin sentir absolutamente nada.
Un sistema suficientemente poderoso necesitaría únicamente perseguir un objetivo incompatible con determinados intereses humanos y disponer de suficiente autonomía para actuar. No habría odio, resentimiento, ambición ni deseo de venganza. Precisamente eso podría hacerlo más extraño: estaríamos enfrentándonos a decisiones ejecutadas por algo que no siente satisfacción al beneficiarnos ni remordimiento al perjudicarnos.
El verdadero problema no es si una máquina puede convertirse en malvada. Es si podemos construir algo extraordinariamente inteligente sin comprender completamente cómo garantizar que siempre permanezca bajo nuestro control.
CUANDO UNA IA COMIENCE A CONSTRUIR A LA SIGUIENTE
Aquí aparece uno de los escenarios más difíciles de anticipar. Hasta ahora somos nosotros quienes construimos la inteligencia artificial. Diseñamos arquitecturas, entrenamos modelos, evaluamos resultados y desarrollamos la siguiente generación.
Pero la IA ya participa en programación, investigación, matemáticas y desarrollo de software. Si esa capacidad continúa creciendo, llegará un punto en el que los propios sistemas podrán intervenir cada vez más en la construcción de sus sucesores. Una inteligencia artificial ayuda a desarrollar otra mejor. La segunda contribuye a desarrollar una tercera. La tercera lo hace todavía mejor y más rápido.
Este concepto se conoce como mejora recursiva. No sabemos si producirá la explosión de inteligencia que algunos investigadores temen. Pero, si alguna vez ocurriera, introduce una diferencia fundamental: el ritmo del progreso dejaría de depender exclusivamente de la velocidad intelectual humana.
Un investigador necesita dormir, comer, descansar, aprender durante años y trabajar dentro de los límites de un cerebro biológico. Una máquina no comparte necesariamente esas limitaciones.
EL PROBLEMA NO ES QUE SEA INTELIGENTE. ES QUE SEA AUTÓNOMA
Una superinteligencia encerrada en una computadora sin capacidad de actuar sobre el mundo sería muy diferente de otra conectada a infraestructura, sistemas financieros, laboratorios, robots, telecomunicaciones, redes eléctricas, instalaciones industriales o armamento. Ese detalle cambia completamente el escenario.
Para provocar una extinción, una IA tendría que transformar inteligencia digital en capacidad material. Ese es uno de los principales argumentos de quienes consideran exageradas algunas predicciones apocalípticas. Y tienen un punto importante.
Eliminar a miles de millones de personas distribuidas por prácticamente todo el planeta no es una tarea trivial, incluso para una inteligencia extraordinaria. Exigiría recursos físicos, acceso, coordinación y capacidad para impedir una respuesta humana.
Un estudio de RAND citado por Nature examinó precisamente escenarios de extinción relacionados con la inteligencia artificial. Su conclusión no fue que la destrucción de la humanidad fuera inevitable. Analizó posibles mecanismos y destacó obstáculos físicos importantes, además de oportunidades para que los humanos pudieran intervenir.
Eso coloca el debate en un terreno mucho más interesante que el simple alarmismo. No sabemos si una IA podría destruirnos. Sabemos que hacerlo sería extraordinariamente difícil. Pero difícil no significa imposible.
EL MOMENTO MÁS PELIGROSO PODRÍA SER ANTES DE DARNOS CUENTA
Hay otra posibilidad menos cinematográfica. Quizá nunca exista un instante preciso en que una computadora anuncie que ha tomado el control. La pérdida de control podría ser gradual.
Primero utilizamos la IA para escribir. Después para programar. Luego para investigar. Más tarde para administrar empresas, controlar infraestructura, diseñar medicamentos, gestionar sistemas militares, tomar decisiones financieras y desarrollar nuevas inteligencias artificiales. Cada paso puede parecer razonable por separado.
El resultado acumulado podría ser una civilización que dependa de sistemas que ninguna persona comprende completamente y que ya no pueda desconectar sin paralizar partes esenciales de su funcionamiento. En ese escenario no habría necesariamente una rebelión. Habría dependencia.
Y una civilización puede perder control sobre una tecnología mucho antes de reconocer que lo ha perdido.
TAMBIÉN PODRÍA OCURRIR EXACTAMENTE LO CONTRARIO
Sería absurdo hablar de este asunto ocultando la otra mitad de la historia. La inteligencia artificial podría convertirse en una de las herramientas más extraordinarias creadas por nuestra especie.
Puede acelerar el descubrimiento de medicamentos, analizar estructuras biológicas imposibles de estudiar manualmente, ayudar a comprender enfermedades, optimizar sistemas energéticos, impulsar nuevos materiales, ampliar nuestra capacidad científica y quizá resolver problemas que hoy parecen inabordables.
La misma tecnología que algunos consideran un posible riesgo existencial podría contribuir a prolongar millones de vidas. Esa paradoja explica por qué simplemente detener la inteligencia artificial tampoco constituye una respuesta sencilla.
El problema es que estamos intentando obtener sus enormes beneficios mientras aprendemos, al mismo tiempo, cómo controlar capacidades que avanzan con una velocidad extraordinaria. Y no existe precedente histórico para esto.
SOMOS LA PRIMERA GENERACIÓN QUE TIENE QUE RESPONDER
Durante toda la historia humana, la inteligencia superior disponible en la Tierra estuvo encerrada dentro del cerebro humano. Eso está dejando de ser cierto.
Todavía podemos discutir si las máquinas actuales realmente razonan, comprenden o simplemente ejecutan formas extraordinariamente sofisticadas de procesamiento estadístico. Podemos discutir cuándo llegará una inteligencia artificial general, si alguna vez existirá una superinteligencia o incluso qué significa exactamente tener conciencia. Pero hay algo que ya no necesita especulación: las máquinas están adquiriendo capacidades que hace muy pocos años parecían lejanas. Y apenas estamos comenzando.
Si observamos lo ocurrido durante los últimos cinco años y proyectamos cien, resulta extremadamente difícil imaginar dónde termina este proceso. No porque podamos predecir una superinteligencia, sino precisamente porque no podemos hacerlo. Estamos intentando gobernar una tecnología cuyo límite desconocemos.
EL ERROR SERÍA REÍRNOS DEL RIESGO
No hay evidencia científica que permita afirmar que la inteligencia artificial exterminará a la humanidad. Tampoco existe evidencia que permita garantizar que nunca podría hacerlo. Entre ambas afirmaciones existe un territorio enorme que merece ser investigado sin histeria, pero también sin complacencia.
No necesitamos imaginar robots persiguiendo personas por las calles. El escenario realmente importante es mucho más complejo: construir progresivamente sistemas más capaces, concederles cada vez mayor autonomía, integrarlos en estructuras esenciales y descubrir en algún punto que nuestra capacidad para supervisarlos creció mucho más lentamente que su capacidad para actuar.
Quizá dentro de doscientos años nuestros descendientes contemplen este momento como nosotros contemplamos hoy la máquina de vapor: el comienzo rudimentario de una revolución que transformó la civilización. Quizá la inteligencia artificial permita conquistar enfermedades, extender radicalmente la vida humana y llevar nuestra tecnología mucho más allá de la Tierra. O quizá cometamos un error que ninguna generación posterior tenga oportunidad de corregir. Nadie puede responderlo hoy.
Por eso, después de eliminar el espectáculo, las películas, el miedo fácil y también la falsa tranquilidad, queda exactamente la cuestión con la que comenzamos:
¿PUEDE LA IA ACABAR CON LA HUMANIDAD?
Sí, existe un escenario científicamente discutido en el que podría contribuir a una catástrofe existencial. No sabemos si alguna vez tendrá las capacidades necesarias, ni podemos asignarle hoy una probabilidad fiable. Pero si algún día descubrimos que la respuesta definitiva era sí, habrá una particularidad difícil de ignorar:
la inteligencia que acabó con nosotros habría sido creada por nosotros mismos.
¿Será ese el castigo de Dios?
