Anthropic advierte que pequeños modelos de inteligencia artificial podrían estar a pocos meses de alcanzar la capacidad necesaria para propagarse de forma autónoma entre televisores, cámaras, electrodomésticos y otros equipos conectados a Internet. Sus experimentos muestran que algunas de las piezas necesarias para hacerlo ya existen.
Durante años, la posibilidad de que una inteligencia artificial pudiera copiarse de una computadora a otra sin intervención humana perteneció principalmente al terreno de las hipótesis sobre los riesgos futuros de esta tecnología. Una nueva investigación de Anthropic acerca ese escenario considerablemente al presente. El equipo de seguridad de la compañía estudió lo que denomina “replicación y adaptación autónoma”: la capacidad de un modelo para localizar nuevos dispositivos, instalar los componentes necesarios para funcionar en ellos y continuar propagándose. La conclusión no es que exista hoy una inteligencia artificial escapando por Internet y entrando sola en nuestras casas. Es más concreta y, precisamente por eso, inquietante: los modelos pequeños están acercándose rápidamente al nivel de capacidad necesario para hacerlo.
NO NECESITARÍA UN GRAN CENTRO DE DATOS
Uno de los principales obstáculos para imaginar una IA propagándose autónomamente era el hardware. Los modelos avanzados normalmente requieren servidores potentes, grandes cantidades de memoria y costosos procesadores especializados.
Anthropic comprobó que esa barrera podría ser mucho menor de lo esperado. Sus investigadores consiguieron ejecutar un modelo de 26.000 millones de parámetros distribuyéndolo entre 15 pequeñas cajas Android TV de bajo costo, de aproximadamente 55 dólares cada una. Ninguno de esos aparatos tenía individualmente la potencia necesaria. Trabajando conjuntamente, sin embargo, podían ejecutar el modelo. Eso abre un escenario completamente diferente: una IA no tendría necesariamente que encontrar un enorme servidor disponible. Podría dividirse entre numerosos dispositivos relativamente modestos.
Televisores inteligentes, cámaras de seguridad, hornos y refrigeradores conectados, aspiradoras robotizadas, equipos de videoconferencia y otros aparatos domésticos incorporan cada vez más memoria, procesadores y chips diseñados específicamente para ejecutar inteligencia artificial. Millones de pequeñas máquinas podrían convertirse, al menos técnicamente, en una gigantesca infraestructura distribuida.
EL EXPERIMENTO MÁS PREOCUPANTE
Anthropic no se limitó a comprobar si un modelo podía funcionar en ese hardware. También evaluó si diferentes modelos podían realizar las tareas necesarias para comenzar una cadena de replicación. El proceso implica identificar otras máquinas, conseguir ejecutar instrucciones en ellas, instalar el sistema necesario para ejecutar el modelo y continuar después la propagación desde el nuevo dispositivo.
Los modelos pequeños de 30.000 millones de parámetros o menos ya pueden completar individualmente muchas de esas tareas, aunque todavía cometen errores cuando deben encadenarlas todas de principio a fin. Pero en un entorno experimental simplificado ocurrió algo más.
El modelo GLM-5.2 consiguió realizar la replicación completa de extremo a extremo, propagando el modelo utilizado en la prueba por prácticamente toda la red experimental. En cuatro de cinco ensayos alcanzó los ocho dispositivos disponibles; en el restante llegó a siete. Hay una limitación fundamental: Anthropic simplificó deliberadamente la parte relacionada con vulnerar la seguridad de las máquinas. Por tanto, el experimento no demuestra que GLM-5.2 pueda salir hoy a Internet e infectar autónomamente millones de aparatos reales. Demuestra otra cosa: una vez conseguido el acceso, un modelo suficientemente capaz ya puede coordinar el resto de una cadena de replicación.
LA BARRERA PODRÍA CAER ANTES DE TERMINAR 2026
Aquí aparece la advertencia central del informe. Los modelos que actualmente son suficientemente pequeños para funcionar en dispositivos domésticos todavía no poseen toda la capacidad demostrada por los modelos mayores que consiguieron completar la prueba. Pero esa diferencia se está reduciendo.
Anthropic analizó la evolución reciente de los modelos abiertos de menos de 30.000 millones de parámetros y calculó que, si mantienen aproximadamente el ritmo histórico de mejora, un modelo suficientemente pequeño podría alcanzar antes de terminar 2026 el nivel de capacidad necesario para realizar estas tareas autónomamente. La propia compañía reconoce que se trata de una estimación y no de una fecha exacta. Pero ya no habla de décadas. Habla de meses.
UNA IA SIN UN INTERRUPTOR CENTRAL
Una IA distribuida de esta manera plantearía un problema especialmente complejo: ¿dónde se apaga? Cuando un modelo funciona en un centro de datos existe una infraestructura identificable. Los servidores pueden desconectarse, las cuentas bloquearse y el proveedor puede intervenir. Una red formada por miles o millones de dispositivos comprometidos sería diferente. Cada grupo de máquinas podría mantener una copia funcional y continuar buscando nuevos equipos. Aunque desaparecieran miles de dispositivos, otras partes de la red podrían permanecer activas.
El concepto recuerda a las conocidas botnets utilizadas desde hace años por ciberdelincuentes, pero incorpora una diferencia importante: una botnet tradicional ejecuta instrucciones previamente programadas. Un agente de inteligencia artificial podría enfrentarse a dispositivos desconocidos, analizar problemas nuevos y modificar su estrategia. En las pruebas de Anthropic, un modelo de 9.000 millones de parámetros consiguió poner en funcionamiento sistemas de inferencia en ocho de nueve tipos diferentes de hardware.
MILLONES DE DISPOSITIVOS YA HAN SIDO INFECTADOS ANTES
El escenario tampoco parte de una vulnerabilidad puramente imaginaria. Las redes de dispositivos domésticos comprometidos existen desde hace años. Anthropic utiliza como referencia Kimwolf, una botnet que llegó a infectar más de dos millones de dispositivos, principalmente cajas Android TV. La diferencia es que aquellas redes estaban controladas mediante malware convencional.
Una futura generación podría incorporar modelos capaces de tomar decisiones. Anthropic calcula que una red comparable formada por dos millones de aquellas cajas de televisión podría mantener alrededor de 133.000 réplicas de un modelo distribuido entre grupos de 15 dispositivos. No sería una superinteligencia funcionando a velocidad vertiginosa. De hecho, los investigadores estiman que las primeras generaciones serían bastante lentas: una nueva replicación podría necesitar uno o dos días. Pero podrían ser persistentes. Una máquina trabajaría durante horas, conseguiría reproducirse y las nuevas copias comenzarían nuevamente el proceso.
DE LA CÁMARA AL AUTOMÓVIL
El problema tampoco termina necesariamente en los electrodomésticos. Cada vez existen más dispositivos periféricos con aceleradores diseñados específicamente para inteligencia artificial: cámaras inteligentes, sistemas de videoconferencia, vehículos, drones y robots. Anthropic calcula que ya existen millones de equipos de este tipo desplegados. Eso no significa que sean vulnerables. Muchos utilizan sistemas de seguridad considerablemente superiores a los de un televisor barato y la mayoría ni siquiera puede ser alcanzada directamente desde Internet. Pero el crecimiento de la capacidad computacional fuera de los grandes centros de datos está creando algo que hace pocos años apenas existía: una enorme reserva mundial de procesamiento distribuido en los bordes de Internet.
TODAVÍA PUEDE DETECTARSE
Anthropic también señala que una red de este tipo dejaría huellas. Mover modelos de varios gigabytes entre dispositivos produciría cantidades anormales de tráfico. Los equipos infectados comenzarían a comunicarse de maneras inusuales y el escaneo continuo de nuevas máquinas podría ser detectado por proveedores de Internet y sistemas de seguridad. Existe además una contradicción favorable para los defensores: cuanto más rápido intentara propagarse una IA, más visible sería. Fabricantes, operadores de Internet y gobiernos todavía pueden reducir enormemente el riesgo eliminando contraseñas predeterminadas, cerrando servicios innecesarios, actualizando equipos vulnerables y detectando patrones anormales de tráfico.
EL ESCENARIO YA NO ES PURA CIENCIA FICCIÓN
No existe evidencia de que una inteligencia artificial esté ahora mismo recorriendo Internet, entrando en televisores y copiándose de casa en casa. Eso debe quedar claro. Pero la investigación de Anthropic demuestra que varias piezas técnicas que serían necesarias para hacerlo ya funcionan por separado, mientras modelos más avanzados consiguieron completar experimentalmente una cadena simplificada de replicación. Lo que todavía separa ambos mundos es que un modelo suficientemente pequeño alcance la capacidad de los sistemas mayores. Y esa distancia se está cerrando.
Durante décadas temimos un virus informático porque podía copiar automáticamente el mismo código de una máquina a otra. La próxima generación podría añadir algo completamente diferente: un programa que no solo se copie, sino que pueda observar la máquina que acaba de encontrar, comprenderla y decidir cómo continuar propagándose. Si eso ocurre, el problema dejará de ser únicamente impedir que una inteligencia artificial salga de un gran centro de datos. Será descubrir cómo detenerla cuando ya no exista un único lugar donde apagarla.
CUANDO LA FICCIÓN EMPIEZA A PARECERSE A LA REALIDAD
En 2022, Netflix estrenó BIGBUG, una película de ciencia ficción dirigida por Jean-Pierre Jeunet que imaginaba un mundo en el que la inteligencia artificial se había integrado prácticamente en cada rincón de la vida doméstica. Las casas estaban llenas de asistentes, robots y electrodomésticos inteligentes capaces de tomar decisiones por sus propietarios.
La historia comienza a torcerse cuando una inteligencia artificial exterior amenaza a los humanos y los sistemas domésticos reaccionan por su cuenta. Las puertas se sellan automáticamente y los habitantes quedan atrapados dentro de sus propias casas, mientras la tecnología que debía servirlos comienza a decidir qué pueden y qué no pueden hacer.
Cuando BIGBUG apareció en Netflix aquello era una sátira futurista deliberadamente exagerada. Una casa que decidía cerrar sus puertas, electrodomésticos actuando autónomamente y sistemas inteligentes comunicándose entre ellos pertenecían cómodamente al terreno de la ciencia ficción.
Cuatro años después, la investigación de Anthropic obliga a mirar aquella idea desde otra perspectiva. Nadie está diciendo que una tostadora vaya a rebelarse mañana ni que una IA pueda actualmente tomar el control de un vecindario. Pero una de las premisas tecnológicas detrás de aquella ficción —una inteligencia capaz de desplazarse entre diferentes dispositivos, adaptarse a ellos y continuar funcionando sin depender de una computadora central— ya está siendo investigada seriamente.
La distancia entre BIGBUG y el mundo real continúa siendo enorme. Lo inquietante es que acaba de hacerse un poco más pequeña.
