La carrera por construir modelos de inteligencia artificial cada vez más capaces acaba de encontrarse con uno de sus límites más delicados: cuánto poder ofensivo puede liberarse sin convertir una herramienta abierta en un riesgo de ciberseguridad.
Moonshot AI, la empresa china detrás de Kimi, anunció que redujo deliberadamente las capacidades ofensivas de su nuevo Kimi K3.1 Pro antes de publicar sus pesos. La compañía eliminó material relacionado con ciberataques de parte del entrenamiento y de los entornos de aprendizaje por refuerzo, mientras intentaba conservar las capacidades generales de programación.
Una reducción medible en las pruebas de ataque
Según los resultados divulgados por Moonshot, una versión sin esas restricciones alcanzó un 90,5% en una prueba interna diseñada para medir la capacidad de descubrir y explotar vulnerabilidades de software. La versión que la empresa pretende distribuir obtuvo un 81%.
La diferencia sugiere que retirar material especializado puede reducir parte de la capacidad ofensiva sin eliminar las habilidades generales de código. Los resultados, sin embargo, proceden de pruebas internas de la propia compañía y no han sido verificados de manera independiente.
El problema de liberar los pesos
Moonshot prevé publicar los pesos de Kimi K3.1 Pro el 4 de noviembre. A diferencia de un servicio cerrado en la nube, un modelo de pesos abiertos puede descargarse, ejecutarse y modificarse fuera del control de su creador. Esa característica favorece la investigación y permite que organizaciones auditen software en su propia infraestructura, pero también dificulta imponer salvaguardas una vez que el modelo está distribuido.
La empresa sostiene que no quiere liberar modelos abiertos que amplíen la frontera absoluta de las capacidades ofensivas de ciberseguridad. Al mismo tiempo, reconoce que estas herramientas pueden resultar útiles para localizar fallos y proteger sistemas antiguos.
Una señal para toda la industria
El caso de Kimi plantea una cuestión que probablemente acompañará a las próximas generaciones de IA: no basta con medir cuánto sabe programar un modelo, sino también qué puede hacer ese conocimiento cuando se combina con autonomía, acceso a herramientas y capacidad para localizar vulnerabilidades.
Moonshot ha optado por sacrificar parte del rendimiento ofensivo antes de abrir K3.1 Pro. La verdadera prueba llegará después del 4 de noviembre, cuando investigadores y desarrolladores puedan examinar hasta qué punto esa reducción permanece efectiva fuera de los sistemas controlados por la compañía.
