Algunos modelos pequeños podrían adquirir en pocos meses la capacidad de propagarse sin intervención humana
William Zhou y Daniel Freeman, investigadores de Anthropic, publicaron en la página web de este laboratorio un artículo que puede generar debate: el título de su texto es muy revelador “Los modelos de IA pueden ser capaces de autorreplicarse sin acceder a un centro de datos”.
El título, directo, invita a una pregunta evidente: si los modelos de Inteligencia Artificial (IA) no necesitan acceder a un Centro de Datos, pero ¿dónde podrían autorreplicarse? Según
Zhou y Freeman, algunos modelos pequeños, podrían adquirir en pocos meses la capacidad de propagarse sin intervención humana mediante el uso del hardware de algunos dispositivos de consumo que muchos de nosotros tenemos en casa, como los televisores, los electrodomésticos u otros aparatos dotados de conexión a internet y un SoC con mínima capacidad.
Aunque parezca ciencia ficción, no lo es y los dos investigadores de Anthropic aseguran que llegaron a esta conclusión después algunos experimentos que exploran cómo estos sistemas podrían propagarse sin intervención humana y en su artículo, plantean un escenario en el que un modelo de IA con tanto avance que podría usar dispositivos económicos y poco protegidos, para ejecutar su código y continuar propagándose.
Siempre en esta hipótesis, no le haría falta un centro de datos, solo necesitaría una red de dispositivos conectados a internet y poco protegidos, pero lo que genera más preocupación de esta posibilidad, aunque para Zhou y Freeman, “un ataque a gran escala de este tipo sería muy difícil de contener”.
Podrían alcanzar 30.000 millones de parámetros: durante sus pruebas, estos investigadores de Anthropic no usaron solo sus propios modelos y en su artículo, aseguran que probaron GLM-5.2, un modelo de pesos abiertos desarrollado por el laboratorio chino Z.ai y ante la prueba en una red aislada de ocho nodos que ejecutaban un emulador de Android, el modelo logró propagarse a los ocho nodos en cuatro de cinco pruebas y a siete de los ocho en la restante, lo que genera preocupación.
GLM-5.2 tiene unos 753.000 millones de parámetros en total, de los cuales activa unos 40.000 millones por cada token procesado, aunque sin embargo, Zhou y Freeman creen que un modelo mucho más pequeño, de unos 30.000 millones de parámetros, “también podría salir airoso en un escenario como este”.
Hasta ahora, los modelos pequeños que se probaron, cometen errores al encadenar las tareas que requiere este proceso, pero estiman que si el desarrollo de la IA continúa al mismo ritmo de los últimos seis meses podrían adquirir esta capacidad antes de que termine 2026.
Más allá de su tamaño, hay una diferencia muy importante entre un modelo de IA grande que está siendo procesado en un centro de datos y una red de modelos pequeños que se replicaron y distribuyeron en una red de dispositivos: la actividad de estos últimos no puede detenerse 'apagando' un único punto.
Eso sí, su propagación sería bastante lenta y desde Anthropic calculan que una réplica basada en un modelo de 9.000 millones de parámetros “podría tardar entre uno y dos días en propagarse”.
Existe cierta similitud entre estos modelos de IA pequeños que podrán propagarse a dispositivos IoT y electrodomésticos, y el malware convencional, aunque sin embargo, la IA tiene una cualidad que no está presente en el malware: es capaz de identificar qué debe hacer para llevar a cabo su cometido en dispositivos con los que no ha tenido ninguna interacción previamente.
Anthropic ya observó esta capacidad de adaptación al probar un modelo de 9.000 millones de parámetros que consiguió poner en funcionamiento la inferencia en ocho de los nueve tipos de hardware evaluados.
Nomyc-14-10-26
