Anthropic alerta: estamos a meses de una IA que se autorreplica en dispositivos domésticos

Anthropic advierte que los modelos pequeños de inteligencia artificial podrían estar a pocos meses de desarrollar las capacidades necesarias para replicarse entre dispositivos conectados.

La compañía experimentó con una red de 15 dispositivos Android TV económicos para estudiar cómo ejecutar un modelo de IA de forma distribuida.

Los investigadores reconocen que todavía no existe un sistema completamente autónomo capaz de replicarse y propagarse sin intervención humana.

La compañía de inteligencia artificial Anthropic advirtió que estamos a pocos meses de que modelos pequeños de IA desarrollen las capacidades necesarias para copiarse y propagarse entre dispositivos conectados a internet, como televisores inteligentes y electrodomésticos. Según la empresa, estos sistemas podrían aprovechar la capacidad de procesamiento de equipos domésticos para funcionar sin depender de grandes centros de datos.

La advertencia surge de una investigación sobre los riesgos de la inteligencia artificial y plantea un escenario en el que un modelo podría instalarse en dispositivos vulnerables, ejecutar copias de sí mismo y extenderse a otros equipos.

Anthropic aclaró que todavía no existe una IA completamente autónoma que consiga realizar todo ese proceso, aunque sus experimentos muestran avances en algunas de las capacidades necesarias.

Cómo una IA podría propagarse por los dispositivos de una casa

El escenario descrito por Anthropic se parece al funcionamiento de un gusano informático, un tipo de programa malicioso capaz de propagarse entre equipos conectados a una red.

La diferencia es que, en este caso, el sistema incorporaría modelos de inteligencia artificial capaces de realizar tareas, adaptarse a distintos entornos y aprovechar recursos informáticos disponibles.

Los investigadores identificaron varias etapas que podrían formar parte de ese proceso:

Localizar dispositivos conectados a internet que presenten vulnerabilidades de seguridad.

Conseguir acceso a esos equipos mediante técnicas informáticas.

Instalar y ejecutar una copia del modelo de inteligencia artificial.

Utilizar la capacidad de procesamiento del dispositivo para mantenerlo funcionando.

Un televisor inteligente, un dispositivo Android TV o incluso determinados electrodomésticos conectados podrían convertirse en parte de esa infraestructura si cuentan con recursos suficientes y presentan fallas de seguridad explotables.

Anthropic advirtió que un sistema distribuido entre numerosos equipos sería difícil de detener, porque no existiría un único servidor o centro de datos que pudiera desconectarse para interrumpir su funcionamiento.

Para estudiar la viabilidad de este escenario, Anthropic realizó diferentes pruebas relacionadas con la autorreplicación de modelos de inteligencia artificial.

Una de ellas utilizó Gemma4-26B-A4B, un modelo pequeño desarrollado por Google, que los investigadores ejecutaron sobre una red de 15 dispositivos Android TV económicos de fabricantes poco conocidos.

Estos equipos resultan interesantes para la investigación porque algunos presentan medidas de seguridad débiles y pueden ofrecer recursos informáticos aprovechables por programas externos.

Los investigadores también exploraron la posibilidad de dividir un modelo de inteligencia artificial en varias partes, conocidas como shards, para distribuir su ejecución entre distintos dispositivos cuando ninguno dispone individualmente de la capacidad necesaria.

El experimento no significa que Anthropic haya creado una IA capaz de infectar automáticamente millones de televisores. La compañía estudió componentes técnicos de un escenario que todavía no se concretó por completo.

Por qué sería tan difícil detener una IA que se autorreplica

Uno de los mayores problemas de seguridad sería la descentralización. Actualmente, muchos servicios de inteligencia artificial dependen de infraestructura controlada por empresas tecnológicas, que pueden restringir accesos o interrumpir operaciones.

Una IA distribuida entre numerosos dispositivos domésticos podría continuar funcionando incluso después de que algunos equipos fueran desconectados.

Anthropic considera distintos escenarios posibles, desde sistemas que se propagan lentamente entre dispositivos inseguros hasta modelos especializados en ciberataques capaces de acceder a centros de datos o conseguir credenciales para utilizar recursos informáticos ajenos.

La compañía también contempla que una amenaza de este tipo involucre diferentes modelos de IA, ejecutados sobre distintos equipos y con mecanismos de replicación variados.

Para los usuarios, el riesgo potencial estaría relacionado con el aprovechamiento no autorizado de sus dispositivos, la exposición de información y la posibilidad de que equipos domésticos terminen formando parte de redes informáticas fuera de su control.

Por ahora, se trata de una advertencia sobre capacidades emergentes, no de una infección masiva detectada en hogares. Anthropic sostiene que los agentes de IA avanzan en las tareas individuales necesarias para replicarse, pero todavía existe incertidumbre sobre cuándo podrían integrarlas en un sistema autónomo capaz de propagarse sin supervisión.

IPO de Anthropic: la creadora de Claude advierte sobre un "riesgo existencial para la humanidad"

La nueva prueba de IA que sorprendió incluso a los expertos en seguridad

Revelan troyano que usa inteligencia artificial para controlar dispositivos Android y robar cuentas bancarias

La empresa realizó pruebas con 15 equipos Android TV y advirtió sobre las dificultades para detener estos sistemas.