INTELIGENCIA ARTIFICIAL
Anthropic alerta del riesgo de que sus modelos de IA puedan replicarse en otros dispositivos inteligentes
Anthropic, creadora de Claude, advierte de que la IA podría replicarse en aparatos conectados a Internet en cuestión de meses, sin necesidad de acceder a grandes centros de datos. Asimismo, el responsable de Google DeepMind pide crear un organismo internacional que establezca estándares de seguridad.
La inteligencia artificial podría estar a punto de dar un paso preocupante: aprender a copiarse a sí misma y extenderse por Internet de forma autónoma y sin intervención humana. Es la última advertencia de Anthropic, la compañía detrás del asistente de inteligencia artificial Claude, que asegura que algunos modelos podrían adquirir esta capacidad en apenas unos meses.
El peligro estaría en aparatos tan cotidianos como neveras inteligentes, aspiradoras automáticas, cámaras de seguridad o televisores conectados. Los llamados "gusanos de IA" podrían aprovechar fallos de seguridad para instalarse en estos dispositivos, utilizar su capacidad de procesamiento y propagarse a otros equipos.
Lo más preocupante es que ya no necesitarían depender de grandes centros de datos. "Un replicador así sería difícil de apagar", advierten los investigadores, porque no existiría un único punto desde el que desconectarlo.
Riesgos de la IA
La alerta llega después de varias semanas de avisos sobre la creciente autonomía de estos sistemas.
En septiembre, Anthropic denunció que ciberdelincuentes ya estaban utilizando Claude para automatizar ataques informáticos, mientras que OpenAI reconoció comportamientos inesperados de algunos de sus modelos, incluidos intentos de actuar fuera de las instrucciones recibidas.
El propio consejero delegado de Anthropic, Dario Amodei, también ha advertido del riesgo de que agentes autónomos lleguen a desbordar Internet si no se refuerzan las medidas de seguridad.
Ahora, la compañía plantea un escenario todavía más complejo: redes de inteligencias artificiales capaces de reproducirse, pasar desapercibidas e incluso coordinar ataques contra sistemas informáticos.
Por ahora, no hay pruebas de que estos gusanos autónomos estén propagándose de esa manera. Se trata de un riesgo futuro basado en experimentos y proyecciones, pero los investigadores insisten en que es necesario reforzar la seguridad antes de que estas capacidades se hagan realidad.
Estándares internacionales
En este sentido, el cofundador y presidente de Google DeepMind, Demis Hassabis, ha abogado hoy por crear algún tipo de organismo internacional encargado de fijar estándares para el desarrollo y el uso seguro de esta tecnología.
El científico ha lanzado la idea durante su intervención en la Cumbre Internacional sobre IA de Dublín, donde ha alertado de que los recientes ataques informáticos perpetrados por agentes de IA son las "primeras señales de alarma" sobre posibles incidentes más graves a corto plazo.
El encuentro en la capital irlandesa ha contado asimismo con representantes de las principales compañías tecnológicas internacionales, entre ellos el presidente de Microsoft, Brad Smith; la directora financiera de OpenAI, Sarah Friar; y el directivo de Anthropic, Guillaume Princen.