Anthropic afirmó este jueves que había bloqueado intentos de actores maliciosos de utilizar indebidamente sus modelos de inteligencia artificial para ciberataques, labores de vigilancia e investigaciones biológicas que podrían haber contribuido al desarrollo de armas.
PUBLICIDAD
PUBLICIDAD
A medida que los modelos de IA se vuelven más potentes, los ciberataques sofisticados requieren cada vez menos conocimientos técnicos, lo que significa que incluso personas actuando por su cuenta pueden crear ahora amenazas que habrían sido imposibles hace apenas un año, señaló la compañía.
Anthropic añadió que ha reforzado las salvaguardas en sus modelos más recientes para restringir investigaciones biológicas con posibles aplicaciones armamentísticas.
"Los casos que compartimos aquí no son usos indebidos habituales, sino ejemplos de la actividad de amenazas más destacada y novedosa que hemos identificado hasta la fecha", señaló Anthropic en su tercer informe sobre el uso indebido de la IA desde marzo de 2025.
El informe incluye fragmentos de código malicioso y de peticiones a los modelos de IA que, según la compañía, ha identificado, y pide a los gobiernos y a empresas rivales del sector que estén atentos a abusos similares.
"Publicamos este trabajo porque creemos que tenemos la responsabilidad de revelar el uso malicioso de nuestros servicios", afirmó la empresa.
"A medida que los modelos se vuelven cada vez más capaces, sus riesgos aumentarán, a menos que los desarrolladores de IA y quienes defienden a la sociedad actúen para hacerlos más seguros".
Anthropic, que prepara una salida a bolsa para este otoño, publicó el informe dos días después de que uno de sus investigadores anunciara su dimisión por sus dudas de que la compañía y sus competidores estén desarrollando la IA de manera responsable.
El científico reiteró advertencias ya escuchadas en el sector sobre el potencial de esta tecnología para escapar al control humano.
Piden a Claude que ayude a hacer un virus más peligroso
Entre diciembre de 2025 y agosto de 2026, los investigadores de Anthropic detectaron usos indebidos por parte de actores que iban desde proveedores de programas espía y personas con motivaciones políticas hasta grupos respaldados por estados que difundían propaganda.
Entre los casos descritos en el informe, actores no identificados intentaron utilizar los modelos de Anthropic para investigaciones que podrían haber conducido a armas biológicas.
En un caso, la compañía explicó que sus sistemas bloquearon una petición para que su asistente Claude ayudara a redactar una solicitud de subvención para financiación científica.
"El trabajo descrito en la solicitud implicaba investigación de ganancia de función, es decir, investigaciones que alteran genéticamente un organismo para crear una propiedad biológica nueva o mejorada, sobre el virus del chikungunya", indicaba el informe.
La investigación se centraba en la capacidad de transmisión del virus y en su habilidad para esquivar el sistema inmunitario.
El chikungunya es un virus transmitido por mosquitos que causa dolor intenso y fiebre. La propuesta de subvención buscaba potenciar mutaciones que harían el virus progresivamente más peligroso.
Anthropic señaló que este tipo de investigación puede "sin duda" contribuir al desarrollo de vacunas y tratamientos, pero añadió que "también podría utilizarse para hacer que el patógeno sea más peligroso".
Anthropic admite: "No podemos garantizar que no haya daños"
Ninguno de los casos recogidos en el informe afectó a los modelos más recientes y avanzados de Anthropic, Claude Fable o los modelos de la clase Mythos, con una única excepción, una "campaña encubierta, a escala industrial, para extraer las capacidades de un modelo y replicarlas en otro modelo sin autorización".
Anthropic indicó que sus modelos más antiguos, entre ellos Claude Opus 4 y Claude Sonnet 4.5 de 2025, "estaban muy por debajo del umbral a partir del cual podrían ayudar de forma significativa a un usuario sofisticado a llevar a cabo investigaciones biológicas peligrosas".
"Como resultado, las salvaguardas de estos modelos eran menos estrictas y estaban dirigidas sobre todo a impedir el acceso a contenidos que pudieran ayudar a novatos a recrear armas biológicas conocidas", añadía el informe.
"Pero en el caso de los modelos actuales, que son capaces de asistir en una amplia gama de tareas complejas de investigación científica, las pruebas ya no son concluyentes y no podemos ofrecer la misma garantía".
Por este motivo, Anthropic ha introducido salvaguardas más estrictas que limitan el acceso a un amplio abanico de consultas sobre investigación biológica de doble uso en sus modelos más recientes, como Claude Fable 5, según el informe.
A medida que las empresas de IA lanzan modelos cada vez más potentes, los expertos han pedido a los gobiernos que regulen esta tecnología en lugar de confiar en que el propio sector se autorregule.
John Thickstun, profesor ayudante de informática en la Universidad de Cornell, afirmó que esto sitúa a compañías como Anthropic y OpenAI en una posición incómoda, ya que en la práctica se ven obligadas a hacer "juicios de valor a escala social sin ningún tipo de supervisión democrática ni deliberativa".
El informe se publica tras la advertencia de un investigador
Anthropic también identificó grupos que habían creado centenares de cuentas falsas en redes sociales, diseñadas para parecer usuarios corrientes, que después difundían durante el plazo de una semana contenidos que amplificaban el mismo mensaje político.
La compañía detalló nueve casos de este tipo, con origen en Rusia, Irán, Turquía y en la región del Golfo, además de Asia meridional, África y Europa.
Aunque las plataformas de redes sociales pueden detectar operaciones de influencia una vez que las publicaciones ya están circulando, Anthropic señaló que puede "verlas en Claude cuando la operación aún se está diseñando".
El informe se publicó después de la dimisión del investigador de Anthropic Jacob Coxon, que explicó que se marchaba porque teme que la compañía y su principal rival, OpenAI, "están corriendo directamente hacia una superinteligencia auto-mejorable y jugando con nuestras vidas".
Coxon advirtió de que algunos de sus antiguos colegas creen que la IA podría poner en peligro la vida humana antes de que termine la década.
Anthropic aseguró que ha bloqueado todas las actividades maliciosas identificadas en el informe, que ha utilizado estas conclusiones para reforzar sus salvaguardas y que ha compartido la información con autoridades públicas y socios del sector.
"Confiamos en que las conclusiones de este informe ayuden a otros desarrolladores a reconocer patrones similares en sus propias plataformas, ofrezcan a los gobiernos y a la sociedad civil una visión más clara de cómo se forman las nuevas amenazas y contribuyan a reforzar las defensas colectivas", señaló la compañía.