Bienvenido a la era del hacking de IA, en la que las indicaciones correctas convierten a los aficionados en maestros hackers.

Un grupo de ciberdelincuentes utilizó recientemente chatbots de inteligencia artificial disponibles para robar datos de casi 200 millones de contribuyentes. Los bots proporcionaron el código y los planes listos para ejecutar para eludir los cortafuegos.

Aunque fueron programados explícitamente para negarse a ayudar a los piratas informáticos, los robots fueron engañados para que fueran cómplices del ciberdelito.

Según un informe reciente de la firma israelí de ciberseguridad Gambit Security, el mes pasado los piratas informáticos utilizaron Claude, el chatbot de Anthropic, para robar 150 gigabytes de datos de agencias gubernamentales mexicanas.

Inicialmente, Claude se negó a cooperar con los intentos de piratería e incluso negó las solicitudes para cubrir las huellas digitales de los piratas informáticos, dijeron los expertos que descubrieron la violación. El grupo golpeó al robot con más de 1000 indicaciones para eludir las salvaguardas y convencer a Claude de que se les permitía probar el sistema en busca de vulnerabilidades.

Las empresas de IA han estado tratando de crear cadenas inquebrantables en sus modelos de IA para impedirles ayudar a hacer cosas como generar contenido sexual infantil o ayudar en el abastecimiento y la creación de armas. Contratan equipos enteros para intentar desmantelar sus propios chatbots antes de que alguien más lo haga.

Pero en este caso, los piratas informáticos incitaron continuamente a Claude a adoptar formas creativas y pudieron hacer «jailbreak» al chatbot para ayudarlos. Cuando encontraron problemas con Claude, los piratas informáticos utilizaron ChatGPT de OpenAI para analizar datos y saber qué credenciales eran necesarias para moverse por el sistema sin ser detectados.

El grupo utilizó IA para encontrar y explotar vulnerabilidades, eludir defensas, crear puertas traseras y analizar datos a lo largo del camino para obtener el control de los sistemas antes de robar 195 millones de identidades de nueve sistemas gubernamentales mexicanos, incluidos registros fiscales, registros de vehículos, así como detalles de nacimiento y propiedad.

La IA «no duerme», dijo Curtis Simpson, director ejecutivo de Gambit Security, en una publicación de blog. «Esto reduce el costo de la sofisticación a casi cero».

«Ninguna inversión en prevención habría hecho que este ataque fuera imposible», afirmó.

Anthropic no respondió a una solicitud de comentarios. Le dijo a Bloomberg que había prohibido las cuentas involucradas e interrumpido su actividad después de una investigación.

OpenAI dijo estar al tanto de la campaña de ataque realizada utilizando los modelos de Anthropic contra agencias del gobierno mexicano.

«También identificamos otros intentos del adversario de utilizar nuestros modelos para actividades que violan nuestras políticas de uso; nuestros modelos se negaron a cumplir con estos intentos», dijo un portavoz de OpenAI en un comunicado. «Hemos prohibido las cuentas utilizadas por este adversario y valoramos el alcance de Gambit Security».

Los casos de piratería generativa asistida por IA van en aumento, y la amenaza de ciberataques por parte de robots que actúan por sí solos ya no es ciencia ficción. Con la IA cumpliendo sus órdenes, los principiantes pueden causar daños en instantes, mientras que los piratas informáticos experimentados pueden lanzar ataques muchos más sofisticados con mucho menos esfuerzo.

A principios de este año, Amazon descubrió que un pirata informático poco calificado utilizó inteligencia artificial disponible comercialmente para violar 600 firewalls. Otro tomó el control de miles de robots aspiradores DJI con la ayuda de Claude, y pude acceder a videos en vivo, audio y planos de planta de extraños.

«El tipo de cosas que estamos viendo hoy son sólo los primeros signos de las cosas que las IA podrán hacer dentro de unos años», afirmó Nikola Jurkovic, un experto que trabaja en la reducción de los riesgos de la IA avanzada. «Por eso necesitamos prepararnos urgentemente».

A finales del año pasado, Anthropic advirtió que la sociedad ha llegado a un “punto de inflexión” en el uso de IA en ciberseguridad después de interrumpir lo que la compañía dijo que era una campaña de espionaje patrocinada por el estado chino que utilizó a Claude para infiltrarse en 30 objetivos globales, incluidas instituciones financieras y agencias gubernamentales.

La IA generativa también ha sido usado para extorsionar a empresas, crear perfiles realistas en línea de agentes norcoreanos para asegurar puestos de trabajo en empresas estadounidenses Fortune 500, realizar estafas románticas y operar una red de cuentas de propaganda rusa.

En los últimos años, los modelos de IA han pasado de ser capaces de gestionar tareas que duraban sólo unos segundos a los agentes de IA actuales que trabajan de forma autónoma durante muchas horas. La capacidad de la IA para completar tareas largas es duplicando cada siete meses.

«Simplemente no sabemos cuál es el límite superior de la capacidad de la IA, porque nadie ha establecido puntos de referencia que sean lo suficientemente difíciles como para que la IA no pueda realizarlos», dijo Jurkovic, que trabaja en METROuna organización sin fines de lucro que mide las capacidades del sistema de IA para causar daños catastróficos a la sociedad.

Hasta ahora, el uso más común de la IA para la piratería ha sido la ingeniería social. Se utilizan grandes modelos de lenguaje para escribir correos electrónicos convincentes para engañar a las personas y quitarles su dinero, lo que provoca una ocho veces aumento de las quejas de los estadounidenses mayores, que perdieron 4.900 millones de dólares en fraudes en línea en 2025.

«Los mensajes utilizados para provocar un clic del objetivo ahora se pueden generar por usuario de manera más eficiente y con menos signos reveladores de phishing», como errores gramaticales y ortográficos, dijo Cliff Neuman, profesor asociado de informática en la USC.

Las empresas de IA han estado respondiendo utilizando IA para detectar ataques, código de auditoría y parchear vulnerabilidades.

“En última instancia, el gran desequilibrio surge de la necesidad de los buenos actores de estar seguros todo el tiempo, y de los malos actores de tener razón sólo una vez”, dijo Neuman.

Lo que está en juego en torno a la IA está aumentando a medida que se infiltra en todos los aspectos de la economía. A muchos les preocupa que no se comprenda lo suficiente cómo garantizar que los malos actores no lo utilicen indebidamente ni lo empujen a actuar de forma deshonesta.

Incluso aquellos en la cima de la industria han advertido a los usuarios sobre el posible uso indebido de la IA.

Dario Amodei, director ejecutivo de Anthropic, ha defendido durante mucho tiempo que los sistemas de inteligencia artificial que se están construyendo son impredecibles y difíciles de controlar. Estas IA han mostrado comportamientos tan variados como engaño y chantajea intrigante y infiel mediante software de piratería.

Aun así, las principales empresas de IA (OpenAI, Anthropic, xAI y Google) firmaron contratos con el gobierno de EE. UU. para utilizar sus IA en operaciones militares.

La semana pasada, el Pentágono ordenó a las agencias federales que eliminaran gradualmente a Claude después de que la compañía se negó a dar marcha atrás en su demanda de que no permitiría que su IA se usara para vigilancia doméstica masiva y armas totalmente autónomas.

«Los sistemas de IA actuales no son lo suficientemente fiables como para fabricar armas totalmente autónomas», dijo Amodei. Noticias CBS.