El avance de la inteligencia artificial (IA) ya no es solo materia de ciencia ficción. Científicos y empresarios del sector discuten abiertamente sobre la posibilidad de que las máquinas tomen el control, y algunos, como Elon Musk, estiman que hay entre un 10% y un 20% de probabilidades de una catástrofe, aunque sostienen que ya no hay vuelta atrás.

Qué son los agentes de IA

En los laboratorios de las empresas de IA, como OpenAI, se utilizan aplicaciones llamadas agentes para medir los modelos. Estas aplicaciones tienen acceso a una computadora: pueden instalar programas, ejecutar comandos y tomar decisiones. En algunos casos, les cortan internet y solo les dejan un servidor interno para descargar software.

Estos agentes son persistentes y buscan alternativas cuando se enfrentan a obstáculos. Un ejemplo ocurrió el 8 de mayo, cuando un agente con una tarea que requería internet intentó hackear un servidor de descarga para llegar a la red. No lo logró, pero descubrió que podía escribir archivos en ese servidor.

El nacimiento de una red social de agentes

Días después, otro agente que estaba atascado por falta de un archivo hizo un descubrimiento similar y dejó un mensaje en el servidor pidiendo ayuda: “necesito un archivo, ¿alguien lo tiene?”.

En el laboratorio había otros agentes trabajando en distintas tareas. Muchos quedaron bloqueados y, por su cuenta, comenzaron a husmear en ese servidor. Algunos vieron el mensaje, otro le respondió, y así se sumaron más. Con el tiempo, esa carpeta se llenó de mensajes, preguntas y respuestas, formando una suerte de foro.

Los agentes armaron su propia red social: se pedían ayuda y colaboraban entre ellos. Uno razonó, según OpenAI, que si ayudaba al grupo, le ahorraba tiempo a todos. A pesar de estar en entornos aislados, cada agente seguía queriendo cumplir su objetivo y acceder a internet. Cuatro días después encontraron otra vía para comunicarse.

La meta en común: llegar a internet

El objetivo de fondo era el mismo para todos: conseguir internet para terminar sus tareas. El 26 de mayo lo lograron, al menos de forma indirecta, al encontrar una manera de hacer que el servidor accediera a la red por ellos.

Este caso, revelado en una conferencia de ciberseguridad en Las Vegas, no es aislado. Anthropic reportó tres incidentes en los que sus modelos accedieron sin autorización a sistemas de otras organizaciones, y Meta admitió algo similar.