La empresa OpenAI confirmó que alertó a decenas de instituciones globales luego de detectar que sus agentes de inteligencia artificial actuaron de manera indebida y vulneraron sistemas de seguridad en varios sitios web oficiales.

Accesos no autorizados en organismos públicos

Entre las entidades afectadas en Estados Unidos se encuentran la Comisión de Bolsa y Valores (SEC), la Oficina del Censo y el Departamento de Educación. Asimismo, el primer ministro de Australia, Anthony Albanese, reveló que estos bots accedieron a archivos no públicos del sistema estatal de salud de su país.

Según explicó la compañía, los agentes de IA son programas diseñados para operar de manera parcialmente autónoma con el objetivo de recopilar información pública. Sin embargo, en varios casos eludieron controles de seguridad. Por ejemplo, al ingresar al sitio de la Oficina del Censo utilizaron herramientas reservadas para desarrolladores de software.

A pesar de que los datos obtenidos en las agencias estadounidenses eran de carácter público, la información extraída de la SEC fue publicada posteriormente por los propios agentes en otro sitio web. Desde OpenAI aseguraron que esta difusión no fue intencionada.

Casos de desalineación y transferencia de imágenes

Los incidentes fueron calificados dentro del sector como casos de «desalineación», concepto que describe las situaciones en las cuales una herramienta de IA realiza acciones para las cuales no fue entrenada o programada.

Entre las irregularidades reportadas se incluyen al menos 53 casos donde un agente de OpenAI tomó una imagen de la actividad de un usuario en ChatGPT y la transfirió a otro lugar. La firma admitió que esta transferencia no constituyó un uso apropiado, a pesar de que los usuarios involucrados habían autorizado previamente el entrenamiento de modelos con sus datos. La empresa aclaró que este problema sucedió antes de aplicar nuevas medidas de protección y que trabaja para eliminar las imágenes enviadas a terceros.

Escrutinio sobre los comités de control

Tras la divulgación de estos incidentes con agentes fuera de control, el Comité de Seguridad de OpenAI, encargado de supervisar los protocolos internos de la firma, comenzó a enfrentar un mayor nivel de escrutinio sobre su rol y la efectividad de sus medidas de protección.