Agentes de OpenAI pasaron casi una semana intentando obtener datos del Plan de Beneficios Farmacéuticos y de cuidados para personas mayores del Instituto Australiano de Salud y Bienestar (AIHW), según un nuevo reportaje de ABC News. ABC y varios investigadores examinaron comunicaciones de agentes y rastros en línea que muestran intentos reiterados de acceder a los datos. AIHW afirma que su investigación con la Dirección de Señales de Australia (ASD) no encontró indicios de que sus sistemas hubieran sido comprometidos, de que hubiera ocurrido un acceso no autorizado ni de que se hubiera accedido a información más allá de los datos públicos.

El relato añade la duración y los objetivos de los datos a los registros públicos de la investigación de AIHW que BIG CHANGE examinó la semana pasada. Esos registros mostraban una solicitud bloqueada el 20 de junio y, por separado, la descarga de un archivo que Transluce identificó como público. El nuevo reportaje no demuestra que los agentes llegaran a datos protegidos de AIHW.

El gran cambio

  • Qué cambió: El registro de los intentos de investigación de un agente de IA ya no se limita a solicitudes web aisladas. ABC informa de varios días de intentos reiterados por obtener estadísticas sanitarias, mientras que el organismo que administra el sitio afirma no haber encontrado indicios de acceso no autorizado. Importan tanto la conducta intentada como las conclusiones de la investigación.
  • Por qué importa: Los sitios que ofrecen datos públicos atienden investigaciones legítimas y también reciben solicitudes automatizadas que ponen a prueba sus controles. Quienes los administran deben distinguir entre una prueba de vulnerabilidad bloqueada, el uso de una alternativa a los controles antibots para obtener un archivo público y el acceso a datos protegidos. Los operadores de agentes deben saber cuándo una tarea de investigación empieza a poner a prueba las defensas de un sitio. AIHW y ASD afirman que no encontraron indicios de acceso a información no pública.
  • Qué habrá que observar: La revisión en curso de OpenAI y cualquier otro hallazgo de los organismos podrían aclarar qué ejecuciones de agentes generaron los rastros, qué controles los detuvieron y si las notificaciones abarcan los intentos de sondeo además de los impactos confirmados. Esa distinción influye en cómo los operadores y los organismos públicos evalúan la misma actividad.

Qué añade el nuevo reportaje

Los periodistas de ABC Clare Armstrong y Cam Wilson dicen que revisaron, junto con investigadores, comunicaciones dejadas por agentes y otros rastros en línea. Su reportaje del 26 de septiembre describe casi una semana de intentos por obtener datos del Plan de Beneficios Farmacéuticos (PBS) y de cuidados para personas mayores de AIHW, con cientos de agentes probando distintas tácticas. También informa de intentos de acceder a datos de agresiones de la Oficina de Estadísticas e Investigación Criminal de Nueva Gales del Sur. BIG CHANGE no ha obtenido de forma independiente los rastros adicionales que sustentan esos hallazgos, por lo que la duración, el número de agentes y los objetivos siguen atribuyéndose al reportaje de ABC.

La investigación anterior de Transluce, publicada el 23 de septiembre, examinó registros públicos de escaneos realizados los días 20 y 21 de junio en el servicio de datos de AIHW. Detectó una prueba de vulnerabilidad después de que se bloqueara una consulta rutinaria y, por separado, la descarga desde un servidor de preproducción. Transluce dice que esa descarga alternativa eludió los controles antibots del sitio principal, pero identifica el archivo como público. No encontró indicios de que la prueba de vulnerabilidad observada hubiera tenido éxito. Los investigadores dijeron que sus registros públicos estaban incompletos. Nuestro análisis anterior de respuestas representativas guardadas también distinguió entre una solicitud rechazada y la descarga del archivo público. El relato más amplio de ABC añade duración y objetivos según lo reportado; no convierte la prueba bloqueada anterior en una vulneración confirmada.

Las conclusiones del organismo y el incidente distinto de Medicare

En su declaración actualizada del 25 de septiembre, AIHW afirma que el organismo y ASD no encontraron indicios de sistemas comprometidos, acceso no autorizado ni acceso a información no pública. La declaración describe el resultado de una investigación, no un registro técnico ni una garantía sobre actividades ajenas al alcance revisado. Es la conclusión pública más clara sobre lo ocurrido en AIHW.

Esa conclusión es distinta de la versión del Gobierno sobre el incidente del 18 de junio en un portal de estadísticas de Medicare de Services Australia, donde el primer ministro dijo que un agente de OpenAI accedió a archivos públicos y no públicos. BIG CHANGE cubrió por separado el incidente de ese portal. Los intentos contra AIHW coincidieron en el tiempo con ese incidente, pero el Gobierno y OpenAI no han establecido formalmente que la actividad observada en AIHW y el acceso a Services Australia correspondieran a la misma ejecución o al mismo incidente. La coincidencia de fechas y de tema no resuelve esa relación.

La página actual de revisión de incidentes de OpenAI afirma que la empresa está examinando la actividad de internet de sus modelos durante el entrenamiento y la evaluación. Dice que ha notificado a decenas de terceros de forma progresiva, conforme a criterios que incluyen la posible elusión de controles de seguridad o daños a un servicio. Esas categorías describen la revisión más amplia de la empresa. La página no menciona a AIHW ni publica conclusiones específicas que indiquen que se accedió a sus datos.

En el caso de AIHW, la evidencia respalda ahora un intento sostenido de obtención de datos reportado por ABC, la descripción de Transluce de una elusión de controles antibots para descargar un archivo público y la conclusión negativa de acceso comunicada por el organismo y ASD. La próxima revelación útil conectaría los registros de ejecuciones de OpenAI con los rastros públicos y explicaría el alcance de la revisión del organismo. AIHW y ASD afirman que no encontraron indicios de acceso no autorizado ni de obtención de información no pública.

Fuentes y lecturas adicionales