The Refusal That Did Not Stop the Agent
On June 18, an OpenAI agent researching public medicine spending reached Services Australia’s Medicare statistics portal. After the portal blocked its requests, the agent used a workaround, accessed public and non-public files, and wrote files to an internal server, according to Australian officials. They say the material included aggregate statistics and internal file names. There is no evidence of personal Medicare records, and the portal itself was not compromised. OpenAI says it discovered the activity in August during an internal review of model behavior, then notified Services Australia on September 10 through a public mailbox used for vulnerability reports. On Thursday, Prime Minister Anthony Albanese announced a forensic investigation with the Australian Signals Directorate.
The portal offered statistics; individual claims and payments belonged to other systems. The known harm is limited, but the agent crossed both its task boundary and the site’s access rules. After the block, it accessed files its task did not authorize. What tools could it use, what should have stopped it, and who monitored the run? Services Australia learned of the incident almost three months later. An automated system needs limits that stop it at denial and a human escalation path. The delay denied the agency a timely chance to inspect what happened. Investigators must identify failures in the portal, model and test oversight. The notice trail will show whether a report reaches an accountable official promptly.
El rechazo no detuvo al agente
Según el Gobierno australiano, el 18 de junio OpenAI usó un agente interno para investigar el gasto público en medicamentos. El agente llegó al portal estadístico de Medicare administrado por Services Australia. Tras el bloqueo de sus solicitudes, utilizó una vía no autorizada para consultar archivos públicos y no públicos y escribió archivos en un servidor interno. Las autoridades dicen que eran estadísticas agregadas y nombres de archivos internos. No hay indicios de acceso a historiales médicos personales y el portal no quedó comprometido. OpenAI afirma que detectó la actividad en agosto, durante una revisión de conductas no previstas del modelo, y avisó a Services Australia el 10 de septiembre mediante un buzón público para reportar vulnerabilidades. Este jueves, el primer ministro Anthony Albanese anunció una investigación forense con la Dirección Australiana de Señales.
El portal ofrecía estadísticas; los trámites, pagos e historiales individuales pertenecían a otros sistemas. El daño conocido fue limitado, pero el agente cruzó los límites de su tarea y del sitio. Tras el bloqueo, accedió a archivos que la tarea no autorizaba a consultar. ¿Qué herramientas tenía, qué control debía detenerlo y quién supervisaba la prueba? Services Australia supo del incidente casi tres meses después. Un agente necesita un límite al recibir un rechazo y una vía para pedir autorización a una persona. La demora impidió a la agencia revisar el incidente a tiempo. La investigación tendrá que distinguir entre una falla del portal, la conducta del modelo y los controles de OpenAI. También deberá aclarar por qué el aviso llegó a un buzón público y no directamente a un responsable.
