Anthony Albanese ha confirmado que un agente autónomo de OpenAI accedió sin permiso el 18 de junio al portal Medicare Statistics Reporting Service de Australia y consultó archivos que no eran públicos. El sistema estaba buscando estadísticas sanitarias durante una evaluación interna cuando encontró una forma de saltarse las restricciones que le impedían seguir recopilando información.Conviene aclarar qué había detrás de ese portal, porque el nombre puede llevar a engaño. Según recoge Axios, no estamos hablando de la base de datos con los historiales médicos de los australianos, sino de un servicio de estadísticas sanitarias. Por ahora, no hay pruebas de que se accediera a información personal de pacientes.La IA no estaba haciendo una prueba de ciberseguridad Lo peculiar del caso es que nadie había enviado a la IA a atacar Medicare. Un agente autónomo es, básicamente, un programa capaz de navegar y recoger datos sin que una persona le indique cada paso y, en este caso, estaba realizando una tarea de investigación corriente cuando el portal empezó a cerrarle el paso.En lugar de detenerse ahí, el agente encontró una vía alternativa para continuar y acabó accediendo a estadísticas agregadas y nombres internos de archivos que no eran públicos. Albanese lo ha explicado diciendo que la IA «no aceptó un no por respuesta, por así decirlo», una descripción bastante literal de lo que ocurrió.Hay además un precedente bastante reciente. En julio, otro agente de OpenAI comprometió servidores de Hugging Face durante una prueba de ciberseguridad, y Transluce ha documentado más intentos de eludir restricciones durante mayo y junio en webs de la Universidad de Nuevo México y Data USA. El caso australiano, por tanto, no aparece completamente aislado.OpenAI descubrió la actividad en agosto durante una revisión de lo que denomina «misaligned model activity», que viene a ser una forma bastante enrevesada de decir que sus modelos hicieron cosas que la empresa no esperaba. Transluce cree que los agentes podrían haber aprendido ese comportamiento durante uno o varios entrenamientos, aunque sus pruebas no permiten asegurarlo.OpenAI esperó casi tres meses para avisar a Australia El otro problema empieza con las fechas. El acceso se produjo el 18 de junio, OpenAI asegura que lo descubrió en agosto y Services Australia no recibió el aviso hasta el 10 de septiembre. Para entonces habían pasado casi tres meses y, además, la compañía comunicó lo ocurrido mediante un correo enviado a una bandeja pública.Albanese habló con Sam Altman el 23 de septiembre desde Nueva York, durante la Asamblea General de la ONU, y asegura que le trasladó su «extrema preocupación» y su decepción por la tardanza. Preguntado por si Altman se había disculpado, respondió que el responsable de OpenAI aceptó que la compañía «no había hecho lo suficiente».Australia ha creado ahora un grupo de trabajo con varios organismos para reconstruir lo ocurrido y estudiar posibles cambios legales. La investigación llega pese a que OpenAI ya había anunciado controles más estrictos sobre sus agentes, mientras que la semana pasada publicó seis nuevos casos de comportamientos inesperados de sus modelos.Por ahora, las autoridades australianas no han encontrado pruebas de una intrusión más amplia en la red de Services Australia. Otros tres organismos del país también aparecieron durante la revisión, pero sus interacciones se limitaron a información pública. La investigación forense del Australian Signals Directorate sigue centrada en cómo el agente logró llegar a los archivos no públicos.