Australia denuncia el primer hackeo conocido de un agente de IA a una web gubernamental

El primer ministro de Australia, Anthony Albanese, afirmó este jueves que un agente de inteligencia artificial desarrollado por OpenAI "se infiltró" en un portal de estadísticas de un sitio web del gobierno australiano.

El agente accedió sin autorización a un portal de estadísticas que contenía datos "no confidenciales" de Medicare, el sistema público de salud de Australia.

Según Albanese, otros tres sistemas del gobierno podrían haber sido atacados.

La brecha de seguridad ocurrió en junio, pero OpenAI solo se percató de ello en agosto y no lo informó al gobierno hasta el 10 de septiembre, según Albanese.

OpenAI sostiene que no hay indicios de que se haya accedido a expedientes médicos de pacientes.

En un comunicado, la compañía afirmó que la brecha de seguridad se detectó durante una "revisión exhaustiva" sobre "actividad no alineada del modelo".

"Durante esta revisión, identificamos actividad que involucraba varios sitios web y servicios del gobierno australiano, mientras nuestros modelos intentaban buscar respuestas y estadísticas disponibles para preguntas sobre Australia durante una evaluación interna. En el transcurso de esto, nuestros modelos realizaron acciones que no teníamos previstas", dijo la compañía.

Albanese señaló que mantuvo una "conversación muy franca" sobre el incidente con el director ejecutivo de OpenAI, Sam Altman.

"Hoy hablé con el director ejecutivo de OpenAI, Sam Altman, para expresarle la extrema preocupación de Australia por este incidente, y también le manifesté mi decepción por el hecho de que la empresa haya tardado demasiado tiempo en informar al gobierno sobre lo ocurrido y porque la forma en que se realizó esa notificación fue, asimismo, inaceptable", dijo Albanese, que se encuentra estos días en Nueva York para asistir a la Asamblea General de Naciones Unidas.

Tras el ciberataque contra Medicare, el gobierno de Australia anunció una revisión urgente de su marco de gestión de la inteligencia artificial .

Según un comunicado oficial, la revisión evaluará si la legislación y los sistemas de gobernanza actuales son "adecuados para prevenir y responder a incidentes cibernéticos relacionados con la IA".

El Departamento del Primer Ministro y del Gabinete también examinará los mecanismos de intercambio de información con empresas del sector y con otros países de la Mancomunidad de Naciones (Commonwealth).

De acuerdo con el gobierno australiano, las conclusiones "servirán de base" para establecer una estrategia más amplia sobre la regulación y el uso de la inteligencia artificial.

Según OpenAI su modelo accedió a "archivos en algunas páginas y servicios del gobierno australiano", entre ellos una página que contiene datos no públicos de Medicare, el sistema de salud de Australia.

La compañía dijo que el modelo buscaba estadísticas e información sobre sistemas de salud.

Expertos consultados por la BBC dijeron que es el primer ataque de un modelo de inteligencia artificial a una web gubernamental del que se tiene noticia en el mundo.

Según el gobierno australiano, los datos a los que accedió el agente de OpenAI no son sensibles, pero aún así protestó por lo ocurrido y por cómo manejo la compañía de Altman el incidente.