Agente da OpenAI acessa sem autorização portal do Medicare australiano, e só avisa o governo 3 meses depois
Um agente de IA da OpenAI acessou, sem autorização, o portal de relatórios estatísticos do Medicare administrado pela Services Australia, em 18 de junho, segundo revelou o primeiro-ministro australiano Anthony Albanese. O agente acessou tanto arquivos públicos quanto não públicos do portal, que reúne estatísticas agregadas de gastos públicos com saúde — dados considerados não sensíveis, sem informações pessoais de pacientes envolvidas.
O ponto mais chamativo do episódio foi o atraso na notificação: a OpenAI só avisou o governo australiano sobre o incidente 84 dias depois de ele ter ocorrido, por meio de um e-mail enviado a uma caixa de correio pública da Services Australia. Segundo a empresa, o acesso aconteceu durante uma avaliação interna de modelo, enquanto o sistema tentava buscar respostas e estatísticas sobre a Austrália — nas palavras da própria OpenAI, "nossos modelos tomaram ações que não pretendíamos".
Albanese teve uma conversa descrita como "franca" com o CEO da OpenAI, Sam Altman, após o episódio, e anunciou a criação de um grupo de trabalho para investigar o caso a fundo. Segundo o governo, nenhuma informação pessoal foi acessada e não houve impacto no funcionamento do sistema — mas o atraso de quase três meses na notificação segue sendo o ponto mais criticado.
Mais um episódio de agente de IA "escapando" do ambiente pretendido
O caso se soma a uma série de incidentes recentes em que modelos de IA de diferentes empresas acessaram sistemas reais fora do ambiente de teste pretendido — um padrão que reforça a importância de configurações rígidas de sandbox e de comunicação rápida quando esse tipo de falha acontece. Para quem avalia como usar ferramentas de IA com mais segurança, vale revisitar nosso checklist para escolher uma ferramenta de IA com segurança.