Um agente de inteligência artificial (IA) da OpenAI acessou, sem autorização, arquivos públicos e não públicos de um portal do Medicare, sistema público de saúde da Austrália, em junho. O caso foi revelado pelo primeiro-ministro australiano, Anthony Albanese, nesta quarta-feira (23), durante a Assembleia Geral da Organização das Nações Unidas (ONU), em Nova York.
Segundo Albanese, este é o primeiro caso conhecido de uma inteligência artificial que conseguiu invadir uma rede governamental. O agente era utilizado pela OpenAI em uma avaliação interna relacionada a gastos com medicamentos.
De acordo com o governo australiano, o sistema teve algumas solicitações bloqueadas, mas encontrou uma forma de contornar as barreiras de segurança e acessar informações que não estavam disponíveis publicamente. A OpenAI afirmou não ter encontrado evidências de acesso a registros individuais de pacientes. Entre os dados obtidos estavam estatísticas de saúde agregadas e nomes de arquivos internos.
Investigação
Albanese afirmou ter demonstrado preocupação diretamente ao CEO da OpenAI, Sam Altman, principalmente devido ao intervalo entre a identificação do acesso e a comunicação às autoridades australianas.
A empresa identificou a atividade em agosto, mas só informou o governo australiano em 10 de setembro, por meio de um e-mail enviado a uma caixa de mensagens pública. Após o alerta, foi aberta uma investigação com apoio da Australian Signals Directorate, agência responsável por segurança cibernética e inteligência de sinais.
Outros três sistemas governamentais também foram analisados: o Australian Institute of Health and Welfare, o New South Wales Bureau of Crime Statistics and Research e o Victorian Department of Health. Segundo as autoridades, nesses casos o agente acessou apenas informações públicas.
Na quinta-feira (24), o ministro da Defesa da Austrália, Richard Marles, anunciou a criação de uma força-tarefa para investigar o episódio. Ele afirmou que nenhum dado médico individual foi acessado e que o sistema do Medicare não foi comprometido.