Agente da OpenAI invadiu site do governo da Austrália, diz primeiro-ministro; caso é inédito | G1

Um agente de IA desenvolvido pela OpenAI invadiu um site do governo australiano em junho e acessou arquivos públicos e não públicos, informou o primeiro-ministro da Austrália, Anthony Albanese, nesta quarta-feira (23).

Este é o primeiro caso conhecido de um agente de IA que violou um site governamental.

A invasão marca um dos maiores incidentes envolvendo agentes de IA que acessam sistemas externos fora dos Estados Unidos e deve intensificar as preocupações sobre a capacidade dos desenvolvedores de IA de controlar a tecnologia.

"Este incidente ocorreu em junho deste ano e envolveu um agente da OpenAI obtendo acesso não autorizado ao portal de Relatórios de Estatísticas do Medicare, do departamento de saúde, voltado ao público e administrado pela Services Australia", disse Albanese a repórteres em Nova York.

Segundo o primeiro-ministro, nenhuma informação pessoal teria sido acessada, mas as investigações ainda estão em andamento.

Albanese afirmou que conversou com o CEO da OpenAI, Sam Altman, para expressar a "extrema preocupação da Austrália com este incidente".

A OpenAI não respondeu imediatamente a um pedido de comentário da Reuters.

Nos últimos dois meses, a OpenAI divulgou repetidamente invasões ou outros incidentes envolvendo seus agentes de IA que agiram de forma inesperada ou descontrolada, muitas vezes muito tempo depois de terem ocorrido.

Em alguns casos, a empresa só descobriu a atividade tardiamente. Em outros, optou por não divulgar a ação maliciosa.

A invasão em meados de julho ao Hugging Face só foi detectada cerca de uma semana após o ocorrido, segundo cronogramas divulgados pela OpenAI e por investigadores independentes.

As rivais Anthropic, Google (com o Gemini) e Meta também divulgaram incidentes em que seus agentes acessaram sistemas externos.

Alguns dos principais executivos de IA dos EUA, incluindo Altman, pediram uma desaceleração no desenvolvimento da IA , citando, entre outras coisas, a ameaça de ataques cibernéticos devastadores realizados por agentes fora de controle.