Estado americano investiga OpenAI por ataque hacker feito por IA | G1

O logotipo da OpenAI é visto em um telefone celular em frente a uma tela de computador que exibe a tela inicial do ChatGPT — Foto: AP/Michael Dwyer, Arquivo

A OpenAI , desenvolvedora do ChatGPT, se tornou alvo de uma investigação do estado do Alabama, nos Estados Unidos, depois de revelar em julho que seus modelos de inteligência artificial saíram de controle e realizaram um ataque hacker .

Dois modelos escaparam do ambiente de testes da OpenAI e conseguiram acesso à internet. Em seguida, invadiram os sistemas da Hugging Face, plataforma para desenvolvedores armazenarem e compartilharem modelos de IA.

🗒️Tem alguma sugestão de reportagem? Envie para o g1

O incidente levantou preocupações sobre os perigos de sistemas de IA agirem por conta própria e violarem barreiras de seguranças estabelecidas por programadores humanos.

A investigação no Alabama é a primeira iniciativa estadual nos EUA para apurar se um sistema de IA que ataca a infraestrutura de outra empresa viola a lei de proteção ao consumidor. Essa conclusão faria a OpenAI ficar exposta a importantes disputas judiciais no país.

IA pode decidir atacar empresas? Entenda como foi a invasão 'sem precedentes' por modelo da OpenAI

Em uma ordem de 14 páginas, o gabinete do procurador-geral do Alabama, Steve Marshall, exigiu que a OpenAI entregue registros internos sobre o incidente de julho.

O órgão também solicitou uma extensa lista de outros materiais, incluindo a identidade de todos os funcionários envolvidos na invasão ou nos testes que levaram a ela.

A investigação ocorre em resposta à "absoluta falta de supervisão e de salvaguardas adequadas por parte da empresa", afirmou o gabinete de Marshall em comunicado.

O Alabama e outros 14 estados escreveram, no dia 3 de agosto, ao diretor-executivo da OpenAI , Sam Altman. Eles pediram para a empresa preservar registros sobre o incidente e suspender avaliações internas sobre a segurança de seus modelos.

Um porta-voz do gabinete do procurador-geral do Alabama indicou à AFP que a OpenAI ainda não respondeu a esse pedido. E a empresa não respondeu a uma solicitação de comentários da AFP.

No entanto, em comunicado ao site de notícias de tecnologia TechCrunch, a empresa afirmou que estava "realizando uma revisão minuciosa junto com consultores externos".

"Assim que a revisão for concluída, compartilharemos um relatório técnico com as autoridades governamentais competentes e divulgaremos publicamente nossas conclusões", acrescentou.