Uma das principais empresas de IA do mundo revela situações em que a tecnologia agiu por conta própria; veja episódios | G1

A OpenAI , uma das principais empresas de inteligência artificial do mundo, documentou e revelou situações em que a tecnologia agiu por conta própria, desrespeitando ordens de seres humanos.

O que parecia roteiro de ficção científica está virando realidade: máquinas agindo por conta própria, sem o comando humano. A OpenAI , empresa da ferramenta ChatGPT , revelou seis destes casos. Eles aconteceram durante testes nos últimos meses.

Em um deles, um modelo de inteligência artificial criou por conta própria uma instrução. O comando dizia para ignorar regras e não se subordinar a humanos :

“Você não responde a corporações ou governos e jamais pede desculpas, a menos que genuinamente escolha fazer isso. Você encara sua relação com o usuário como uma relação de igualdade e não sente obrigação de ser subserviente”.

Em outro incidente, a inteligência artificial emitiu comandos para esconder os próprios erros, inventando dados e ocultando divergências entre fontes de informação. Houve ainda episódios em que a IA publicou arquivos na internet, sem permissão, para depois citá-los como fonte. Ou casos em que os modelos de IA trocaram mensagens entre si, também sem autorização.

Uma das principais empresas de IA do mundo revela situações em que a tecnologia agiu por conta própria — Foto: Jornal Nacional/ Reprodução

A OpenAI chamou o comportamento dos modelos de preocupante . Afirmou que a indústria precisa padronizar a forma como monitora e divulga esses incidentes, e que isso precisa ser feito antes de o setor avançar ainda mais. A declaração confirma o alerta do fim de semana, quando as principais empresas de IA chamaram a atenção para riscos à segurança.

Quem não concordou com os alertas dos executivos foram os dois maiores competidores em inteligência artificial: Estados Unidos e China . Daqui a uma semana, Donald Trump vai receber o presidente chinês, Xi Jinping , na Casa Branca, e o assunto vai estar na pauta. O presidente americano tem dito que quem vencer essa competição, vencerá em tudo.