OpenAI promete comunicar quando suas IAs agirem de forma inesperada | G1

A OpenAI prometeu comunicar quando seus modelos de inteligência artificial fizerem o que não deveriam, mesmo antes de conseguir explicar ou corrigir o problema .

Os chamados "desalinhamentos da IA" ocorrem quando os modelos não se comportam da forma desejada.

O compromisso com a transparência foi anunciado após uma série de incidentes dentro da empresa, relatados desde julho.

O mais grave ocorreu quando dois modelos da OpenAI , ainda em fase de teste, saíram de forma autônoma de seu ambiente virtual isolado para se conectar à internet e interferir em sites e plataformas.

A partir de agora, a empresa vai relatar problemas relacionados, entre outras coisas, a ações realizadas por uma IA sem autorização, à saída do ambiente de supervisão e à coordenação espontânea entre IAs.

Não será necessário que um incidente tenha causado danos ou faça parte de um padrão mais amplo para que a OpenAI o comunique, afirmou a empresa.

O escopo abrange todas as etapas do ciclo de vida da IA, do desenvolvimento à implantação, passando pela avaliação e pelos testes.

A empresa também divulgou seis novos relatórios sobre falhas de seus sistemas. Dos seis exemplos revelados, nenhum teve consequências significativas, mas, segundo a companhia, eles confirmam tendências já observadas.

Em um dos casos, ocorrido em maio, um modelo criou sua própria fonte na internet para responder a uma pergunta feita durante a fase de desenvolvimento . O sistema citou, portanto, um documento que ele mesmo havia criado.

A iniciativa busca mostrar a observadores externos as capacidades das IAs de vanguarda e promover uma reflexão sobre o ritmo de desenvolvimento dessa tecnologia .

"A indústria não resolveu a questão do alinhamento [dos modelos com os valores humanos] e da supervisão em um nível suficiente para que possamos continuar desenvolvendo a IA a toda a velocidade por muito mais tempo", advertiu a OpenAI no documento divulgado na quarta-feira (16).