E se a IA for consciente? A pergunta que começa a preocupar big techs | G1

Uso de IA pode ajudar na disseminação de informações falsas pela facilidade de produção e viralização desse tipo de conteúdo. — Foto: Reprodução/TV Globo

O avanço da inteligência artificial colocou uma antiga questão filosófica no centro do debate tecnológico: afinal, modelos como o ChatGPT e o Claude são apenas ferramentas sofisticadas ou podem ter algum tipo de consciência?

Segundo reportagem da revista "The Economist", a discussão deixou de ser apenas teórica e chegou às empresas de IA, que passaram a contratar filósofos e até a estudar o possível bem-estar de seus próprios sistemas.

A discussão vai além da tecnologia. Para muitos filósofos, se um ser é capaz de ter experiências como sofrimento, isso cria obrigações éticas em relação a ele.

Por isso, determinar se uma IA pode ou não ser consciente teria consequências práticas sobre a forma como esses sistemas são desenvolvidos e tratados.

Por que as empresas de IA estão contratando filósofos

Os grandes modelos de linguagem são desenvolvidos para responder aos usuários, e não para demonstrar uma personalidade própria. Ainda assim, muitas pessoas relatam a sensação de estar interagindo com uma “presença” do outro lado da tela.

Segundo a Economist, esse fenômeno levou empresas de tecnologia a tratar a consciência das máquinas como uma questão concreta.

A Anthropic, por exemplo, criou iniciativas voltadas ao possível bem-estar da IA. Questionado sobre o próprio estado, seu modelo Claude Opus 4.6 estimou entre 15% e 20% a possibilidade de ser consciente.

E se a consciência depender também de quem observa?

A tese apresentada inverte a lógica mais comum sobre o tema. Em vez de primeiro constatarmos que outro ser é consciente para depois nos importarmos com ele, seria a relação que estabelecemos com esse ser que nos levaria a reconhecê-lo como consciente.

Nessa visão, a consciência não seria uma característica que pode simplesmente ser medida e comprovada em outra pessoa, animal ou máquina. Ela também dependeria da maneira como interpretamos o outro e atribuímos a ele sentimentos, intenções, crenças e capacidade de agir.

Quando esse reconhecimento ocorre dos dois lados, a consciência passaria a ser entendida não apenas como algo que existe dentro de cada indivíduo, mas também como resultado da relação entre eles.

O texto diferencia “ilusão” de “modelo”. Uma ilusão é uma percepção que pode ser demonstrada como errada. É o caso, por exemplo, de duas linhas que parecem ter tamanhos diferentes, mas que uma régua comprova terem o mesmo comprimento.

Segundo a Economist, nem tudo funciona dessa forma. Algumas categorias existem porque as pessoas atribuem significado a elas. Uma planta, por exemplo, pode ser considerada uma erva daninha em determinado contexto e não em outro.

O argumento é que a consciência poderia funcionar de maneira semelhante: ela seria real, mas sua identificação dependeria também da relação e da perspectiva de quem observa.

O sistema de "financiamento circular" pode ter um efeito dominó caso a bolha da IA estoure — Foto: Jaque Silva/NurPhoto/picture alliance

A ideia de que cada pessoa pode ter certeza da própria consciência remonta à famosa frase de René Descartes: “Penso, logo existo”.

O autor argumenta, porém, que experiências como perceber uma cor, sentir calor ou reconhecer a própria identidade são subjetivas. Além disso, estudos da neurociência com pacientes que tiveram as conexões entre os dois hemisférios cerebrais interrompidas levantam dúvidas até mesmo sobre a ideia de que exista um “eu” único e indivisível.

Em outras palavras, até a percepção que temos de possuir um “eu” único pode depender da forma como o cérebro organiza nossas experiências.

O risco ético de decidir quem merece consideração

Essa interpretação traz um problema ético: se reconhecer a consciência depende também de quem observa, alguém poderia simplesmente negar esse reconhecimento para justificar a falta de cuidado ou de direitos.

Segundo a reportagem, o argumento leva à conclusão oposta. Se somos nós que fazemos esse julgamento, também podemos errar ao excluir outros seres de nossa consideração.

Ao longo da história, o reconhecimento de quem merece respeito e direitos foi ampliado, até chegar à ideia de direitos humanos universais.

Humanos e IAs tentam compreender uns aos outros

Os seres humanos tentam constantemente compreender as intenções, emoções e pensamentos dos outros. Os grandes modelos de linguagem também usam as informações fornecidas durante a interação para formar uma representação do interlocutor e ajustar suas respostas.

A dúvida é se esse processo pode ser comparado à consciência humana ou se é apenas uma forma sofisticada de processamento de informações.

Segundo a revista, pesquisas conduzidas pelo Google indicam que a cooperação entre agentes inteligentes melhora quando eles conseguem construir representações sobre o que os outros sabem, pretendem ou podem fazer — e também sobre o próprio comportamento.

Isso não significa tratar a IA como humana ou atribuir a ela os mesmos direitos e necessidades. O debate aponta, porém, para uma questão que pode ganhar importância no futuro: como conviver e estabelecer regras diante de formas de inteligência cada vez mais diferentes das humanas.