A ideia de que a Inteligência Artificial agêntica — ou um sistema autónomo que consegue planear, tomar decisões e executar tarefas complexas com supervisão humana mínima — possa levar à extinção humana tornou-se um dos tópicos mais debatidos do nosso tempo.

A evolução em direção a um sistema superinteligente cujos objetivos não estejam perfeitamente alinhados com a preservação e o bem-estar da humanidade poderá, pelo menos em tese, fazer com que a Inteligência Artificial tome decisões catastróficas, tratando a humanidade como um entrave ou um mero recurso secundário.

Assim, quando os líderes das maiores companhias do setor nos Estados Unidos, como a Anthropic ou a OpenAI, vêm a público avisar que a tecnologia da Inteligência Artificial agêntica está a evoluir mais rápido do que a capacidade humana de a supervisionar, o sinal de alarme deveria soar e ser bem entendido em todas as paragens.

A razão e sobretudo o bom senso — que Descartes definiu como a qualidade mais partilhada — exigiriam uma consonância global para regular de forma eficaz o setor e prevenir eventuais consequências desastrosas identificadas por alguns como existenciais para o próprio género humano.

Porém, a realidade geopolítica é bem mais complexa. Num mundo multipolar e fragmentado, com enfrentamentos militares vários e uma competição acesa, os avisos não só são desvalorizados como se arriscam a “cair em saco roto”.

Sejamos pragmáticos na análise: sem uma estratégia coordenada entre os três grandes blocos globais — Estados Unidos e China, que lideram a corrida e a União Europeia mais avançada na regulação — a humanidade parece cair facilmente na armadilha da Teoria dos Jogos conhecida como o Dilema do Prisioneiro.

Efetivamente, um país ou empresa que decida desacelerar o desenvolvimento da Inteligência Artificial agêntica por cautela ética ou de segurança, corre o risco de ser ultrapassado pelos seus rivais sem apelo nem agravo. Tal poderá redundar no pior resultado coletivo se tivermos em conta os avisos de Dario Amodei e Sam Altman acima referidos.

O medo de perder a corrida tecnológica e as potenciais vantagens que daí possam advir impede a prudência unilateral por receio do adversário. Deste modo, sem um acordo efetivo com fiscalização real e compromissos mútuos, qualquer autorestrição será interpretada não como prudência, mas sim como capitulação geopolítica a ser aproveitada sem hesitação pelos rivais.

Em suma, a corrida à Inteligência Artificial e o desenvolvimento acelerado dos modelos agênticos, cada vez mais sem supervisão humana, transformam-se num jogo perigoso de soma zero onde a urgência de não ficar para trás se sobrepõe à prudência exigível.

Superar este impasse exigirá que os líderes mundiais compreendam que o verdadeiro risco não é perder a liderança tecnológica para um rival, mas sim alienar o controlo sobre uma tecnologia tão avançada e complexa que poderá não perdoar a falta de cooperação global.