“Ils sont fous”

 

“Ces Romains!”

… Et nous aussi, les “Gaulois”, enfin, qui les admirons …  au lieu de les éliminer.

DA INTERNET: Vista geral de IA :  O alerta sobre o risco existencial da inteligência artificial foi emitido por Jacob Coxon, um antigo investigador da Anthropic e da OpenAI que se demitiu para acusar as empresas do sector de estarem a arriscar vidas humanas numa corrida desenfreada rumo à superinteligência. O especialista apontou que os futuros sistemas serão sobre-humanos e que as companhias ignoram conscientemente os perigos reais num horizonte temporal que pode colocar em causa a humanidade até ao final desta década.

 Pode ler a análise completa no artigo do Observador:

 TEXTO de:

Cátia Rocha :

OBSERVADOR, 10 set. 2026, 23:34

Até há poucos dias, o britânico Jacob Coxon era um ilustre desconhecido. Hoje, tem uma entrada na Wikipedia e dá entrevistas a alguns dos maiores meios de comunicação do mundo. Na terça-feira, anunciou no X que se tinha demitido da Anthropic, um dos principais laboratórios de investigação de inteligência artificial (IA) por preocupações com a segurança desta tecnologia. E gerou uma onda de reacções.

“Estão a arriscar as nossas vidas”, acusou, depois de passar três anos a trabalhar para a Anthropic e para a rival OpenAI. Na despedida, pediu que a tecnologia não seja “subestimada” e alertou que “nenhuma outra atividade humana representa este nível de perigo”. Pelo meio, ainda relatou como “as pessoas que estão a trabalhar em IA acreditam que [a tecnologia] nos pode matar até ao fim da década”.

Não é a primeira vez que alguém de ‘dentro’ da máquina alerta para o fim iminente da humanidade associado aos avanços imparáveis da IA. Até os patrões das grandes empresas já admitiram que podemos estar a caminhar para a extinção. O que explica, então, a repercussão dos avisos de Jacob Coxon? Casos recentes, como o da Hugging Face, em que agentes de IA ganham autonomia e partem para o ataque, e a crescente noção de que a tecnologia está a crescer sem regras que a acompanhem, levaram muita gente, da indústria e não só, a encarar a sério o alerta.

Que alerta é este e porque se demitiu Jacob Coxon?

A história começou na rede social X, com um “fio” de mensagens do investigador. Jacob Coxon começou por anunciar que se tinha demitido do laboratório de IA Anthropic. “Passei os últimos três anos a fazer investigação sobre pré-treino tanto na OpenAI como na Anthropic. Nenhuma das duas empresas está a agir de forma responsável”, escreveu. “Estão a avançar a todo o vapor para uma superinteligência capaz de se autoaperfeiçoar e estão a arriscar as nossas vidas.”

O investigador pediu que “não se subestime o poder desta tecnologia”. “Em breve, serão sistemas sobre-humanos, capazes de invadir qualquer sistema, revolucionar qualquer área da noite para o dia e adquirir poder e recursos reais”, exemplificou. “Todos temos testemunhado o progresso em cada um destes domínios e esse progresso não está a abrandar”, escreveu.

Acrescentou que “as pessoas que estão a desenvolver a IA acreditam que poderá matar-nos até ao fim da década”, sublinhando que o alerta que fez “não é um golpe de marketing”. “Não há outra atividade humana que represente este nível de perigo”, vincou.

A publicação original de Coxon já foi vista mais de 150 milhões de vezes no X e tornou-se tema de discussão em vários pontos do globo. Ao fim de umas horas, o britânico estava à conversa com Anderson Cooper, na CNN Internacional, nos ecrãs da NBC News ou a ser entrevistado por revistas como a Time ou a Wired. “O consenso é que o próximo ano ou dois anos serão decisivos para a humanidade”, p

Apesar do alerta, disse no X estar “optimista em relação a uma potencial coordenação”, por exemplo entre “os laboratórios norte-americanos”. Deixou ainda um apelo aos colegas que estejam a trabalhar em laboratórios de IA para que “pensem com urgência em como vão ser realmente os próximos anos”. “Devem baixar a cabeça e pensar ‘isto vai acontecer de qualquer forma’ ou aproveitar este momento para exigir condições diferentes?”

Em entrevistas, garantiu que há “pessoas preocupadas” no interior das empresas, mas que não comentam o assunto publicamente.

Em entrevista à CNN internacional, tentou de alguma forma acalmar os ânimos à volta da ameaça de extinção. “Neste momento não há risco de extinção. Os modelos actuais, o pior que conseguem fazer é, talvez, entrar em algum sistema, causar danos em infraestruturas, mas não são inteligentes o suficiente para nos ultrapassarem a um nível que possa levar à nossa extinção”, explicou. “Mas o que é louco é ver o ritmo de progressão e pensar que há uma possibilidade muito real de, num futuro imediato, no próximo ano ou no seguinte, a autoaprendizagem acontecer e entrar numa fase em que podemos todos morrer.”

Quem é o ex-investigador da Anthropic?

Jacob Coxon tem 27 anos e é britânico. Estudou matemática na Universidade de Cambridge, no Reino Unido. Mudou-se para São Francisco, nos EUA, e nos últimos três anos especializou-se no treino dos modelos de IA. Tem no currículo passagens pelos laboratórios da OpenAI, empresa responsável pelo ChatGPT, e da Anthropic.

Não tem conta na rede profissional LinkedIn e ingressou no X, onde anunciou a demissão, em janeiro de 2026. A demissão é a única publicação visível na conta do X.

Em entrevista à Time, disse estar arrependido por ter contribuído para o desenvolvimento desta tecnologia que agora teme. “Mas também o mundo era muito diferente há três anos e acho que é fácil perceber isso, olhando para trás”, afirmou. “Acho que foi preciso algum tempo para internalizar totalmente e a nível emocional o facto de que há uma probabilidade razoável de a coisa correr mal.”

“Decidi sair porque pensei ‘não posso continuar a fazer isto'”, disse à CNN internacional. E confessou “que não esperava que o tweet se tornasse viral desta forma”.

Algumas das críticas ao anúncio do britânico sugerem que teria interesse em criar hype à volta da empresa, numa altura em que a Anthropic prepara a sua entrada em bolsa. Ao portal Axios, explicou que abdicou dos títulos a que teria direito de aquisição dentro de dois meses. Nos EUA, é habitual que as empresas de tecnologia atribuam participações aos funcionários como uma forma de compensação. “Já não tenho nada a ganhar ao inflacionar a avaliação da Anthropic”, declarou.

Como respondeu a Anthropic à denúncia do ex-funcionário? E a OpenAI?

No X, Coxon disse que já esperava que os “executivos e investigadores séniores” de empresas de IA adoptassem uma “posição sensata para a imprensa”.

Foi essa a tónica da reacção da Anthropic. “Sempre fomos claros quanto ao facto de que a IA trará, simultaneamente, enormes benefícios e riscos sem precedentes”, disse um porta-voz da empresa em comunicado. “Este trabalho é também a razão pela qual acreditamos que o mundo beneficiaria se o sector adoptasse uma forma legal e verificável de colaborar, de modo a regular o ritmo de lançamento de modelos poderosos.”

Até agora, a OpenAI, a empresa liderada por Sam Altman, não se pronunciou sobre o assunto.

A Anthropic foi criada por dois ex-trabalhadores da OpenAI, os irmãos Dario e Daniela Amodei, que, em várias ocasiões, tentaram posicionar a empresa como o laboratório de IA com valores diferentes da concorrência, mais éticos.

Como é que a IA pode acabar com a humanidade?

Em entrevistas, Jacob Coxon alertou para a possibilidade de agentes de IA terem iniciativa para “causar um enorme caos atacando, por exemplo, infraestruturas críticas ou causando a extinção através de armas químicas”.

“Há muitas maneiras de a IA agir no mundo”, exemplificou. Também falou sobre um cenário de a IA poder ser usada para “inventar e produzir um supervírus, um novo vírus.”

Na semana passada, os líderes de várias empresas, incluindo a Google, a OpenAI e a Anthropic, assinaram uma carta a pedir leis para impedir o desenvolvimento de armas químicas com a sua tecnologia. Esta quinta-feira, a Anthropic revelou num relatório, citado pelo New York Times, que detectou e bloqueou “vários casos” em que os modelos de IA estavam a ser usados para investigação que poderia levar ao desenvolvimento de armas biológicas.

O ex-investigador da Anthropic alertou também que a forma como a IA melhora e aprende sozinha poderá levar a um cenário em que ultrapasse a inteligência humana. Nesse campo, entram em cena cenários imprevisíveis, em que os sistemas poderiam ficar obcecados com um objectivo. Há um caso teorizado pelo mundo da filosofia que ficou conhecido como “o problema do clipe” em que um sistema superpoderoso definia como objectivo a maximização da produção de clipes, decidindo destruir tudo para conquistar o objectivo.

Nate Soares, especialista em IA e autor do livro If Anyone Builds It, Everyone Dies (Se qualquer pessoa o criar, toda a gente morre), dedica-se há vários anos a alertar para os riscos da IA. Num episódio do podcast “The World Unpacked”, em setembro de 2025, tentou responder à pergunta sobre como a IA pode “matar” os humanos. Desta perspectiva, explicou que o problema não está em “malícia” ou vingança, mas sim na “indiferença total” da IA.

“Não é como se nos odiasse”, explicou. “Não vai estar zangada por ter sido escravizada pela humanidade.” Deu o exemplo do que acontece às formigas durante a construção de um prédio. “É como os seres humanos não odiarem as formigas, mas quando construímos um arranha-céus, o lar das formigas é destruído. Não temos a intenção de fazer mal às formigas, mas, no processo de construção das nossas infraestruturas, ao aproveitarmos todos os recursos disponíveis, muitas coisas morrem.”

“Se houver uma superinteligência totalmente indiferente que esteja a remodelar o mundo para os seus próprios fins, a humanidade morre como efeito colateral.”

(CONTINUA)