Extraordinário

“Roseau pensant” é o que o HOMEM é, afinal. Um espectacular criador. Aonde irá chegar, com tanta progressiva descoberta? Conseguirá manter a Terra – e o resto dos mundos, – intactos nos espaços siderais? Mas o “só sei que nada sei” continuará impondo-se, permitindo maravilharmo-nos, continuamente, numa existência de absurdo.

“A segurança da IA está longe de ser um problema resolvido”, diz cofundador da DeepMind

OBSERVADOR, 30 mai. 2024, 15:261

CÁTIA ROCHA: Texto

Mustafa Suleyman está no centro da evolução da inteligência artificial. Pede que se olhe para os riscos do que vai ser "o poder e o desafio do século", mas que não será exclusivo das big tech.

O britânico Mustafa Suleyman passou uma boa parte da vida a correr atrás do sonho da inteligência artificial (IA). Cofundou a empresa de investigação de IA DeepMind, que vendeu à Google em 2014, mudou-se para a big tech para liderar os esforços de IA, saiu para criar outra empresa, a Inflection AI, e actualmente é o CEO da divisão de IA da Microsoft.

Ao todo, são mais de 15 anos a acompanhar por dentro a evolução do mercado da IA, desde os jogos de AlphaGo em que a tecnologia conseguiu derrotar um humano até à explosão dos grandes modelos de linguagem (LLM). E, muito devido à DeepMind, Suleyman tornou-se um dos nomes mais conhecidos do setor.

Mas é também a convivência próxima com o que diz ser “o poder e o grande desafio do século XXI” que o leva a fazer um extenso aviso sobre os riscos da IA, que ganha forma em livro. Em “A Próxima Vaga”, que assina com o escritor britânico Michael Bashkar, pede “urgentemente respostas à prova de bala quanto ao controlo e à contenção da vaga iminente”, a expressão usada para se referir às tecnologias centradas em IA. Só com essas respostas, acredita, é que será possível “a manutenção das salvaguardas e possibilidade do Estado-nação democrático”. O problema é que “ninguém tem esse plano”, admite no livro, publicado recentemente em Portugal pela Clube do Autor.

A edição portuguesa foi editada este mês. A versão original foi lançada nos EUA no ano passado

Ao longo de mais de 300 páginas, o criador de uma das empresas de IA mais conhecidas do mundo fala das consequências desta tecnologia caso não seja desenvolvida e implementada com responsabilidade e ética. Em respostas por escrito às questões do Observador, Suleyman rejeita que este manifesto possa contribuir para mais pessimismo. Na obra, usa a expressão“aversão ao pessimismo”– quando os alertas são tão catastróficos que tendem a ser ignorados. “A minha esperança é o contrário: que se faça incidir um holofote sobre estas questões e que se definam todos os factos de forma cuidadosa e explícita”, explica.

“Achei que este era o momento certo [para lançar este livro], porque a IA está finalmente a atingir o nível de capacidades e preeminência que sentia que estava a caminho”. Além disso, também ajuda haver “interesse popular nas capacidades tecnológicas que estão a avançar rapidamente”.

Numa das passagens do livro, conta que há alguns anos fez uma apresentação para CEO, fundadores de empresas e outros nomes relevantes da indústria nos Estados Unidos a mostrar os problemas de uma IA sem lei. “Invasões maciças de privacidade”, um “apocalipse de desinformação” e uma tecnologia “passível de ser transformada em arma, criando um conjunto letal de novas armas cibernéticas” foram alguns dos avisos. E, no fim, projectou uma imagem da série Simpsons, com personagens armadas com forquilhas. Mais um alerta: “As forquilhas vêm aí, vêm atrás de nós, os criadores de tecnologia. Cabe-nos garantir que o futuro seja melhor do que isto”, sugere.

Para já, não sente culpa de que o trabalho que desenvolveu possa ter contribuído para os cenários que teme. “A minha carreira tem sido dedicada a sublinhar e a tentar responder aos riscos e problemas”, rebate. “Em tudo o que tenho feito tenho trabalhado para garantir que isto corre bem para toda a gente.”

Não há só pontos negativos. Suleyman acredita que “a IA vai dar o contributo mais positivo e extraordinário para o bem-estar humano”, destacando um “enorme impulso de riqueza, igualdade social e crescimento económico”. Ainda que a apresentação aos tecnólogos da Costa Oeste dos EUA possa ter sido recebida com rostos inexpressivos, anos depois há quem tenha mudado de ideias. “Muita gente que está a trabalhar em IA está a fazê-lo porque sabe que esta tecnologia vai ter um enorme contributo benéfico e reconhecem que chegar até aí significa passar por um conjunto de questões regulatórias e éticas que simplesmente não podem ser contornadas.”

 “Não é toda a gente assim”, admite, “e há quem tente pôr essas questões de lado e talvez não goste de algumas das mensagens deste livro”. “Não estou aqui para desvalorizar nada”, assegura. Prefere uma abordagem mais equilibrada. “Assim como acredito que é importante realçar os riscos, também penso que não podemos menosprezar os pontos positivos.”

O perfil de Suleyman: um tecnológo e empresário “optimista por omissão”

“Regulação é essencial mas só por si não é suficiente”

Para este especialista a IA precisa de regulação e acredita que “a maioria das grandes empresas de [tecnologia] responsáveis vai receber bem essa regulação”. “Tornou-se claro que a tecnologia precisa disso.”

Sugere a adopção de um modelo que apelida de contenção. “Não é parar o desenvolvimento tecnológico ou os seus benefícios, mas sim garantir que a sociedade mantém um controlo forte em relação a essas questões. O objectivo é atingir um equilíbrio entre todos os bons elementos, com um programa abrangente de controlo e mitigação de risco.” O cofundador da DeepMind deixa várias sugestões, que vão desde auditorias até à realização de alianças ou à criação de uma Autoridade de Auditoria de IA, para aumentar a transparência no uso de modelos.

Na visão de Suleyman,“a regulação é essencial mas, por si só, não é suficiente”ou capaz de executar o modelo de contenção que defende. “O panorama inteiro [de IA] está a avançar muito depressa e a expandir-se a demasiados territórios para que a regulação seja uma espécie de bala mágica.” Faz questão de clarificar que “é um enorme defensor da regulação, mas que é preciso apoio”, já que a “segurança da IA está longe de ser um problema resolvido”.

 “Acho que precisamos de novos trabalhos sobre como auditar sistemas de IA e novas estruturas tanto para as empresas como para a governança internacional.” Considera também que são precisos mais “críticos a trabalhar do lado de dentro e não agir apenas depois dos factos consumados”.

Uma das críticas mais frequentes no panorama da IA está no facto de as empresas em destaque nesta área serem big tech, temendo-se que o poder da IA fique demasiado concentrado. Nomes como a Microsoft e a Google têm estado no pelotão da frente e as ligações que estabeleceram com as startups-estrela da área (OpenAI e Anthropic) já levantam dúvidas quando se fala de concorrência. Suleyman acredita que “a IA não vai continuar nas mãos das grandes tecnológicas”. “Vai difundir-se muito depressa”, realçando que já começam a ver-se sinais desse movimento: “Já estamos a ver que, com alguns modelos de código aberto, o que é tecnologia de ponta e extremamente cara num mês torna-se barata e amplamente acessível no seguinte. Por isso a ideia de que só as grandes empresas vão ter estes modelos e competências não é verdade.”

▲ Sam Altman, o CEO da OpenAI, e Mustafa Suleyman, fotografados numa sessão da Cimeira de Segurança da IA em 2023, organizada pelo Reino Unido BLOOMBERG VIA GETTY IMAGES

Em vários casos, os executivos das big tech têm sido chamados por governantes para discutir o tema da regulação. Até Suleyman já marcou presença em eventos do género, tanto na Europa como nos EUA. O agora chefe da Microsoft AI considera que “seria muito estranho se as big tech não tivessem um lugar à mesa” de discussão. “Ignorá-las ou excluí-las seria contraproducente do ponto de vista da contenção” que defende. O facto de as tecnológicas de grandes dimensões estarem envolvidas no debate pode resultar a sugestões de medidas que lhes sejam favoráveis?

É preciso o “equilíbrio certo de incentivos, cultura interna, investimentos internos e regulação externa”. Do ponto de vista de regulação, “tentar trabalhar sem qualquer contributo [destas empresas] seria como voar de forma cega”. O especialista em IA defende que “os governos precisam de ter recursos suficientes, com talento e capacidade para compreenderem e reagirem aos desenvolvimentos tecnológicos com a sua própria especialização”.

Os riscos e benefícios da IA “são mais compreendidos agora”. “É motivo para um grande optimismo”

Mesmo que os avisos sobre uma possível “catástrofe” da IA sejam sérios, Suleyman continua a considerar-se um optimista. Mas o facto de as consequências da IA “serem de uma forma crescente mais compreendidas e levadas a sério a um nível mais geral”, fora do mundo académico, é para ser celebrado.

Inevitavelmente, menciona o ChatGPT como um dos responsáveis. “Foi a tecnologia de consumo com o crescimento mais rápido da história”, frisa. Lançado em novembro de 2022, a ferramenta de IA generativa precisou de apenas uma semana para chegar a um milhão de utilizadores. “Ao longo de 18 meses a IA explodiu na consciência pública, vemo-la nos jornais, nas redes sociais, é discutida por legisladores e políticos. Está nos produtos que centenas de milhões de pessoas usam todos os dias”, exemplifica. “Por isso, nesse sentido, os riscos – e os benefícios – têm mais atenção e são mais compreendidos do que nunca. E isso é bom.”

Considera que toda a gente deve estar “super envolvida nesta transição”. Por agora, é um sinal positivo que, entre as várias abordagens diferentes, existam vários países a colocar a segurança da IA na agenda política. “Se me dissessem há dois ou três anos que a Casa Branca assinaria uma ordem executiva sobre IA eu ficaria muito surpreendido. A União Europeia tem sido obviamente uma líder e está a fazer um excelente trabalho, assim como os EUA e o Reino Unido.”

“É sempre difícil dizer como é que qualquer grande mudança de plataforma tecnológica se vai desenrolar, mas sinto que o mundo está muito mais preparado agora do que estava quando foi o primeiro lançamento.” Agora, existe “um público massivo e estão em curso respostas de governos e empresas. E isso é um motivo para um grande optimismo.”

INTELIGÊNCIA ARTIFICIAL     TECNOLOGIA     EMPRESAS     ECONOMIA     MICROSOFT

COMENTÁRIOS:

Maria da Graça de Dias: Um dos maiores perigos da IA serão os ataques cibernéticos.