O que diz a carta do príncipe Harry, Wozniak e Hinton contra a superinteligência artificial

Um grupo para lá de inusitado, composto por diversas personalidades e líderes globais, se juntou para fazer frente ao desenvolvimento desenfreado da “superinteligência” artificial — máquinas capazes de ultrapassar a capacidade humana em praticamente todas as tarefas cognitivas. 

• VEJA TAMBÉM: Rumo à independência financeira: ferramenta gratuita do Seu Dinheiro calcula quanto investir para viver de renda; confira

Por trás do pedido estão nomes como o príncipe Harry e sua esposa, Meghan Markle, além do ex-estrategista de Donald Trump, Steve Bannon, artistas, líderes religiosos e cientistas pioneiros em inteligência artificial (IA).

Ela é direcionada a big techs como Google, OpenAI e Meta, que competem para desenvolver modelos de IA cada vez mais potentes, segundo a agência de notícias Associated Press.

O que é a superinteligência artificial

A superinteligência, também chamada de inteligência artificial geral (AGI), descreve um estágio hipotético em que máquinas poderiam superar os seres humanos em todas as formas de raciocínio, criatividade e tomada de decisão.

Diferente da IA atual, usada em tarefas específicas como dirigir carros, recomendar músicas ou gerar textos, a superinteligência seria autônoma e autorreflexiva capaz de aprender, adaptar-se e se reprogramar sem intervenção humana.

O que diz a carta

O texto pede que o desenvolvimento de uma superinteligência seja suspenso até que haja consenso científico e político sobre formas seguras e controláveis de criação dessas tecnologias.

“Pedimos a proibição do desenvolvimento de superinteligência, que não será suspensa antes que haja amplo consenso científico de que ela será feita de forma segura e controlável e forte apoio público”, afirma o manifesto.

A carta reconhece que a IA pode trazer benefícios para a saúde, a produtividade e a prosperidade global, mas alerta que as empresas líderes do setor têm declarado como meta construir sistemas capazes de superar significativamente todos os humanos em praticamente todas as tarefas cognitivas.

Esse avanço, segundo o texto, poderia causar recessões, ampliar desigualdades, ameaçar liberdades civis e até colocar em risco a sobrevivência da espécie humana.

Quem assinou a carta contra a superinteligência artificial

Entre os mais de 800 signatários estão nomes de peso da tecnologia e da ciência:

• Geoffrey Hinton e Yoshua Bengio, vencedores do Prêmio Turing e considerados “padrinhos” da IA;
  
• Steve Wozniak, cofundador da Apple;
  
• Richard Branson, fundador do Virgin Group;
  
• Daron Acemoglu, economista e Nobel de 2024;
  
• Mary Robinson, ex-presidente da Irlanda;
  
• Andrew Yao e Ya-Qin Zhang, cientistas chineses;
  
• Susan Rice, ex-conselheira de segurança nacional do governo Barack Obama;
  
• Mike Mullen, ex-presidente do Estado-Maior Conjunto dos EUA;
  
• Além de figuras públicas como o príncipe Harry, Meghan Markle, Steve Bannon, Glenn Beck, Stephen Fry, Joseph Gordon-Levitt e o músico will.i.am.

Em nota pessoal divulgada à imprensa britânica, o príncipe Harry afirmou que “o futuro da IA deve servir à humanidade, não substituí-la”, e que “o verdadeiro teste do progresso será a sabedoria com que conduzimos esse avanço”.

O alerta dos cientistas sobre a superinteligência artificial

O presidente do Future of Life Institute, Max Tegmark, disse ao Financial Times que o maior perigo da corrida pela superinteligência é a falta de controle humano.

“Há uma infinidade de coisas que são superestimadas e você precisa ter cuidado como investidor, mas isso não muda o fato de que — olhando de forma mais ampla — a IA avançou muito mais rápido nos últimos quatro anos do que a maioria das pessoas previa”, disse Tegmark.

De acordo com pesquisa divulgada junto com a carta, apenas 5% dos norte-americanos apoiam o atual ritmo de desenvolvimento da IA sem regulação, enquanto 75% defendem leis mais rígidas.

Um déjà vu da era Musk

Em 2023, o mesmo instituto publicou uma carta semelhante, assinada por Elon Musk e outros executivos, pedindo uma pausa de seis meses no treinamento de modelos avançados de IA. 

Nenhuma grande empresa atendeu ao pedido e o próprio Musk criou logo depois sua startup de IA, a xAI.

Desta vez, Tegmark reconhece que dificilmente as gigantes do setor assinarão, mas espera que o novo manifesto pressione governos a impor limites claros.

“Sinceramente, eu realmente compreendo a situação deles, porque estão tão presos nessa corrida desenfreada que sentem uma pressão irresistível para continuar e não serem ultrapassados pelos outros”, disse.

A carta destaca que as ferramentas de IA podem transformar áreas como medicina, ciência e energia, mas pede uma discussão global sobre o papel da humanidade em um futuro dominado por sistemas autônomos.

“Não se trata de uma proibição ou mesmo de uma moratória no sentido usual”, escreveu outro signatário, Stuart Russell, pioneiro em IA e professor de ciência da computação na Universidade da Califórnia, em Berkeley. “É simplesmente uma proposta para exigir medidas de segurança adequadas para uma tecnologia que, de acordo com seus desenvolvedores, tem uma chance significativa de causar a extinção humana. É pedir demais?”