Fim da humanidade? Desenvolvimento da IA sem controle pode levar a um bilhão de mortes, diz Bill Gates

Os receios levantados pelo filme "Eu, Robô", em que uma inteligência artificial domina os robôs humanoides para controlar a humanidade, podem não ser tão ficcionais assim. Uma nova entrevista do Bill Gates acaba de aumentar os temores em relação ao desenvolvimento da tecnologia.

Depois que grandes executivos se juntaram para pedir um freio na expansão dessa ferramenta, foi a vez do cofundador da Microsoft e filantropo aumentar o coro.

Em entrevista ao canal NBC, ele declara que não adianta os próprios desenvolvedores criarem maneiras de manter a segurança da IA; esse controle precisa vir de fora. Uma tecnologia poderosa, sem essas regras e nas mãos de pessoas mal-intencionadas poderia levar a um bilhão de mortes, afirmou.

O bilionário pede que o governo norte-americano engrosse as leis regule o avanço da tecnologia. "Ninguém acredita que a autorregulação é o suficiente", declarou em conversa de cerca de 30 minutos.

Para ele, esse controle precisa ser obrigatório. "Haverá um pouco mais de custo e burocracia para a indústria, mas isso não representaria um atraso dramático no que ela está fazendo.”

Pensar no fim da humanidade liderada pelo mau uso da tecnologia não está restrito à ficção.

“A IA certamente é poderosa o suficiente para desencadear eventos que, você sabe, poderiam causar a morte de um bilhão de pessoas. Então, embora seja muito difícil chegar a 100% de certeza, nunca houve uma arma tão poderosa quanto a combinação de pessoas com más intenções utilizando as ferramentas de IA mais avançadas”, declarou.

Bill Gates se juta a Dario Amodei, Sam Altman e Elon Musk

Há algumas semanas, o CEO da OpenAI Sam Altman endossou publicamente o manifesto de seu maior rival, Dario Amodei, CEO da Anthropic, que pede um freio imediato na velocidade de evolução dos modelos de IA para salvar a humanidade de si mesma.

O CEO da SpaceX e da Tesla, Elon Musk, também endossou o grupo. Musk relembrou seus avisos de 2023, quando afirmou que a AGI (inteligência artificial geral) representa um risco significativamente maior do que armas nucleares.

• Leia também: “IA pode assumir controle da internet em até 12 meses”, alerta CEO da Anthropic

"A AGI é significativamente mais arriscada do que armas nucleares, na minha opinião. Humanos super inteligentes têm dificuldade em imaginar algo muito mais inteligente que eles mesmos", disse Musk na época.

As declarações vieram após um ex-funcionário que recentemente deixou a Anthropic, Jacob Coxon, afirmar publicamente que as companhias estão agindo de forma irresponsável, e que há um desejo de diminuir a velocidade da tecnologia para que o controle possa alcançá-la.

“As pessoas que estão construindo a IA realmente acreditam que ela pode matar todos nós até o fim da década”, acrescentou Coxon em uma série de publicações nas redes sociais e entrevistas naquela semana.

Karin Salomão

Jornalista formada pela Universidade de São Paulo (USP), com experiência em economia e negócios. Foi repórter na Exame e editora assistente no UOL Economia. Completou o Curso B3 de Mercado de Capitais para Jornalistas e Formadores de Opinião, em parceria com o Insper. Hoje, é editora assistente de empresas no Seu Dinheiro.