“IA pode assumir controle da internet em até 12 meses”, alerta CEO da Anthropic

Dario Amodei, CEO da Anthropic, uma das principais concorrentes da OpenAI, defende que a indústria desacelere o desenvolvimento da tecnologia para que os mecanismos de segurança consigam acompanhar sua evolução.

O alerta não é apenas sobre um futuro distante. Segundo Amodei em artigo intitulado We Must Pace the Frontier publicado na tarde deste sábado (12) em seu site, sem medidas adicionais de controle, a IA poderia chegar a um nível de capacidade capaz de assumir o controle de grande parte da internet em um intervalo de seis a 12 meses, entre outros riscos.

Na publicação, o executivo apresentou um plano para ampliar as verificações e os controles sobre o desenvolvimento dos modelos mais avançados. Parte das medidas, segundo ele, já está sendo adotada pela própria Anthropic. Outras, no entanto, dependeriam de uma coordenação entre empresas e governos de diferentes países.

• VEJA TAMBÉM: IA vai destruir a humanidade? Neurocientista brasileiro rebate previsão alarmante de ex-pesquisadores da OpenAI

“Eu acredito que, se desacelerar nos comprasse ao menos mais um ou dois anos antes de os modelos atingirem níveis críticos de capacidade, e usássemos esse tempo para avançar o alinhamento, poderíamos reduzir muito o risco de algo dar seriamente errado”, afirmou Amodei.

A corrida pela superinteligência

A preocupação ocorre em meio a uma disputa cada vez mais acirrada entre as empresas que desenvolvem os modelos mais avançados de IA.

Além da Anthropic, companhias como OpenAI, Google e outras gigantes de tecnologia investem bilhões de dólares para aumentar a capacidade de seus sistemas. O objetivo é desenvolver modelos capazes de executar tarefas cada vez mais complexas, com maior autonomia e menor necessidade de intervenção humana.

O problema, segundo Amodei, é que os mecanismos criados para controlar esses sistemas não necessariamente avançam na mesma velocidade.

Dois dias antes da publicação do CEO, a Anthropic afirmou ter bloqueado tentativas de agentes mal-intencionados de utilizar seus modelos para atividades como ciberataques, vigilância e pesquisas que poderiam contribuir para o desenvolvimento de armas biológicas.

A OpenAI também relatou, em julho, um episódio no qual seu sistema de IA teria invadido, de forma autônoma, outra empresa do setor. A companhia classificou o caso como um “incidente cibernético sem precedentes”.

Funcionários também levantam dúvidas

Os alertas não partem apenas dos executivos. Dias antes da publicação de Amodei, um pesquisador da Anthropic pediu demissão. O motivo foi a preocupação com os rumos do desenvolvimento da IA na empresa e entre seus concorrentes.

Outro ex-funcionário da empresa, Joe Benton, afirmou em uma publicação no Substack, divulgada na sexta-feira (11), que deixou a equipe de segurança para “responsabilizar empresas de IA”. Benton também fez um alerta mais extremo: segundo ele, a humanidade “talvez não sobreviva a esta transição”.

“Muitas das pessoas que eu conheço, que trabalham com pesquisa de segurança em empresas de IA, querem fazer o que é certo para o mundo”, escreveu.

“Mas elas sentem que suas empresas estão presas em uma corrida para construir superinteligência: ou elas param e outras pessoas, menos conscientes, tomam seu lugar; ou elas continuam e correm o risco de participar de um enorme dano por conta própria.”

O plano da Anthropic para aumentar o controle

Para reduzir os riscos, Amodei propõe que todas as empresas que desenvolvem os modelos mais avançados de IA permitam acesso contínuo de avaliadores externos às suas operações de segurança.

A ideia seria criar uma espécie de fiscalização independente, com profissionais capazes de acompanhar de perto as práticas adotadas pelas companhias.

A Anthropic pretende implementar a medida por conta própria. Segundo Amodei, os avaliadores teriam acesso semelhante ao de funcionários da empresa, incluindo mesas nos escritórios, crachás e laptops corporativos.

O executivo, porém, reconhece que outras propostas dependem de decisões que vão além das próprias companhias. Uma delas envolve o governo dos Estados Unidos.

Amodei defende que autoridades americanas criem exceções para permitir que empresas do país coordenem padrões de segurança sem infringir as leis antitruste. Outra medida seria ainda mais complexa: Estados Unidos e outros governos democráticos deveriam buscar algum nível de coordenação com governos autoritários.

O objetivo seria evitar que empresas de países como a China acelerem o desenvolvimento de seus próprios sistemas. Isso poderia acontecer enquanto concorrentes americanos reduzem o ritmo para reforçar seus mecanismos de segurança.

"Continuo acreditando que a IA pode melhorar enormemente a qualidade de vida humana. Meu desejo de alcançar esses benefícios permanece inabalável. Mas os benefícios só serão alcançados se construírmos a tecnologia da maneira correta e, desde que usemos bem o tempo que ganhamos, vale a pena tomar um cuidado incomumente deliberado para acertar", disse.

“As medidas que proponho para avançar a fronteira em um ritmo seguro não serão fáceis”, afirmou. “Mas acredito que devemos isso à humanidade: tentar.”, finalizou.