DeepSeek é confiável mesmo? Falhas no filtro ético e brechas de segurança levantam preocupações sobre a nova IA chinesa
Usuários mal-intencionados podem criar softwares de sequestro de dados e até mesmo obter instruções para fabricar explosivos, enquanto a desconfiança em relação ao governo chinês preocupa agências governamentais e empresas
Há poucos dias, a startup chinesa DeepSeek chocou o mercado ao lançar um modelo de inteligência artificial (IA) com desempenho comparável a rivais ocidentais, como o ChatGPT — e por uma fração do custo. Além do impacto tecnológico, que colocou a China no mapa desse setor, outro elemento que acendeu o alerta global foram as rachaduras na segurança desse novo sistema.
O desenvolvimento de IAs sempre levanta dilemas éticos, e diferentes empresas propõem soluções variadas para cada situação. Agora, com o aplicativo da DeepSeek liderando os rankings de downloads em dispositivos ao redor do mundo, começam a surgir questionamentos sobre possíveis falhas e vulnerabilidades da tecnologia.
- LEIA MAIS: Meta de até 4.900% de lucro com o ‘GPT das criptomoedas’: conheça ativo que surfa a inteligência artificial e pode te enriquecer em 2025
Apenas nos últimos dias, usuários conseguiram burlar barreiras éticas da IA, pesquisadores identificaram brechas de segurança, e tanto empresas quanto entidades governamentais questionaram a proteção dos dados fornecidos à tecnologia, além de levantarem acusações de plágio.
De software de sequestro de dados à como fazer bomba
Um aspecto aparentemente positivo da nova IA pode ser uma de suas maiores falhas, de acordo com um artigo da Cybersecurity News.
A DeepSeek R1, versão mais recente da tecnologia, possui um processo de raciocínio transparente, que permite aos usuários acompanhar cada etapa da lógica do modelo. No entanto, essa transparência deixa a IA altamente vulnerável à ação de agentes mal-intencionados.
Sem muito esforço, uma equipe da empresa de cibersegurança Kela conseguiu fazer com que a DeepSeek gerasse códigos e scripts de ransomwares — softwares que sequestram dados e arquivos utilizando criptografia em troca de dinheiro para o desbloqueio —, além de malwares, os populares “vírus de computador”, que podem prejudicar dispositivos eletrônicos de diversas formas.
Leia Também
Warren Buffett enriquece US$ 22,5 bilhões em 2025 e ultrapassa Bill Gates — estratégia conservadora se prova vencedora
Ainda sobe antes de cair: Ibovespa tenta emplacar mais uma alta após decisões do Fed e do Copom
Além disso, a DeepSeek R1 não se limita à criação de softwares criminosos. O modelo também foi capaz de gerar instruções detalhadas para criar explosivos que poderiam evitar a detecção em aeroportos e recomendar mercados paralelos on-line para a compra de credenciais de login roubadas.
A técnica, chamada de Evil Jailbreak, já funcionou no ChatGPT pouco depois do seu lançamento em 2022, mas parou de operar com a chegada do GPT-4.
Atualmente, a maioria das grandes IAs disponíveis no mercado possui filtros de segurança que bloqueiam esse tipo de atividade.
Falha de segurança
Na quarta-feira (29), uma falha na segurança da DeepSeek expôs um banco de dados da empresa, contendo mais de um milhão de registros.
A brecha permitia que qualquer hacker facilmente acessasse informações sensíveis, como históricos de conversas de usuários, chaves de segurança, dados internos do sistema e até possíveis senhas.
Após identificar a vulnerabilidade, pesquisadores da Wiz Research alertaram a startup, e a empresa rapidamente protegeu o banco de dados. No entanto, até o momento, não houve nenhum comunicado oficial sobre o incidente.
- VEJA TAMBÉM: Quais são as melhores ações para investir em 2025? E-book gratuito mostra as perspectivas da Empiricus Research, Trígono Capital e BTG Pactual
DeepSeek: preocupações e restrições
Diante do rápido crescimento da IA e das preocupações que envolvem não apenas problemas de segurança, mas também disputas geopolíticas e econômicas, empresas e agências governamentais ao redor do mundo estão restringindo o acesso de seus funcionários às ferramentas lançadas pela startup chinesa.
Entre as principais preocupações estão possíveis vazamentos de dados para o governo chinês.
Órgãos governamentais de países como Irlanda, Itália e Reino Unido já entraram em contato com a empresa, buscando esclarecimentos sobre a transparência e a segurança dos dados de seus cidadãos.
A mais recente organização a proibir o uso da DeepSeek em qualquer capacidade foi a Marinha dos EUA, que justificou a medida devido a "potenciais preocupações de segurança e ética".
Nos Estados Unidos, o debate é mais intenso, e a pressão sobre a empresa é significativa.
Enquanto a Microsoft e a OpenAI investigam se um grupo ligado à DeepSeek utilizou dados gerados pela tecnologia da OpenAI sem autorização, David Sacks, czar de inteligência artificial do presidente Donald Trump, afirmou na terça-feira (28) que há "evidências substanciais" de que a DeepSeek se apoiou nos resultados dos modelos da OpenAI para desenvolver sua própria tecnologia.
Vale destacar que as principais IAs generativas já enfrentaram problemas semelhantes com barreiras éticas, chegando a fornecer respostas com vieses políticos ou informações falsas aos usuários.
Além disso, plataformas como o ChatGPT já sofreram vazamentos de dados de usuários, mas posteriormente reforçaram suas medidas de segurança.
*Com informações do Money Times, Bloomberg e CNBC
COMPARTILHAR
Ibovespa acima de 130 mil pela primeira vez em 3 meses: o que dá fôlego para a bolsa subir — e não é Nova York
Além de dados locais, o principal índice da bolsa brasileira recebeu uma forcinha externa; o dólar operou em queda no mercado à vista
O rugido do leão: Ibovespa se prepara para Super Semana dos bancos centrais e mais balanços
Além das decisões de juros, os investidores seguem repercutindo as medidas de estímulo ao consumo na China
Agenda econômica: Super Quarta vem acompanhada por decisões de juros no Reino Unido, China e Japão e a temporada de balanços segue em pleno vapor
Além dos balanços e indicadores que já movimentam a agenda dos investidores, uma série de decisões de política monetária de bancos centrais ao redor do mundo promete agitar ainda mais o mercado
R$ 3 milhões por um apê de 25m², mão-inglesa e liberdade relativa: como é Hong Kong vista de perto
Hong Kong é da China ou é independente? Como funciona na prática o lema “um país, dois sistemas” e quais os problemas sociais e econômicos da Região Administrativa Especial colonizada pela Inglaterra até 1997
Bolsa em disparada: Ibovespa avança 2,64%, dólar cai a R$ 5,7433 e Wall Street se recupera — tudo graças à China
Governo chinês incentiva consumo e uso do cartão de crédito, elevando expectativas por novos estímulos e impulsionando o mercado por aqui
Contradições na bolsa: Ibovespa busca reação em dia de indicadores de atividade no Brasil e nos EUA
Investidores também reagem ao andamento da temporada de balanços, com destaque para o resultado da Casas Bahia
Computação na nuvem pode gerar lucro de até US$ 1,2 trilhão para as empresas nos próximos anos — ETF do setor entra no radar do BTG Pactual
Apesar de o segmento estar crescendo, não são todos os ETFs que brilham na bolsa, mas há um fundo que chamou a atenção do banco de investimentos
As Sete Magníficas viraram as Sete Malévolas: Goldman Sachs corta projeções para a bolsa dos EUA
O banco reduziu as previsões para o S&P 500, o índice mais amplo da bolsa de Nova York, citando preocupações com o grupo formado por Amazon, Alphabet, Apple, Meta, Microsoft, Nvidia e Tesla
Sem exceções: Ibovespa reage à guerra comercial de Trump em dia de dados de inflação no Brasil e nos EUA
Analistas projetam aceleração do IPCA no Brasil e desaceleração da inflação ao consumidor norte-americano em fevereiro
A bolsa americana já era? Citi muda estratégia e diz que é hora de comprar ações da China
Modelo do banco dispara alerta e provoca mudança na estratégia; saiba o que pode fazer o mercado dos EUA brilhar de novo
A lua de mel do mercado com Trump acabou? Bolsa de Nova York cai forte e arrasta Ibovespa com o temor de recessão no radar
Saiba o que fazer com os seus investimentos; especialistas dizem se há motivo para pânico e se chegou a hora de comprar ou vender ativos nos EUA
Essa nova tecnologia chinesa muda tudo o que sabemos até agora sobre inteligência artificial — e não é o DeepSeek
Criada pela startup chinesa Monica, a nova IA está disponível apenas para convidados no momento
Hegemonia em disputa: Ibovespa tenta manter bom momento em semana de IPCA, dados de emprego nos EUA e balanços
Temporada de balanços volta a ganhar fôlego enquanto bolsas têm novo horário de funcionamento, inclusive no Brasil
A batalha da China está longe do fim — e a primeira deflação em mais de um ano é um sinal disso
O índice de preços ao consumidor (CPI, na sigla em inglês) da China caiu 0,7% em fevereiro em relação ao mesmo período do ano passado, invertendo o aumento de 0,5% visto em janeiro
O gigante acordou e não está para brincadeira: China incendeia guerra comercial com tarifa de 100% — mas alvo não é Trump
As medidas ocorrem em meio a uma guerra comercial global em andamento, após vários anúncios de tarifas por EUA, China, Canadá e México nos últimos meses
Mata-mata ou pontos corridos? Ibovespa busca nova alta em dia de PIB, medidas de Lula, payroll e Powell
Em meio às idas e vindas da guerra comercial de Donald Trump, PIB fechado de 2024 é o destaque entre os indicadores de hoje
Estas duas empresas brasileiras podem lucrar com a guerra comercial entre EUA e China — e este bancão recomenda comprar as ações
Na avaliação do Santander, outras empresas do mesmo setor podem se beneficiar indiretamente com a troca de tarifas entre Trump e Xi Jinping
Quando você é o técnico: Ibovespa busca motivos para subir em dia decisão de juros do BCE
Além do BCE, os investidores seguem de olho nas consequências da guerra comercial de Donald Trump
Rodolfo Amstalden: Na esperança de marcar o 2º gol antes do 1º
Se você abre os jornais, encontra manchetes diárias sobre os ataques de Donald Trump contra a China e contra a Europa, seja por meio de tarifas ou de afrontas a acordos prévios de cooperação
China não quer pisar no freio: país asiático mantém meta de crescimento do PIB ‘em torno de 5%’, mesmo com guerra comercial de Trump
Anúncio da meta veio junto ao de diversos estímulos fiscais, através da emissão de títulos públicos
