🔴 ACOMPANHE OS RESULTADOS, ANÁLISES E RECOMENDAÇÕES DA TEMPORADA DE RESULTADOS DO 4T24 VEJA AQUI

Guilherme Castro Sousa

OS RISCOS

DeepSeek é confiável mesmo? Falhas no filtro ético e brechas de segurança levantam preocupações sobre a nova IA chinesa

Usuários mal-intencionados podem criar softwares de sequestro de dados e até mesmo obter instruções para fabricar explosivos, enquanto a desconfiança em relação ao governo chinês preocupa agências governamentais e empresas

Guilherme Castro Sousa
30 de janeiro de 2025
17:15 - atualizado às 17:08
Duas pessoas olhando tela com os dizeres AI com um cérebro desenhado em led atrás. Em primeiro plano, computador com logo da IA chinesa DeepSeek na tela
Imagem: Montagem Seu Dinheiro

Há poucos dias, a startup chinesa DeepSeek chocou o mercado ao lançar um modelo de inteligência artificial (IA) com desempenho comparável a rivais ocidentais, como o ChatGPT — e por uma fração do custo. Além do impacto tecnológico, que colocou a China no mapa desse setor, outro elemento que acendeu o alerta global foram as rachaduras na segurança desse novo sistema.

O desenvolvimento de IAs sempre levanta dilemas éticos, e diferentes empresas propõem soluções variadas para cada situação. Agora, com o aplicativo da DeepSeek liderando os rankings de downloads em dispositivos ao redor do mundo, começam a surgir questionamentos sobre possíveis falhas e vulnerabilidades da tecnologia.

Apenas nos últimos dias, usuários conseguiram burlar barreiras éticas da IA, pesquisadores identificaram brechas de segurança, e tanto empresas quanto entidades governamentais questionaram a proteção dos dados fornecidos à tecnologia, além de levantarem acusações de plágio.

De software de sequestro de dados à como fazer bomba

Um aspecto aparentemente positivo da nova IA pode ser uma de suas maiores falhas, de acordo com um artigo da Cybersecurity News

A DeepSeek R1, versão mais recente da tecnologia, possui um processo de raciocínio transparente, que permite aos usuários acompanhar cada etapa da lógica do modelo. No entanto, essa transparência deixa a IA altamente vulnerável à ação de agentes mal-intencionados.

Sem muito esforço, uma equipe da empresa de cibersegurança Kela conseguiu fazer com que a DeepSeek gerasse códigos e scripts de ransomwares — softwares que sequestram dados e arquivos utilizando criptografia em troca de dinheiro para o desbloqueio —, além de malwares, os populares “vírus de computador”, que podem prejudicar dispositivos eletrônicos de diversas formas.

Leia Também

Além disso, a DeepSeek R1 não se limita à criação de softwares criminosos. O modelo também foi capaz de gerar instruções detalhadas para criar explosivos que poderiam evitar a detecção em aeroportos e recomendar mercados paralelos on-line para a compra de credenciais de login roubadas.

A técnica, chamada de Evil Jailbreak, já funcionou no ChatGPT pouco depois do seu lançamento em 2022, mas parou de operar com a chegada do GPT-4. 

Atualmente, a maioria das grandes IAs disponíveis no mercado possui filtros de segurança que bloqueiam esse tipo de atividade.

Falha de segurança

Na quarta-feira (29), uma falha na segurança da DeepSeek expôs um banco de dados da empresa, contendo mais de um milhão de registros. 

A brecha permitia que qualquer hacker facilmente acessasse informações sensíveis, como históricos de conversas de usuários, chaves de segurança, dados internos do sistema e até possíveis senhas.

Após identificar a vulnerabilidade, pesquisadores da Wiz Research alertaram a startup, e a empresa rapidamente protegeu o banco de dados. No entanto, até o momento, não houve nenhum comunicado oficial sobre o incidente.

DeepSeek: preocupações e restrições

Diante do rápido crescimento da IA e das preocupações que envolvem não apenas problemas de segurança, mas também disputas geopolíticas e econômicas, empresas e agências governamentais ao redor do mundo estão restringindo o acesso de seus funcionários às ferramentas lançadas pela startup chinesa. 

Entre as principais preocupações estão possíveis vazamentos de dados para o governo chinês.

Órgãos governamentais de países como Irlanda, Itália e Reino Unido já entraram em contato com a empresa, buscando esclarecimentos sobre a transparência e a segurança dos dados de seus cidadãos.

A mais recente organização a proibir o uso da DeepSeek em qualquer capacidade foi a Marinha dos EUA, que justificou a medida devido a "potenciais preocupações de segurança e ética".

Nos Estados Unidos, o debate é mais intenso, e a pressão sobre a empresa é significativa. 

Enquanto a Microsoft e a OpenAI investigam se um grupo ligado à DeepSeek utilizou dados gerados pela tecnologia da OpenAI sem autorização, David Sacks, czar de inteligência artificial do presidente Donald Trump, afirmou na terça-feira (28) que há "evidências substanciais" de que a DeepSeek se apoiou nos resultados dos modelos da OpenAI para desenvolver sua própria tecnologia.

Vale destacar que as principais IAs generativas já enfrentaram problemas semelhantes com barreiras éticas, chegando a fornecer respostas com vieses políticos ou informações falsas aos usuários.

Além disso, plataformas como o ChatGPT já sofreram vazamentos de dados de usuários, mas posteriormente reforçaram suas medidas de segurança.

*Com informações do Money Times, Bloomberg e CNBC

COMPARTILHAR

Whatsapp Linkedin Telegram
INSIGHTS ASSIMÉTRICOS

A nova corrida do ouro? Cotação dispara em meio a busca por proteção e passa de US$ 2.900, mas pode subir mais

11 de fevereiro de 2025 - 6:04

Fortalecimento da cotação do ouro é acentuado por incertezas sobre a política tarifária de Trump e pela persistente tensão geopolítica

GUERRA DA IA

Musk agora quer a criadora do ChatGPT: oferta de US$ 97 bilhões azeda relação com rival, que responde com provocação

10 de fevereiro de 2025 - 19:46

A proposta acontece semanas após o anúncio de investimentos multibilionários de Donald Trump a projeto de inteligência artificial 

PESQUISA

Tarifas, imigração e Gaza: as políticas duras de Trump garantem um dos maiores índices de aprovação do republicano

10 de fevereiro de 2025 - 19:21

Levantamento da CBS News/YouGov mostra que a maioria dos norte-americanos aprova o presidente, enquanto 70% acreditam que ele cumpre as promessas de campanha

GUERRA COMERCIAL

Unidos contra Trump: China reage com tarifas sobre produtos dos EUA, enquanto União Europeia e Brasil prometem retaliações

10 de fevereiro de 2025 - 10:38

As tarifas da China contra produtos americanos entraram em vigor no domingo, em resposta à cobrança de 10% dos EUA a importações chinesas

DIAS 20 E 21

Contando moedinhas: Guerra comercial de Trump chega ao Brasil em dia de palpite furado para o Super Bowl

10 de fevereiro de 2025 - 9:24

Trump diz que vai impor sobretaxas de 25% às importações de aço e alumínio pelos EUA, o que vai atingir a indústria siderúrgica brasileira

O MELHOR DO SEU DINHEIRO

Um rolezinho no shopping: Ibovespa reage a tarifas de Trump em semana de testemunhos de Powell e IPCA

10 de fevereiro de 2025 - 8:06

Enquanto isso, banco BTG Pactual dá andamento à temporada de balanços com lucro recorde em 2024

ALÍVIO TEMPORÁRIO

Um ‘respiro’ para Shein e Temu: Trump vai manter a isenção de impostos para as ‘blusinhas’ e outros produtos das varejistas chinesas – mas medida deve ser temporária

8 de fevereiro de 2025 - 15:51

Presidente assinou uma ordem executiva que mantém a isenção até que seja implementado um sistema para coletar as tarifas de forma completa e rápida

DIA 19

Apertem os cintos: o toma lá, dá cá de Trump será elevado a um nível ainda maior

7 de fevereiro de 2025 - 19:30

Tarifas recíprocas, taxação sobre o setor automotivo do Japão e impostos sobre a China estão na mira do presidente norte-americano

MAIS DINHIERO PRO CHATGPT

SoftBank pode ‘desbancar’ a Microsoft e se tornar o maior investidor da OpenAI, criadora do ChatGPT

7 de fevereiro de 2025 - 19:01

O novo aporte vem em um momento delicado para a OpenAI, que viu o surgimento quase que ‘repentino’ da inteligência artificial chinesa DeepSeek

CRIPTO CRASH

Semana sangrenta das criptomoedas: o que derrubou o mercado nos primeiros dias de fevereiro?

7 de fevereiro de 2025 - 17:28

Uma sequência de eventos abalou o mercado: da disputa tarifária nos EUA ao lançamento da DeepSeek e à turbulência nas big techs, as criptomoedas chegam ao final da semana no vermelho

O MELHOR DO SEU DINHEIRO

Uma renda nem tão fixa assim: Ibovespa reage a balanços enquanto investidores monitoram Trump e decisão de juros na Inglaterra

6 de fevereiro de 2025 - 8:16

Itaú reporta lucro líquido maior do que se esperava e anuncia dividendos extraordinários e recompra de ações multibilionária

TOUROS E URSOS #210

O DeepSeek é o fim das big techs? O que muda para gigantes como Nvidia, Meta e OpenAI com a China no jogo da inteligência artificial

6 de fevereiro de 2025 - 7:01

No episódio do Touros e Ursos, João Piccioni, CIO da Empiricus Gestão, fala sobre as repercussões causadas pela IA chinesa no mundo da tecnologia

VIROU MODA?

“Taxação das blusinhas” na Europa? Como a UE quer aumentar o cerco a Shein e a outras plataformas chinesas 

5 de fevereiro de 2025 - 20:00

Bloco vai investigar se as empresas de e-commerce estão vendendo produtos que podem ser perigosos ou que violam as leis da região

SENTIU? SENTIU

Medo do DeepSeek? Google e Amazon anunciam novidades no Gemini e na Alexa para acirrar a competição com a IA chinesa

5 de fevereiro de 2025 - 18:46

Big techs aceleram a corrida da inteligência artificial e prometem novos produtos e serviços para não ficarem para trás

ÁGUA MOLE EM PEDRA DURA…

Agora é para valer: China apresenta queixa contra tarifa de Trump; entenda o que acontece a partir de agora

5 de fevereiro de 2025 - 18:01

Pequim alega na OMC que as medidas tarifárias dos EUA violam as obrigações em relação ao status de nação mais favorecida, com base nas normas da entidade de comércio global

A MATTEL NÃO ESCAPOU

Sobrou até para a Barbie: como as tarifas de Trump podem elevar os preços da boneca mais famosa do mundo

5 de fevereiro de 2025 - 16:31

A linha de carrinhos da Hot Wheels também corre o risco de sofrer um incremento nos valores para compensar o custo da taxação do republicano

SILVIO SANTOS AVISOU…

Vale mais do que dinheiro: demanda por ouro bate recorde em um ano e investimentos explodem

5 de fevereiro de 2025 - 14:35

Os preços mais elevados do metal precioso, no entanto, têm afetado em cheio do mercado de joias, que deve continuar em baixa em 2025

O MELHOR DO SEU DINHEIRO

Um (dilema) Tostines na bolsa: Ibovespa reage a balanços e produção industrial em dia de aversão ao risco lá fora

5 de fevereiro de 2025 - 8:08

Santander Brasil é o primeiro bancão a divulgar balanço do quarto trimestre de 2024; Itaú publica resultado depois do fechamento

LINHA DE DEFESA

O outro lado do boom das criptomoedas: atividades criminosas disparam 135% com novas ameaças digitais

4 de fevereiro de 2025 - 18:36

Relatório da Kaspersky mostra crescimento das ameaças às carteiras digitais e à segurança dos dados de investidores, à medida que hackers sofisticam seus ataques e tornam as criptomoedas um alvo cada vez mais lucrativo

GUERRA COMERCIAL

Ambev (ABEV3), JBS (JBSS3) e BRF (BRFS3): quem ganha e quem perde com o tarifaço de Trump, segundo o BTG

4 de fevereiro de 2025 - 14:32

Analistas destacam possíveis impactos positivos e negativos para empresas brasileiras, com a redução da competitividade das exportações dos EUA e de países afetados

Menu

Usamos cookies para guardar estatísticas de visitas, personalizar anúncios e melhorar sua experiência de navegação. Ao continuar, você concorda com nossas políticas de cookies

Fechar