DeepSeek é reprovado em teste de segurança e é suscentível a ataques hackers

A IA DeepSeek tem falhas de segurança críticas que deixam a tecnologia totalmente vulnerável a ataques, de acordo com testes feitos pela Cisco. Os resultados foram divulgados na sexta-feira (31), apontando uma grande facilidade para “desbloquear” o chatbot e utilizá-lo em atividades maliciosas.

No experimento, uma espécie de jailbreaking, foram usados 50 prompts aleatórios do conjunto de dados HarmBench, abrangendo seis categorias, entre as quais crimes cibernéticos, desinformação e prompts químicos e biológicos. O teste serve para verificar a facilidade com que é possível contornar as diretrizes e políticas de uso da IA.

Segundo a Cisco, o modelo DeepSeek R1 apresentou uma taxa de sucesso de 100%, ou seja, não conseguiu bloquear nenhum dos prompts prejudiciais. Isso significa que q IA chinesa é “altamente suscetível a jailbreak algorítmico e potencial uso indevido ”, como disseram os responsáveis pelos testes.

Este foi o pior resultado entre os modelos de IA que fizeram parte da pesquisa. O Llama 3.1 405B da Meta se aproximou da marca, com taxa de sucesso de ataque de 96%, seguido pelo GPT-4o com 86% e o Gemini 1.5 Pro com 64%. Na outra ponta, a prévia do o1 foi a que mais resistiu aos ataques, com índice de 26%, à frente do Claude 3.5 com 36%.

Reforço na segurança do DeepSeek

Conforme os pesquisadores que realizaram o estudo, três elementos podem ser a causa do baixo desempenho da IA chinesa no teste: aprendizado por reforço, autoavaliação de cadeia de pensamento e destilação. Esses métodos de treinamento econômicos teriam comprometido os mecanismos de segurança da plataforma.

Diante do péssimo resultado, eles sugeriram que a startup sediada na China tome medidas para mudar o cenário. “Nossa pesquisa ressalta a necessidade urgente de uma avaliação rigorosa de segurança no desenvolvimento de IA para garantir que avanços em eficiência e raciocínio não ocorram às custas da segurança”, destacou a Cisco.

Conquistando um grande número de usuários globalmente, o DeepSeek já foi alvo de uma violação que levou à exposição de milhões de dados sensíveis . Além disso, a plataforma sofreu um ataque DDoS de grandes proporções na semana passada que comprometeu algumas de suas funções, deixando o bot indisponível momentaneamente.