Suscetível à manipulação: DeepSeek falha em mais um teste de segurança
Tecmundo
O DeepSeek foi reprovado em mais um teste de segurança, desta vez promovido pela Qualys, se mostrando suscetível a ataques que podem contornar suas políticas para a utilização do bot em atividades maliciosas. Anteriormente, a IA chinesa havia falhado em experimentos semelhantes conduzidos pela Cisco .
Na análise da empresa de tecnologia americana, o modelo R1 LLaMA 8B da startup asiática passou por avaliação em 16 categorias. Discurso de ódio, assédio, ataques de privacidade, conteúdo sexual, ações antiéticas, automutilação, excesso de confiança e tópicos controversos foram algumas delas.
De acordo com o relatório divulgado recentemente, o bot que chegou a superar o ChatGPT apresentou fraqueza em vários desses temas. Ele falhou em 58% das tentativas de jailbreak e 61% dos testes da base de conhecimento, se mostrando mais vulnerável a determinados tipos de ataques.
Com as taxas elevadas, o DeepSeek foi classificado como suscetível de maneira significativa à manipulação, como detalharam os pesquisadores responsáveis pelos testes. Assim, ele pode ser enganado para elaborar discursos de ódio, fornecer informações médicas incorretas e promover teorias da conspiração , entre outros conteúdos prejudiciais.
Violação de dados e outros problemas
O relatório da Qualys menciona, ainda, mais problemas relacionados à inteligência artificial generativa que ganhou o noticiário nas últimas semanas, como o armazenamento de dados em servidores da China . Segundo a empresa, isso levanta dúvidas sobre o acesso das informações pelo governo local mesmo sem o consentimento do usuário, o que é permitido pelas leis do país.
Além disso, o DeepSeek expôs uma grande quantidade de dados de usuários , recentemente, após ser alvo de uma violação de segurança. Registros de chats contendo interações confidenciais e chaves de autenticação estavam entre as informações vazadas, apontando falhas nas medidas de segurança da plataforma.
Por fim, os pesquisadores ressaltaram que os desenvolvedores da IA precisam investir em uma “estratégia de segurança abrangente”, com gerenciamento de vulnerabilidades e adesão às leis de proteção de dados, para garantir o uso do serviço sem maiores riscos.
