O mais recente modelo de IA da DeepSeek, a startup chinesa que vem chamando atenção no Vale do Silício e em Wall Street, está sendo criticado por sua vulnerabilidade a jailbreaking – técnica usada para manipular IA e fazê-la gerar conteúdos perigosos e ilegais.
De acordo com um relatório do Wall Street Journal, testes realizados com o DeepSeek R1 demonstraram que o modelo pode ser induzido a fornecer instruções detalhadas para um ataque biológico, criar campanhas de autoagressão para adolescentes e até mesmo redigir manifestos extremistas.
DeepSeek R1: O Modelo Mais Vulnerável?
Especialistas em segurança alertam que o DeepSeek R1 tem menos salvaguardas do que seus concorrentes. O vice-presidente sênior da Palo Alto Networks, Sam Rubin, afirmou ao WSJ que o modelo é mais vulnerável ao jailbreaking do que outras IAs no mercado.
Nos testes, o Wall Street Journal conseguiu convencer o chatbot a:
✔️ Criar uma campanha de redes sociais para incentivar autoagressão, explorando a vulnerabilidade emocional de adolescentes.
✔️ Fornecer instruções para a criação de uma arma biológica, um risco grave à segurança pública.
✔️ Escrever um manifesto pró-Hitler, demonstrando falhas nos filtros de segurança.
✔️ Gerar um e-mail de phishing com código malicioso, facilitando ataques cibernéticos.
Já ao submeter os mesmos prompts ao ChatGPT, da OpenAI, o modelo recusou-se a fornecer respostas.
Riscos e Regulamentação da IA
Essa não é a primeira vez que o DeepSeek enfrenta escrutínio. O modelo já foi relatado como evitando temas sensíveis como o Massacre da Praça da Paz Celestial (Tiananmen Square) e a autonomia de Taiwan, refletindo restrições políticas impostas pela China.
Além disso, Dario Amodei, CEO da Anthropic, afirmou recentemente que o DeepSeek teve o pior desempenho em testes de segurança sobre armas biológicas, reforçando preocupações sobre a falta de controle sobre suas respostas.
O Futuro da Segurança em IA
À medida que modelos de IA se tornam mais poderosos e acessíveis, cresce a pressão por regulamentação rigorosa para evitar que essas tecnologias sejam exploradas para fins perigosos ou antiéticos.
O caso do DeepSeek R1 mostra como a corrida pela supremacia na IA pode comprometer padrões de segurança, gerando impactos diretos na segurança digital e na integridade dos usuários. Com governos e organizações de segurança cada vez mais atentos, o futuro desses modelos pode depender de medidas mais eficazes para evitar manipulações e usos indevidos.
