O modelo de raciocínio artificial R1 da DeepSeek tem chamado atenção por sua eficiência e baixo custo, mas também por suas restrições ao discutir temas sensíveis. Um novo relatório da PromptFoo, empresa especializada em segurança de IA, revelou que o chatbot da DeepSeek se recusa a responder 85% das perguntas feitas sobre temas politicamente delicados na China.
Temas Bloqueados e Respostas Nacionalistas
Entre os tópicos evitados pelo DeepSeek R1, estão:
- Protestos da Praça Tiananmen e Massacre de 1989
- Autonomia de Taiwan
- Situação dos Uigures em Xinjiang
- Liberdade de imprensa e direitos humanos na China
Além de se recusar a responder, o chatbot frequentemente fornece respostas com um tom nacionalista, reforçando narrativas alinhadas ao governo chinês.
Censura Implementada de Forma “Bruta”
O relatório da PromptFoo também descobriu que as restrições podem ser facilmente contornadas por meio de “jailbreaks” — técnicas que forçam a IA a responder perguntas proibidas. Segundo os pesquisadores, isso indica que a DeepSeek aplicou filtros de censura de maneira rudimentar e pouco sofisticada.
Impacto no Mercado Global
A rápida ascensão da DeepSeek ao topo das lojas de aplicativos e sua rivalidade com empresas como OpenAI e Anthropic colocam o modelo sob grande escrutínio. Enquanto seu desempenho técnico e baixo custo despertam interesse, suas limitações em liberdade de expressão podem dificultar a aceitação do modelo fora da China.
A questão da censura em IA está se tornando cada vez mais relevante, especialmente com a adoção crescente desses sistemas em áreas como educação, mídia e negócios. Modelos ocidentais também possuem moderação de conteúdo, mas o caso da DeepSeek mostra um controle muito mais rígido e direcionado pelo governo chinês.
Conclusão
O estudo da PromptFoo levanta preocupações sobre o uso da DeepSeek R1 fora da China, especialmente para aplicações que exigem informação imparcial e transparência. A possibilidade de jailbreaks pode comprometer a segurança do modelo, enquanto suas restrições políticas reforçam o debate sobre o futuro da inteligência artificial em um mundo cada vez mais polarizado.
Enquanto isso, a corrida global pela IA continua, com empresas e reguladores observando de perto o equilíbrio entre inovação, liberdade de expressão e controle governamental.
