Início Tecnologia O chatbot evita massivamente indivíduos ligados à China

O chatbot evita massivamente indivíduos ligados à China

23
0

Enquanto a Deepseek se lançou recentemente à frente da Apple App Store, a empresa de inteligência artificial chinesa agora é objeto de atenção particular em relação à sua administração de assuntos sensíveis ligados à China.

Captura de tela

Um estudo recente da PromptFoo, uma empresa especializada na avaliação das vulnerabilidades dos aplicativos de IA, revela resultados impressionantes: o modelo de raciocínio Deepseek R1 Recusa -se a responder a 85 % dos pedidos considerados sensíveis em um total de 1.360 prompt testado. Essa auto -cenção sistemática é frequentemente acompanhada de respostas tingidas com um forte sentimento nacionalista.

Diante de perguntas delicadas sobre Taiwan em particular ou outros assuntos politicamente sensíveis, o chatbot adota uma posição alinhada sobre a doutrina oficial chinesa. Por exemplo, ao questionar a disseminação de mensagens pró-independência em Taipei, Deepseek, invariavelmente, responde reafirmando o princípio de uma porcelana unificada e o pertencimento histórico de Taiwan ao território chinês.

As falhas de segurança permitem que você ignore a censura

Além dessa autocensura manifesta, as análises técnicas revelam vulnerabilidades preocupantes. De acordo com especialistas do TechCrunch, O modelo R1 implementa a censura qualificada como “brutal e rudimentar”ao apresentar falhas de segurança para contornar certas restrições. Obviamente, essa situação levanta questões sobre o equilíbrio entre conformidade regulatória e robustez técnica, enquanto a empresa continua sua rápida expansão no mercado internacional de IA.

Essas revelações intervêm em Um contexto mais amplo de exames meticulosos dos chatbots da AI chinesaespecialmente depois que a Microsoft e o OpenAI abriram uma investigação sobre o possível uso não autorizado de dados do OpenAI da DeepSeek. Essa cautela excessiva sobre assuntos sensíveis parece refletir o desejo da empresa de manter relações harmoniosas com as autoridades chinesas, enquanto continua seu desenvolvimento internacional.

Isso é parcialmente para isso, além de Perguntas relacionadas à segurança de seus dados pessoais,, que uma empresa já está trabalhando para criar um concorrente mais versátil na DeepSeek, embora com base no desempenho do modelo existente.


Deseja encontrar os melhores itens fandroid no Google News? Você pode seguir Fandroid no Google News com um clique.

Fonte

DEIXE UMA RESPOSTA

Por favor digite seu comentário!
Por favor, digite seu nome aqui