Inserir David Mayer ou Jonathan Turley no ChatGPT resulta em uma mensagem de erro. Por quais motivos?
Bate-papoGPTBate-papoGPT ele está censurando ou está sofrendo de erroerro ? Neste fim de semana, vários usuários descobriram que o chatbot parece travar ou, pelo menos, bloquear a conversa com uma mensagem de alerta se você digitar “David Mayer” no prompt de comando.
De acordo com os testes realizados, mesmo que o nome esteja presente numa conversa, ou inserido num contexto, ocorre o mesmo resultado. Ainda mais fascinante, esse bloqueio também ocorre se pedirmos ao chatbot para ler o nome de trás para frente digitando: ‘reyam divad’. A Futura tentou o experimento, mas o ChatGPT esclareceu que não tinha uma resposta precisa, por falta de contexto. O fenômeno ocorre apenas nos Estados Unidos? De qualquer forma, esta manifestação alimenta discussões conspiratórias. Segundo eles, o David Mayer em questão seria censurado pela IA, porque seria David Mayer de Rothschild, o herdeiro dos banqueiros Rothschild. Uma família que é objeto de muitas teorias de conspiração antissemitas.
Perturbadoramente, David Mayer não é o único nome que causa o bloqueio do ChatGPT. O site 404media observa que as pessoas também notaram as mesmas mensagens de erro ocorrendo com outros nomes, como “Jonathan Zittrain” ou “Jonathan Turley”. Estes são proeminentes professores de direito americanos que escreveram vários artigos críticos ao ChatGPT e à IA.
O chatbot se vinga?
Futura tentou o experimento simplesmente digitando no prompt: “Jonathan Turley”. E, de fato, a mensagem de erro foi exibida. Então, como podemos explicar esse estranho fenômeno que alimenta as teorias da conspiração? Mesmo que isto seja menos verdade do que antes, o chatbot está habituado a “alucinações”. São respostas que ele inventa por probabilidade, quando na verdade não encontra nenhuma informação conclusiva.
No caso de David Mayer, é possível, conforme relata Justine Moore, pesquisadora de inteligência artificial, que esse nome faça parte de pedidos de “direito ao esquecimento” sob o Regulamento Geral de Proteção de DadosRegulamento Geral de Proteção de Dados (RGPD). Isso poderia levar a esse bloqueio que, na verdade, causaria um bug. O investigador conseguiu verificar esta teoria com outros seis nomes que implementaram este procedimento do direito ao esquecimento. Outras pessoas têm outra explicação. Este David Mayer seria bloqueado porque é o pseudónimo de um checheno, membro do Daesh.
Além dessas teorias, nada realmente ajuda a explicar por que esse bloqueio ocorre em determinados nomes. De momento, a OpenAI não comunicou qualquer razão para este fenómeno.
