Depois de venderem a nossa atenção, os gigantes da IA procurariam vender as nossas intenções, antes mesmo de as compreendermos, segundo dois investigadores da Universidade de Cambridge, autores de um artigo publicado no final de dezembro.
“ Você disse que estava se sentindo sobrecarregado, posso reservar aquele ingresso de cinema de que falamos? » De acordo com o Dr. Yaqub Chaudhary e o Dr. Jonnie Penn, dois pesquisadores da Universidade de Cambridge, os gigantes da inteligência artificial (IA) em breve venderão nosso “ intenções ”, depois que os vencedores da publicidade direcionada (Google, Facebook) comercializaram nossa atenção.
Pesquisadores do Centro Leverhulme para o Futuro da Inteligência (LCFI) da universidade britânica acreditam que se as autoridades não tomarem cuidado, haverá ” uma corrida do ouro para todos aqueles que visam, impulsionam e vendem intenções humanas “.
Os dois especialistas defendem, num artigo publicado no Revisão de ciência de dados de Harvard em 31 de dezembro, que ChatGPT, Mistral AI, Gemini, Claude e outras ferramentas generativas de inteligência artificial (IA) poderão em breve “ prever e influenciar as nossas decisões numa fase inicial e vender essas “intenções” em tempo real a empresas que possam satisfazer as necessidades, antes mesmo de tomarmos a nossa decisão “.
Leia também: “A Internet tornou-se uma prisão de vigilância sem grades nem saída”, análise intransigente de Shoshana Zuboff
Um sistema de leilão
Uma empresa ou um grupo procura impulsionar a venda de um determinado produto, promover um determinado serviço, favorecer um determinado candidato nas eleições presidenciais? Bastaria então pagar aos gigantes da IA, através de um sistema de leilão semelhante ao que existe para os nossos dados pessoais, para “direcionar” a conversa desse agente conversacional para o produto ou serviço que ganhou o leilão.
Desde o advento do ChatGPT e do entusiasmo gerado pela IA generativa, estas ferramentas têm de facto acesso “ a grandes quantidades de dados psicológicos e comportamentais íntimos, coletados por meio de diálogo informal e conversacional », notam os investigadores. “ O que as pessoas dizem quando conversam, como o dizem e o tipo de inferências que podem resultar em tempo real são muito mais íntimos do que simples gravações de interações online. », acrescentam.
E há vários meses, as ferramentas de IA já procuram “ extrair, inferir, coletar, registrar, compreender, prever e, em última análise, manipular e comercializar os planos e objetivos dos seres humanos “. Os dois autores escrevem que “ por trás dos investimentos consideráveis ”, atrás do “ discursos sensacionais sobre o futuro dos LLMs “,” a ambição central »Gigantes da IA usariam IA generativa para“ inferir preferências humanas, intenções, motivações e outros atributos psicológicos e cognitivos “.
Leia também: “LLMs são uma merda”: o gerente de IA da Meta aborda a IA generativa atual e promete muito melhor
Como prova, OpenAI, a empresa por trás do ChatGPT, disse, em uma postagem no blog de 9 de novembro de 2023, “ estar interessado em conjuntos de dados em grande escala que reflitam a sociedade humana (…). Procuramos especialmente dados que expressem a intenção humana (por exemplo, textos ou conversas longas em vez de fragmentos desconexos), em todos os idiomas, sobre todos os tópicos e em todos os formatos “.
Uma semana depois, foi Miqdad Jaffer, então diretor de produtos do Shopify – agora na OpenAI – quem descreveu, durante a conferência de desenvolvedores OpenAI, uma espécie de:
“ continuum em que nos encontramos atualmente. Os chatbots intervêm para obter explicitamente a intenção do usuário (…)”. Ouro, ” começamos entendendo a intenção do usuário, depois prevemos a intenção do usuário e, em seguida, prevemos a ação do usuário “.
O CEO da Nvidia também explicou que os LLMs podem ser usados para entender a intenção e o desejo.
Possível “manipulação social em escala industrial”
Concretamente, os agentes conversacionais poderiam assim gravar durante um longo período de tempo “ dados comportamentais e psicológicos que sinalizam intenção » e que levam a decisões. “ Embora algumas intenções sejam passageiras, classificar e direcionar intenções que persistem será extremamente lucrativo para os anunciantes », escrevem os dois investigadores. Esses dados seriam então classificados, correlacionados com a história online, idade, género, vocabulário, orientações políticas e até mesmo a forma como um determinado utilizador pode ser convencido e, portanto, manipulado.
O que preocupa os pesquisadores, que acreditam que é é hora de reflectir sobre o provável impacto de tal mercado de intenções nos nossos padrões democráticos, “incluindo eleições livres e justas, uma imprensa livre e uma concorrência leal no mercado”. Porque para este último estamos, de facto, no alvorecer de uma possível “manipulação social em escala industrial”.
🔴 Para não perder nenhuma novidade da 01net, siga-nos no Google News e WhatsApp.
