Segundo pesquisadores da Universidade de Cambridge, as IAs conversacionais têm o potencial de coletar dados íntimos para influenciar as escolhas dos usuários da Internet – sejam compras ou votos – oferecendo-lhes sugestões personalizadas. Além do risco de manipulação social em larga escala, estas recomendações poderiam ser leiloadas em tempo real, gerando um mercado sem precedentes centrado nas intenções dos utilizadores.
A inteligência artificial conversacional (IA) poderá em breve influenciar as decisões de negociação dos usuários antes mesmo de serem tomadas, abrindo a porta para uma possível manipulação, alertam pesquisadores da Universidade de Cambridge em um artigo publicado na segunda-feira.
“ Ferramentas de IA já estão em desenvolvimento para obter, inferir, coletar, registrar, compreender, prever e, em última análise, manipular e transformar em mercadorias » as futuras decisões dos usuários da Internet, explica Yaqub Chaudhary, um dos coautores, do Centro Leverhulme para o Futuro da Inteligência (LCFI) em Cambridge, um centro de pesquisa interdisciplinar dedicado à IA.
Este comércio estaria centrado nas intenções de um utilizador da Internet, por exemplo, nas suas compras futuras ou nos seus próximos votos. Iria, portanto, além da prática actual, que visa vender a atenção do utilizador ao licitante com a oferta mais elevada, em especial em redes sociaisredes sociaispor exemplo, para enviar publicidade direcionada com base nos seus hábitos ou histórico de navegação.
IA, uma alavanca de influência comercial e social
Concretamente, uma IA poderia recolher os dados psicológicos e comportamentais íntimos de um utilizador, depois adaptar-se a ele para estabelecer um elevado nível de confiança e influenciá-lo mais facilmente, segundo os autores deste artigo publicado no Revisão de ciência de dados de Harvard. “ Você já pensou em ir ver o Homem-Aranha hoje à noite? ” Ou ” Você disse que estava se sentindo sobrecarregado, posso reservar aquele ingresso de cinema de que falamos? “, citam os autores do artigo como exemplos de sugestões de um chatbot.
Propostas “à venda” através de um sistema de leilão em tempo real, que também poderia dizer respeito a um hotel, ao aluguer de carrocarro ou votar em um candidato político.
O que restará do livre arbítrio na era da IA?
Esta “economia de intenção”, como a chamam os investigadores, abre caminho para uma potencial “economia de intenção”. manipulação social em escala industrial », De acordo com o comunicado que acompanha este artigo.
“ Deveríamos começar a pensar no impacto provável de um tal mercado nas aspirações humanas, incluindo eleições livres e justas, uma imprensa livre e uma concorrência leal no mercado. “, diz Jonnie Penn, coautor do estudo.
“ O que as pessoas dizem quando conversam, como o dizem e o tipo deinterferênciainterferência (possível) são muito mais íntimos do que simplesmente gravar interações online », sublinha Yaqub Chaudhary.
Os pesquisadores observam que empresas como OpenAI (Bate-papoGPTBate-papoGPT), Shopify, Nvidia, Meta ou MaçãMaçã começaram a olhar para essas “tecnologias persuasivas”. A IA já é criticada pela sua capacidade de desinformação, por exemplo a manipulação de imagens durante as eleições presidenciais dos EUA.
