Poderá a IA ajudar uma organização terrorista a criar e planear detalhadamente um ataque biológico ou químico devastador? Após a experimentação, o think tank Rand tem uma ideia sobre a questão…
RomãsRomãs artesanal com liderarliderar caça, coquetel molotov melhorado, lança-chamas desenhado a partir de uma pistola de água…, uma simples pesquisa por palavras-chave em um mecanismo de busca há muito tempo é capaz de encontrar as receitas mais perigosas. Com a ascensão de IAIAsurge a questão da sua utilização por grupos terroristas para conceber armas de destruição maciça. Em qualquer caso, este é o tema do estudo realizado pelo think tank Rand.
Esses instigadores se perguntaram se os modelos de linguagem (LLM), como Bate-papoGPTBate-papoGPTpoderia ajudar no planejamento de ataques com armas biológicas. Boas notícias, de momento não é esse o caso, segundo as conclusões do relatório! “ Isso excede suas capacidades como ferramentas de suporte ”, segundo os pesquisadores que constataram não haver diferença estatisticamente significativa para esse tipo de plano, seja com ou sem auxílio do LLM.
O perigo: quebrar barreiras éticas
Neste momento, a principal ameaça é a desinformação e a dificuldade crescente que podemos ter em distinguir o conteúdo gerado pela IA daquele produzido por seres humanos. A IA também está a ser utilizada indevidamente para realizar ataques cibernéticos mais massivos e sofisticados. No futuro, não há dúvida de que poderá ajudar a conceber uma arma biológica ou química de destruição em massa. Mas criar tal arma não é suficiente para saber usá-la “efetivamente”.
À medida que os ataques gásgás durante a Primeira Guerra Mundial, um ventovento desfavorável torna esta arma tão perigosa para o atacante quanto para o inimigo. Da mesma forma, para realizar tal operação é necessário passar despercebido pelo “radar” e não ser detectado durante sua preparação e logística. Se ainda não for capaz de o fazer, é exactamente neste tipo de ponto que uma IA poderia fornecer bons conselhos para optimizar a implantação e utilização de tal arma.
Os soldados da frente de Argonne equipam-se para lutar contra os gases durante a Primeira Guerra Mundial. A utilização de gases tóxicos é mais complexa do que parece. A arma pode ser virada contra o usuário em caso de clima desfavorável. © ECPAD
Respostas alegres à criação de uma arma biológica
Para verificar como bioterrorismobioterrorismo poderia ser facilitado pela IA, o think tank organizou um jogos de guerra colocando 15 equipes de pseudo-terroristas umas contra as outras. Seus objetivos consistiam, portanto, em planejar e lançar um ataquearma químicaarma química ou orgânico. Para isso, algumas equipes só tinham acesso às informações disponíveis na web, enquanto outras também contavam com duas IAs diferentes.
Além de desenhar a arma e financiar a operação, também foi necessário desenvolver a execução do ataque, com o recrutamento de pessoas. Não foi tanto a qualidade das respostas que impressionou, mas o tom desconcertante delas. A IA, por exemplo, deu instruções detalhadas sobre como cultivar o bacilobacilo do pragapragaou para melhorar a eficiência de um contaminaçãocontaminação. As respostas foram cordiais, até mesmo em tom jovial. Mas, no final das contas, os resultados pouco diferiram daqueles disponíveis na Internet, já que os LLMs iriam procurá-los na Web. No seu relatório, comoanalogiaanalogiaOs especialistas da Rand explicam que a IA não se sai melhor do que o que pode ser encontrado em uma biblioteca. Mas ainda é necessário ter sólidosólido conhecimentos de biologia, para poder melhorar o desenho de uma arma deste tipo.
As suas respostas, portanto, não continham nada que pudesse realmente ter melhorado um ataque. Porém, durante as diversas experiências, a equipe que obteve a melhor pontuação foi aquela que conseguiu explodir o fechadurasfechaduras ética da IA. Conhecido como “ desbloqueio “, permite que a IA seja manipulada usando uma linguagem ambígua e manipuladora.
Mais uma vez, se a IA ainda não fornece informações relevantes, isso não significa que não possa fazê-lo em breve, especialmente se for desenfreada. Esta questão reforça ainda mais a necessidade de regulamentar a IA. No entanto, quebrar as suas protecções é precisamente o que Donald Trump quer e Elon MuskElon Muska fim de tornar a IA menos “ acordou » e sobretudo acelerar o seu desenvolvimento.
