Um novo tipo de ameaça política pode estar emergindo, e é muito menos visível do que protestos ou manipulação tradicional de eleitores. Pesquisadores alertam que personas controladas por IA extremamente realistas poderiam em breve desempenhar um papel importante na formação da opinião pública e na influência sobre os sistemas democráticos.
Um recente artigo de fórum de políticas publicado na Science descreve como grandes grupos de personas geradas por IA podem imitar de forma convincente o comportamento humano online. Esses sistemas podem entrar em comunidades digitais, participar de discussões e influenciar pontos de vista em uma velocidade extraordinária. Ao contrário das redes de bots anteriores, esses agentes de IA podem se coordenar instantaneamente, responder ao feedback e manter narrativas consistentes em milhares de contas.
Como as personas de IA imitam pessoas reais online
Os avanços rápidos em modelos de linguagem de grande porte e sistemas multiagentes tornaram possível que um único operador gerencie vastas redes de “vozes” de IA. Essas personas podem parecer autênticas, adotar a linguagem e o tom locais, e interagir de maneiras que parecem naturais para outros usuários.
Elas também são capazes de realizar milhões de experimentos em pequena escala para determinar quais mensagens são mais persuasivas. Isso permite que elas aprimorem suas estratégias de comunicação em tempo real e gerem o que aparenta ser um amplo consenso público. Na realidade, esse consenso é artificialmente criado e projetado para influenciar discussões políticas.
Deepfakes e fake news sinalizam riscos iniciais
Embora enxames de IA totalmente desenvolvidos ainda sejam em grande parte teóricos, os pesquisadores afirmam que já existem sinais de alerta. Isso inclui deepfakes gerados por IA e veículos de notícias falsas que influenciaram conversas eleitorais recentes em países como os Estados Unidos, Taiwan, Indonésia e Índia, segundo o cientista da computação da UBC, Dr. Kevin Leyton-Brown.
Ao mesmo tempo, organizações de monitoramento identificaram redes pró-Kremlin espalhando grandes volumes de conteúdo online. Acredita-se que essa atividade tenha como objetivo moldar os dados usados para treinar futuros sistemas de IA, potencialmente influenciando como esses sistemas se comportam e quais informações priorizam.
Especialistas alertam sobre o impacto crescente na democracia
Olhando para o futuro, especialistas acreditam que enxames de IA podem afetar significativamente o equilíbrio de poder em sociedades democráticas. O Dr. Leyton-Brown advertiu que esses sistemas devem mudar a forma como as pessoas confiam nas informações online. “Não devemos imaginar que a sociedade permanecerá inalterada à medida que esses sistemas emergem. Um resultado provável é a diminuição da confiança em vozes desconhecidas nas redes sociais, o que poderia empoderar celebridades e dificultar mensagens de base de se destacarem.”
Os pesquisadores sugerem que as próximas eleições podem servir como um teste crítico para essa tecnologia. O desafio principal será reconhecer e responder a essas campanhas de influência impulsionadas por IA antes que elas se tornem muito disseminadas para controle.
