Chatbot do X que usa IA espalhou informações falsas sobre as eleições, dizem autoridades dos EUA

Cinco estados dos EUA enviaram uma carta aberta a Elon Musk nesta segunda-feira pedindo que ele faça ajustes no chatbot de IA da rede social X, após a ferramenta compartilhar informações incorretas sobre a próxima eleição presidencial no país.

A carta foi publicada no momento em que pesquisadores expressam preocupação de que o site seja um foco de desinformação política, enquanto Musk — que apoiou Donald Trump — parece estar influenciando os eleitores antes das eleições de novembro ao espalhar notícias falsas em sua conta pessoal, que tem quase 193 milhões de seguidores.

 

Horas depois que o presidente Joe Biden renunciou à corrida presidencial no mês passado e apoiou a vice-presidente Kamala Harris como candidata democrata, o chatbot chamado Grok divulgou informações falsas sobre os prazos de votação, que foram amplificadas por outras plataformas.

"Estamos pedindo que você implemente imediatamente mudanças no [...] Grok para garantir que os eleitores tenham informações precisas neste ano eleitoral crítico", dizia a carta.

A carta foi assinada pelos secretários de estado de Minnesota, Pensilvânia, Michigan, Washington e Novo México. Em alguns estados americanos, esses oficiais são responsáveis por supervisionar as eleições. O chatbot disse erroneamente aos usuários que o prazo final para votação havia passado em nove estados. A mensagem efetivamente implicava que Harris não era elegível para substituir Biden na votação.

"Isso é falso. Em todos os nove estados o oposto é verdadeiro", dizia a carta. "As cédulas não estão fechadas, e os próximos prazos de votação permitirão mudanças nos candidatos listados na cédula para os cargos de presidente e vice-presidente dos Estados Unidos."

Procurado, o X não respondeu ao pedido de comentário da AFP. A carta acrescentou que o Grok continuou a repetir essas informações falsas — que foram amplificadas por várias postagens, alcançando milhões de pessoas — por mais de uma semana, até serem corrigidas em 31 de julho.

"Enquanto dezenas de milhões de eleitores nos EUA buscam informações básicas sobre como votar neste importante ano eleitoral, o X tem a responsabilidade de garantir que todos os eleitores que usam sua plataforma tenham acesso a orientações que reflitam informações verdadeiras e precisas sobre seu direito constitucional de votar", dizia a carta.

No que é amplamente anunciado como a primeira eleição de IA dos Estados Unidos, em novembro, pesquisadores alertam que a desinformação habilitada por IA pode ser usada para manipular eleitores, alimentando tensões em um ambiente já hiperpolarizado.

Na semana passada, Musk enfrentou uma enxurrada de críticas por compartilhar com seus seguidores um vídeo deepfake de IA com Harris. Nele, uma narração imitando Harris chama Biden de senil antes de declarar que ela "não sabe nada sobre como governar o país".

O vídeo, visto por milhões de usuários, não tinha nenhuma indicação de que era uma paródia -- exceto por um emoji rindo. Só mais tarde Musk esclareceu que o vídeo era para ser uma sátira. Pesquisadores expressaram preocupação de que os espectadores pudessem ter concluído falsamente que Harris estava se ridicularizando e manchando Biden.

O X, que, segundo pesquisadores, reduziu os esforços de moderação de conteúdo e restabeleceu contas antes banidas de conhecidos disseminadores de desinformação, também enfrentou críticas por atiçar tensões durante recentes protestos de extrema-direita na Inglaterra.

No domingo, Musk gerou novas críticas por postar que "a guerra civil é inevitável" em resposta a outro usuário que atribuiu os tumultos aos "efeitos da migração em massa e das fronteiras abertas".

Veja também