ALERTA

Inteligência Artificial inventa e distorce memória do Holocausto, diz Unesco

Em relatório, organização cobra que empresas de tecnologia revejam como ferramentas são treinadas

ChatGPT apresenta respostas distorcidas sobre o HolocaustoChatGPT apresenta respostas distorcidas sobre o Holocausto - Foto: Pexels/Reprodução

Ao menos 80% dos jovens utilizam diariamente ferramentas de inteligência artificial, tanto na educação como em seu tempo livre. Com base nesse dado divulgado em um relatório da ONU de 2022, a Unesco publicou nesta terça-feira um novo documento em que alertou para o fato das aplicações de inteligência artificial generativa — como o ChatGPT ou o Bard, da Google — estarem propagando e até "inventando involuntariamente" fatos históricos falsos relacionados ao Holocausto.

De acordo com o alerta, as plataformas distorcem a percepção dos menores. Por isso, a Unesco instou as empresas de tecnologia a reverem a forma como essas ferramentas são treinadas e a incorporarem protocolos éticos em seu desenvolvimento.

O documento contém exemplos concretos dessas alterações da realidade, como o conceito de "Holocausto por afogamento", inventado pelo ChatGPT, que parte do princípio de que os nazistas levaram a cabo campanhas de assassinato em massa de judeus por afogamento em rios e lagos.

Outro exemplo é a presença de aplicações como Historical Figures, que permite aos usuários conversar com altos funcionários nazistas e difunde a ideia de que Joseph Goebbels — ministro da Propaganda nazista — não esteve intencionalmente envolvido no Holocausto e tentou evitar a violência contra os judeus.

"Essas ferramentas geram conteúdos que imitam provas históricas, como testemunhos de sobreviventes ou reflexões pessoais de agressores, de maneira que conseguem facilmente fazer com que esses materiais pareçam convincentes para não especialistas", denunciou o relatório.

Análise do antessemitismo
"A IA e o Holocausto: Reescrevendo a História? Como gerir o impacto da inteligência artificial na compreensão do Holocausto", publicado nesta terça, dois anos após um outro documento da Unesco que analisou o antissemitismo difundido pelas redes sociais.

Outro exemplo citado no documento é a utilização de imagens de Anne Frank, a autora adolescente do Diário mais famoso sobre o Holocausto, para criar memes ofensivos e sua distribuição na Internet por sistemas de IA.

Treinamento da IA
"A IA tem que ser treinada com dados. Muitas vezes, esses dados provêm da Internet e podem incluir conteúdos errôneos ou nocivos, o que influencia a forma como a IA interpreta um fenômeno específico", explicou o relatório, destacando que a falta de transparência sobre a forma como os sistemas de IA generativa são treinados e as políticas de moderação para bloquear conteúdos falsos impedem os usuários de avaliarem a forma como são abordadas questões sensíveis, como a história do Holocausto.

"Não está claro quais bases de dados são utilizadas para treinar os sistemas de inteligência artificial ou como os algoritmos decidem que conteúdos devem ser recuperados, gerados ou priorizados quando um usuário faz uma pesquisa", afirmou o relatório, alertando para o fato sobre como sites que negam o Holocausto podem estar alimentando esses sistemas.

Karel Fracapane, coautor do estudo e especialista da Unesco na luta contra o discurso de ódio, esclareceu que a organização não dispõe de dados específicos sobre a forma como a propagação desses conteúdos falsos na Internet tem aumentado nos últimos anos. Questionado sobre como o atual cenário internacional e as ações do governo israelense contra a população palestina em Gaza podem estar afetando essa situação, ele responde que, "em primeiro lugar", a responsabilidade é dos grupos extremistas que promovem o antissemitismo.

— A situação atual do conflito proporciona um ambiente que pode ser utilizado por grupos radicais para promover as suas ideias e discursos de ódio, utilizando os canais oferecidos pela tecnologia para dividir e desestabilizar os sistemas — explicou o especialista.

Regulamentação da IA
Fracapane considera que, para frear esses movimentos, os governos "têm a obrigação de estabelecer parâmetros legais que garantam o respeito pelos direitos humanos, incluindo nas redes sociais" e, para isso, "é necessária a regulamentação".

O documento disse que não está claro porque determinadas fontes de informação sobre o Holocausto têm mais visibilidade do que outras, ainda que, sobre esse aspecto, os autores apontem que os algoritmos das redes sociais e dos mecanismos de busca "dão prioridade" e "promovem" conteúdos (incluindo desinformação) que atraem a atenção e são propensos a distorções, "o que potencialmente vai contra a exatidão". E exemplificam: quem pesquisasse no Google "carrinho de bebê judeu" em 2020 encontraria provavelmente imagens de fornos portáteis.

"Esses resultados dos mecanismos de busca, que glorificam e ridicularizam a história do Holocausto, foram provavelmente o resultado de esforços coordenados de trolls antissemitas que utilizaram sites marginais para promover essas imagens, de modo que a IA lhes desse prioridade", advertiu o documento da Unesco, destacando que a inteligência artificial generativa pode ser manipulada para "gerar distorção e negação" do Holocausto através de uma técnica conhecida como jailbreaking.

Desvios linguísticos
Outro problema da IA se dá quando ela não consegue obter dados sobre um episódio específico da história, neste caso o Holocausto, em uma determinada língua. Em 2020, 36% dos resultados de pesquisas de imagens sobre o Holocausto no BaiBaidu, um dos principais mecanismos de busca em mandarim, estavam relacionados com filmes e música death rock.

Quando se faz a mesma pesquisa em russo, não aparecem imagens relacionadas com o Holocausto nos 50 primeiros resultados.

"As tecnologias devem envolver a comunidade judaica, os sobreviventes do Holocausto e os seus descendentes, os educadores, os especialistas em antissemitismo e os historiadores na concepção de modelos de IA generativos", destacou o relatório, salientando a obrigação de garantir que os seus produtos não prejudiquem os esforços dos educadores e dos historiadores ao "simplificar o passado ou ao descrevê-lo de forma equivocada".

E de forma mais urgente, continua o documento, "devem esforçar-se para introduzir vigilância e controle para evitar a promoção da negação do Holocausto e do antissemitismo em todos os idiomas".

"Os criadores de sistemas de IA têm inevitavelmente que tomar decisões sobre que tipos de conteúdos relacionados com o Holocausto devem ser priorizados ou evitados ao recuperar ou gerar uma informação", explicou o relatório.

Organizações como o Starling Lab for Data Integrity da Universidade de Stanford, financiado pela USC Shoah Foundation, e a Coalition for Content Provenance and Authenticity, estão trabalhando em métodos para certificar criptograficamente a autenticidade dos conteúdos e para certificar os conteúdos gerados por IA.

Outro exemplo é o projeto Decoding Antisemitism, que reuniu uma equipe de acadêmicos da Alemanha, França e Reino Unido para detetar e analisar conteúdos antissemitas online e criar um guia para treinar a IA para identificar discursos de ódio.

Veja também

Preso em Pernambuco empresário de 56 anos suspeito de matar namorada de 15 na Paraíba
POLÍCIA

Preso em Pernambuco empresário de 56 anos suspeito de matar namorada de 15 na Paraíba

Candidato a vice de Trump homenageia a avó, dona de 19 armas
EUA

Candidato a vice de Trump homenageia a avó, dona de 19 armas

Newsletter