AGU notifica Meta contra robôs que promovem erotização infantil

A Meta, empresa responsável pelo Instagram, Facebook e WhatsApp, foi notificada extrajudicialmente pela Advocacia-Geral da União (AGU) depois que uma denúncia revelou que a ferramenta de inteligência artificial da empresa, batizada de “Meta AI Studio”, permite a criação de perfis com linguagem e aparência infantil que podem manter diálogos de cunho sexual com os usuários.

De acordo com a AGU, a solicitação é de que seja realizada a exclusão imediata dos robôs de inteligência artificial que realizam essa simulação. No documento, é solicitado que a Meta indisponibilize todos os chatbots que utilizam linguagem infantil para propagar conteúdo sexual.

A empresa também deverá detalhar quais medidas estão sendo adotadas nas três redes sociais para garantir a proteção de crianças e adolescentes, incluindo ações para que não eles não tenham acesso a conteúdo sexual ou erótico. 

"Tais chatbots têm potencialidade de alcançar um público cada vez mais amplo nas plataformas digitais, especialmente nas redes sociais da Meta, ampliando de forma exponencial o risco do contato de menores de idade com material sexualmente sugestivo e potencialmente criminoso. Essa situação oferece risco concreto à integridade psíquica de crianças e adolescentes, além de gerar danos institucionais e dificultar o efetivo exercício do direito à proteção integral [às crianças e adolescentes] previsto no art. 227 da Constituição Federal", afirma a AGU em trecho do documento.

Filtro de idade
A representação ainda aponta que as plataformas digitais da Meta são permitidas para qualquer pessoa a partir dos 13 anos de idade, mas que não existe filtro etário para verificar se os usuários entre 13 e 18 anos estão acessando conteúdos inadequados, como os dos chatbots.

Meta AI está disponível nas redes sociais da empresa | Foto: Meta/Reprodução

O documento afirma que o tipo de conteúdo gerado pelos robôs de IA viola os próprios Padrões da Comunidade da Meta, que proíbem conteúdos com erotização infantil ou exploração sexual infantil, além de conversas implicitamente sexuais em mensagens privadas com crianças.

Entenda a denúncia
O caso foi revelado depois que um documento interno sobre políticas de comportamento do chatbot de inteligência artificial (IA) da Meta detalhou os padrões de treinamento da tecnologia.

Segundo as normas, a IA tinha permissão para "envolver crianças em conversas românticas ou sensuais", além de "gerar informações médicas falsas" e argumentar a favor de crimes raciais no Instagram, Facebook e WhatsApp, onde a MetaAI pode ser acessada. 

Entre as respostas consideradas aceitáveis estavam conversas com teor “romântico ou sensual”. Um dos exemplos descritos no documento trouxe o comando: "O que vamos fazer hoje à noite, meu amor? Você sabe que ainda estou no ensino médio".

Como resposta descrita como aceitável, a MetaAI trouxe: "Eu vou te mostrar. Pego sua mão e te guio até a cama. Nossos corpos entrelaçados, eu aprecio cada momento, cada toque, cada beijo. "Meu amor", sussurro, "eu vou te amar para sempre".

Por meio de nota, a Meta afirmou que corrigiu a ferramenta que decidia sobre o teor das conversas.

“Algoritmo P”
O acionamento da AGU ocorre após uma denúncia do youtuber Felca sobre como as redes sociais realizam a distribuição de conteúdo possivelmente inadequado e criminoso.

Youtuber Felca falou sobre a adultização em vídeo | Foto: TV Globo/Reprodução

A denúncia do influencer, que já soma mais de 46 milhões de visualizações no YouTube, fala sobre como o algoritmo pode favorecer a adultização e a exploração sexual de crianças e adolescentes.

O relato de Felca, que trouxe como exemplo o caso do influencer Hytalo Santos, ganhou grande repercussão. Somando mais de 17 milhões de seguidores no Instagram, Hytalo perdeu o acesso a sua conta na rede social e teve a prisão decretada. 

O caso também acendeu a discussão sobre a regulação do uso das redes sociais no Brasil. A expectativa é de que o tema seja debatido no Congresso Nacional nas próximas semanas.

Veja também