Twitter exclui algoritmo de recorte de imagem por viés contra minorias

Twitter - Lionel Bonaventure/AFP

A plataforma de mensagens revelou que descobriu que o algoritmo fornecia "tratamento desigual com base em diferenças demográficas", favorecendo usuários brancos e masculinos em vez de negros e mulheres, e um viés descrito como "olhar masculino", que se concentrava no peito ou nas pernas de uma mulher.

A notícia chega um mês depois que o Twitter lançou uma iniciativa de equidade algorítmica como parte de um esforço para reduzir os vieses de automação em sua plataforma.

Em 2018, o Twitter introduziu um algoritmo de relevância para o recorte de imagens, com o objetivo de melhorar a consistência do tamanho das fotos na linha do tempo e focar em seus elementos mais importantes.

Rumman Chowdhury, engenheiro-chefe de software do Twitter e especialista em ética e inteligência artificial, explicou que a empresa determinou após sua análise que é preferível deixar as decisões de recorte de imagem para os usuários.

"Nós consideramos as compensações entre a velocidade e a consistência do recorte automatizado com os riscos potenciais que vimos nesta pesquisa", declarou em uma postagem de blog.

“Uma de nossas conclusões é que nem tudo no Twitter é um bom candidato para um algoritmo e, neste caso, a maneira como recortar uma imagem é uma decisão que as pessoas tomam melhor”, acrescentou.

O anúncio ocorre em meio a uma preocupação elevada com algoritmos avançados que podem fornecer resultados tendenciosos devido à falta de dados sobre minorias ou outros fatores.

Esta semana, a Amazon anunciou que estava estendendo a proibição do uso de tecnologia de reconhecimento facial por agências de aplicação da lei em meio a temores de que suas falhas poderiam amplificar o preconceito racial.

A iniciativa do Twitter requer "assumir a responsabilidade" por decisões algorítmicas com o objetivo de "equidade e justiça de resultados", de acordo com a empresa.

Veja também

Se Congresso aprovar voto impresso, Guedes vai ter que arranjar verba para implantar, diz Bolsonaro
Brasil

Se Congresso aprovar voto impresso, Guedes vai ter que arranjar verba para implantar, diz Bolsonaro

Covid 19: Casos vão a 18.054.653 e mortes chegam a 504,7 mil
Boletim nacional

Covid 19: Casos vão a 18.054.653 e mortes chegam a 504,7 mil