Segundo a empresa, a ferramenta favorecia usuários homens e brancos em vez de negros e mulheres, além de ter o que chamaram de “olhar masculino”, concentrando o recorte no peito ou nas pernas de mulheres. Twitter exclui algoritmo de recorte de imagem por viés contra minorias.
iStock
O Twitter informou nesta quarta-feira (19) que desabilitou um sistema automatizado de recorte de imagens após encontrar um viés contra minorias no algoritmo que controla o recurso.
Com este sistema, as imagens muito grandes geralmente são recortadas e os usuários precisam tocar sobre as fotos para vê-las por completo.
A plataforma de mensagens revelou que descobriu que o algoritmo fornecia “tratamento desigual com base em diferenças demográficas”, favorecendo usuários brancos e masculinos em vez de negros e mulheres, e um viés descrito como “olhar masculino”, que se concentrava no peito ou nas pernas de uma mulher.
A notícia chega um mês depois que o Twitter lançou uma iniciativa de equidade algorítmica como parte de um esforço para reduzir os vieses de automação em sua plataforma.
Twitter testa exibir imagens sem recortes na linha do tempo após queixas de racismo
Em 2018, o Twitter introduziu um algoritmo de relevância para o recorte de imagens, com o objetivo de melhorar a consistência do tamanho das fotos na linha do tempo e focar em seus elementos mais importantes.
Rumman Chowdhury, engenheiro-chefe de software do Twitter e especialista em ética e inteligência artificial, explicou que a empresa determinou após sua análise que é preferível deixar as decisões de recorte de imagem para os usuários.
“Nós consideramos as compensações entre a velocidade e a consistência do recorte automatizado com os riscos potenciais que vimos nesta pesquisa”, declarou em uma postagem de blog.
“Uma de nossas conclusões é que nem tudo no Twitter é um bom candidato para um algoritmo e, neste caso, a maneira como recortar uma imagem é uma decisão que as pessoas tomam melhor”, acrescentou.
Entenda o caso
O anúncio ocorre em meio a uma preocupação elevada com algoritmos avançados que podem fornecer resultados tendenciosos devido à falta de dados sobre minorias ou outros fatores.
A iniciativa do Twitter requer “assumir a responsabilidade” por decisões algorítmicas com o objetivo de “equidade e justiça de resultados”, de acordo com a empresa.
Um dos casos em que os usuários reclamaram deste algoritmo do Twitter aconteceu em setembro de 2020, perfis publicaram imagens com uma pessoa negra em uma ponta e uma pessoa branca na outra, invertendo a ordem em uma foto seguinte.
Antes de abrir a imagem completa, o algoritmo do Twitter mostrava a pessoa branca com mais frequência.
A rede social utiliza uma rede neural para realizar cortes automáticos nas prévias das fotos publicadas na plataforma desde 2018.
Uma rede neural é um modelo computacional que faz o reconhecimento de padrões.
No caso do Twitter, é utilizado um sistema que “prevê saliências em imagens para detectar pets, rostos, texto e outros objetos de interesse”.
Para realizar as previsões, esses sistemas são alimentados com bases de imagens para ensiná-los o que é um objeto de interesse.
Comentar