Quando os algoritmos discriminam


Os programas de computador podem discriminar? Existe a crença de que a tecnologia está livre dos preconceitos que existem na nossa sociedade, mas afinal parece que não é bem assim.

O software que corre em computadores e sistemas informáticos do mundo inteiro é construído por homens e mulheres que trazem consigo, mesmo que involuntariamente, as suas experiências pessoais e a forma como vêem o mundo.

O mesmo acontece com os algoritmos que aprendem por si próprios, porque aprendem com os padrões de comportamento dos humanos.

Um entre outros exemplos é fornecido num ensaio que versa o que acontece quando os filtros do Instagram são utilizados em tons de pele mais escuros.Foram construídos seguindo um único padrão, esquecendo a diversidade de tons de pele que existe no mundo.

Texto: Vasco Napoleão

Aprofundar

When Algorithms Discriminate (Claire Cain Miller/The New York Times): The online world is shaped by forces beyond our control, determining the stories we read on Facebook, the people we meet on OkCupid and the search results we see on Google. Big data is used to make decisions about health care, employment, housing, education and policing. But can computer programs be discriminatory?

The Quiet Racism of Instagram Filters (Morgan Jerkins/Racked): Instagram users can choose from over 20 filters, but as subjects, we don’t have a choice in how our images are processed once a filter is in place. In the name of enhancing or beautifying our photos, filters inevitably alter our appearances beyond recognition.