Quanto mais coletivo é o dano, menos visível ele é e menos as pessoas estão protegidas contra ele. Quanto mais individual o dano, mais visível são seus impactos e mais pessoas são protegidas legalmente. Se uma pessoa é discriminada devido a características protegidas como idade, gênero ou etnia, isso ficará claramente visível para ela e espera-se que ela possa buscar reparações. Se, por outro lado, uma pessoa é discriminada devido à decisão de um algoritmo, tal situação pode não ser claramente visível e, portanto, é mais difícil se buscar algum tipo de reparação.

The more collective the harm, the less people are protected and the less visible it is. The more the harm is individual, the more visible its impacts are and the more people are legally protected. If a person is discriminated against because of protected characteristics such as their age, gender or ethnicity, it will be visible to them and they will hopefully be in a position to seek redress. When a person is discriminated against due to an algorithmic decision, it is likely to be less visible and, currently, hard to seek redress.

O seu perfil online parece mais uma caricatura sua do que um reflexo. Ele é moldado por empresas de tecnologia e anunciantes que fazem decisões chave baseados em suas interpretações de pontos de dados que, a princípio, parecem benignos.

Your online profile is less a reflection of you than a caricature. It is shaped by technology companies and advertisers who make key decisions based on their interpretation of seemingly benign data points.

This was such a treat to read and was quite interesting to imagine how as MyData community we can envision new imaginaries: "I suggest that these struggles and reactions are openings for thinking about different data futures through what I call an experiment in citizen data. It is an experiment that reconsiders relations between states, citizens and digital technologies in the production of data and statistics by imagining a new political subjectivity, that of the data citizen."

Essa foi uma leitura muito prazerosa e é muito interessante imaginar como nós, enquanto comunidade MyData, podemos vislumbrar novos imaginários: "Eu sugiro que essas disputas e reações são aberturas para se pensar sobre diferentes futuros de dados através daquilo que eu chamo de experimento com dados de cidadãos [citizen data]. É um experimento que reconsidera as relações entre Estados, cidadãos e tecnologias digitais na produção de dados e de estatísticas por meio da imaginação de uma nova subjetividade política, aquela dos dados de cidadãos".