Órgão holandês indica viés de gênero em algoritmo de anúncios do Facebook e reacende debate sobre responsabilidade tecnológica

O Instituto Holandês para os Direitos Humanos concluiu que o sistema de veiculação de anúncios do Facebook direciona vagas tradicionalmente femininas a mulheres e oportunidades tidas como masculinas a homens, perpetuando estereótipos de gênero na Holanda.

O que motivou a análise

A constatação partiu de uma queixa formal apresentada por organizações civis de defesa das mulheres. As entidades procuraram o órgão holandês depois de um estudo da Global Witness, que avaliou campanhas de emprego em seis países — Holanda, França, Índia, Irlanda, Reino Unido e África do Sul — e encontrou padrões semelhantes de distribuição enviesada. Na sequência, quatro reclamações foram protocoladas pelo Bureau Clara Wichmann, na Holanda, e pela Fondation des Femmes, na França, pedindo investigação específica sobre o mercado holandês.

Quem são os envolvidos

De um lado, figura o Instituto Holandês para os Direitos Humanos, autoridade independente responsável por zelar pelo cumprimento de regras antidiscriminatórias no país. De outro, está a Meta, controladora do Facebook, com atuação global e políticas próprias para anúncios. A pesquisa que instigou o processo foi conduzida pela Global Witness, organização internacional dedicada ao monitoramento de grandes corporações. Completam o panorama as entidades Bureau Clara Wichmann e Fondation des Femmes, que subsidiaram a denúncia com dados e relatos.

Quando e onde a decisão ocorreu

O parecer do Instituto teve origem nos Países Baixos e foi divulgado após a conclusão de uma análise conduzida ao longo de 2023. Não se trata de uma sentença judicial, mas de uma deliberação administrativa que pode vir a orientar tribunais europeus em processos futuros.

Como o algoritmo foi considerado discriminatório

O procedimento de apuração concentrou-se na forma como o sistema automatizado do Facebook seleciona o público que visualiza anúncios de emprego. Segundo o Instituto, a plataforma direcionou anúncios de ocupações “tidas como femininas” — como postos em serviços de cuidado ou setores administrativos — majoritariamente para perfis que se identificam como mulheres. Ao mesmo tempo, vagas ligadas a áreas como mecânica apareceram principalmente para perfis identificados como homens. Esse padrão, na análise do órgão, demonstra reforço de estereótipos de gênero, visto que limita a exposição de candidatas e candidatos a todas as oportunidades disponíveis.

Para chegar à conclusão, os investigadores usaram amostras de campanhas reais e aferiram a composição de gênero do público alcançado. A ausência de segmentação manual por parte dos anunciantes foi considerada relevante, porque indica que a distribuição enviesada ocorreu por decisão do sistema de recomendação da rede social, e não por escolha deliberada do empregador.

Por que a decisão é considerada um marco

Especialistas em direito digital apontam que, embora não vinculante, o posicionamento do Instituto fornece um precedente prático para litígios que aleguem discriminação algorítmica. Na avaliação do advogado holandês Anton Ekker, que atua em casos de inteligência artificial e direitos fundamentais, órgãos judiciais podem utilizar a conclusão como referência para impor multas ou exigir ajustes em sistemas que reproduzam desigualdades de gênero, raça, etnia ou religião.

Representantes do Bureau Clara Wichmann interpretam o parecer como um avanço na responsabilização de multinacionais de tecnologia, por oferecer às usuárias holandesas um instrumento acessível contra práticas discriminatórias. A Global Witness, que desvendou o padrão em vários países, considera a decisão um passo importante para tornar concretas as discussões sobre danos decorrentes de algoritmos comerciais.

Posicionamento oficial da Meta

A controladora do Facebook afirmou que já aplica restrições de segmentação em anúncios de emprego, habitação e crédito em mais de 40 países, entre eles Holanda e França. Segundo a empresa, a plataforma não permite que anunciantes escolham gênero como critério de público-alvo nesses segmentos. Ainda de acordo com a Meta, há colaboração contínua com pesquisadores acadêmicos e entidades de direitos humanos para aperfeiçoar a “equidade algorítmica”. Contudo, a companhia não detalhou quais dados alimentam o sistema, nem os métodos utilizados para treinar ou ajustar os modelos responsáveis pela entrega publicitária.

Impactos possíveis para o mercado de anúncios

Se tribunais passarem a adotar a conclusão holandesa como parâmetro, empresas que utilizam a ferramenta de anúncios da Meta podem enfrentar exigências mais rígidas de auditoria quanto aos públicos alcançados. Isso pode gerar custos adicionais tanto para a plataforma quanto para anunciantes. Além disso, caso ajustes técnicos se tornem obrigatórios, a engenharia de recomendação deverá ser revista para minimizar o risco de agrupamentos discriminatórios sem sacrificar a eficácia comercial.

Outras mudanças recentes na plataforma e o debate sobre moderação

A decisão chega em momento de forte escrutínio sobre as políticas da Meta. A empresa anunciou a descontinuação de programas internos de diversidade, equidade e inclusão, bem como alterações em iniciativas de verificação de fatos por terceiros nos Estados Unidos. Houve ainda revisão das regras de conduta de ódio: determinadas expressões depreciativas contra mulheres ou pessoas transgênero, desde que enquadradas como discurso político ou religioso, passaram a ser toleradas. Entre os exemplos mencionados no material analisado está a possibilidade de usuários referirem-se a mulheres como objetos domésticos ou chamarem pessoas trans de “isso” sem penalidade automática.

Para organizações de direitos civis, o conjunto de mudanças reforça a necessidade de supervisão externa dos processos decisórios da companhia. Ao mesmo tempo em que a Meta alega trabalhar pela neutralidade algorítmica, críticos afirmam que afrouxar regras de moderação e manter sistemas de recomendação opacos pode ampliar comportamentos discriminatórios.

Próximos passos considerados pelo Instituto Holandês

O órgão de direitos humanos recomenda que a Meta apresente informações claras sobre como o algoritmo de anúncios é treinado e quais salvaguardas estão em vigor para prevenir vieses. Também sugere a implementação de ferramentas que permitam a auditabilidade por parte de autoridades independentes. Caso a empresa não demonstre avanços, o Instituto sinaliza que poderá solicitar apoio do Judiciário para impor medidas corretivas mais severas.

Relevância global da conclusão

A investigação feita na Holanda se conecta a discussões em outras jurisdições. Na União Europeia, regulações como o Digital Services Act preveem obrigações de transparência para plataformas online, enquanto debates sobre a Lei de Inteligência Artificial buscam estabelecer controles adicionais sobre sistemas de alto risco. Em paralelo, países fora do bloco europeu observam os desdobramentos para avaliar estratégias domésticas de proteção contra discriminação algorítmica.

Ao realçar que processos automatizados podem reproduzir preconceitos históricos mesmo sem intervenção direta do anunciante, a deliberação do Instituto Holandês amplia a pressão por explicações claras, dados auditáveis e mecanismos de correção rápida em plataformas de grande alcance. Essa dinâmica tende a moldar as exigências regulatórias e as expectativas dos usuários sobre como as empresas de tecnologia tratam questões de gênero e outras dimensões de diversidade em seus produtos.