Investigadores de Stanford: as ferramentas de recrutamento com IA discriminam 26% dos candidatos negros

A Stanford HAI (Stanford Human-Centered AI) publicou em junho o maior estudo empírico até à data sobre algoritmos de recrutamento com IA, e descobriu que 26% dos candidatos negros e 15% dos candidatos asiáticos tiveram, nos cargos a que se candidataram, sistemas de triagem por IA que discriminam grupos raciais de acordo com a definição da “regra dos 4/5” da Comissão para a Igualdade de Oportunidades no Emprego (EEOC), sendo o grupo mais favorecido, em regra, os candidatos brancos.

O estudo acompanha 3,4 milhões de candidatos, 4 milhões de candidaturas, abrangendo 150 empregadores e 11 setores

O estudo abrange 3,4 milhões de candidatos, 4 milhões de candidaturas, 1.700 vagas, 150 empregadores e 11 setores, sendo o maior estudo empírico sobre algoritmos de recrutamento com IA atualmente no mundo. O grupo de controlo inclui 108 empresas da Fortune 500 e 83.000 candidaturas; estas empresas não utilizam triagem por IA, e o fenómeno de rejeição sistemática total quase não existe no grupo de controlo.

A regra dos 4/5 da EEOC estabelece que, se a taxa de recomendação de um grupo for inferior a 80% da taxa do grupo com a recomendação mais alta, isso constitui um limiar jurídico de “impacto adverso”. O estudo, com base neste critério, aponta que, se as recomendações fossem feitas numa proporção equitativa para candidatos negros e asiáticos, mais 40.000 candidaturas seriam avançadas para a fase de revisão por humanos.

O estudo revela ainda o “mecanismo de ocultação” dos números da discriminação: se se calcular a taxa de recomendação de todas as vagas misturadas numa média geral, a discriminação quase desaparece — por exemplo, um dado sistema de IA pode preferir recomendar candidatos negros para cargos de logística e armazenamento, mas não recomendar cargos financeiros; quando somados e convertidos numa média, os valores aproximam-se do patamar de equidade. Só ao decompor a análise por vaga e por grupo é que a discriminação se torna visível.

Problema de concentração algorítmica: 90% dos empregadores norte-americanos usam triagem por IA, e a Workday enfrenta uma ação coletiva

Em quatro empresas que utilizam o mesmo fornecedor de IA, 10% dos candidatos chegaram a concorrer a estas quatro empresas, mas foram rejeitados por todas; no grupo de controlo, em que não é utilizada triagem por IA, este fenómeno praticamente não existe. Os investigadores atribuem isso a uma “cultura algorítmica única”: o mesmo conjunto de algoritmos carrega os enviesamentos para centenas de empresas, excluindo sistematicamente certos grupos de candidatos do mercado de trabalho inteiro, e os candidatos, em geral, não têm conhecimento algum.

Os investigadores identificaram três características de risco elevado já existentes em ferramentas de triagem por IA:

Adesão generalizada (Pervasively Adopted): cerca de 90% dos empregadores nos EUA já usam na sua fase de recrutamento

Alta relevância e consequências (Highly Consequential): determinam diretamente se o candidato avança para a revisão por humanos

Opacidade para o público (Opaque): os candidatos não têm forma de saber se foram excluídos por algoritmos, e os empregadores também podem não controlar o desempenho real da ferramenta em diferentes categorias de vagas

As ferramentas de triagem por IA da Workday enfrentam atualmente uma ação coletiva, com acusações que abrangem discriminação por raça, idade e deficiência.

A Lei de IA do Colorado entra em vigor em junho; o padrão de “devida diligência” ainda não está clarificado

A Lei de IA do Colorado entra em vigor formalmente em junho de 2026 e é, neste momento, uma das poucas legislações estaduais nos EUA com requisitos de conformidade claramente definidos para ferramentas de recrutamento com IA. Exige que os criadores adotem medidas de “devida diligência” para prevenir a discriminação. Ainda assim, o conteúdo concreto da “devida diligência” e os mecanismos de aplicação precisam de ser definidos.

A equipa de investigação afirma que um pré-requisito para estudos deste tipo é o acesso a dados, e que os dados de recrutamento são muitas vezes controlados por fornecedores e empregadores. A equipa acrescenta ainda que, em 2026, os recém-licenciados se deparam com um dos ambientes de emprego mais difíceis dos últimos anos: o volume de candidaturas a vagas de entrada nas empresas é 3 vezes superior ao de 2022, e a taxa de utilização de ferramentas de triagem por IA aumenta em simultâneo.

Perguntas frequentes

O que é a “regra dos 4/5” da EEOC, e como é que este estudo a usa para identificar discriminação?

A regra dos 4/5 estabelece que, se a taxa de recomendação de um grupo for inferior a 80% da taxa do grupo com a recomendação mais alta, isso atinge um limiar legal de “impacto adverso”. O estudo da Stanford HAI aplica este critério para decompor e analisar os dados de triagem por IA por vaga e por grupo: em 26% das candidaturas de candidatos negros e em 15% das candidaturas de candidatos asiáticos, o sistema de IA discrimina de acordo com a definição acima relativamente ao grupo a que pertencem.

Porque é que a discriminação no recrutamento com IA tem sido difícil de identificar no passado?

A “desaparição” estatística da discriminação é a principal razão. Ao calcular a média agregada misturando a taxa de recomendação de todas as vagas, a IA pode apresentar, em determinadas vagas, taxas de recomendação mais elevadas para um tipo de cargo e mais baixas para outro tipo, anulando-se mutuamente; a média global acaba por aproximar-se do patamar de equidade. O estudo da Stanford HAI permite ver a discriminação “a partir dos números” através de análises mais detalhadas por vaga e por grupo.

Quais são as exigências concretas da Lei de IA do Colorado para ferramentas de recrutamento com IA?

A Lei de IA do Colorado entrou em vigor em junho de 2026 e exige que os criadores de ferramentas de recrutamento com IA adotem medidas de “devida diligência” para prevenir a discriminação, sendo uma das poucas leis estaduais sobre recrutamento com IA já implementadas. Os critérios concretos de “devida diligência” e os respetivos mecanismos de aplicação, porém, ainda precisam de ser clarificados pelas autoridades competentes.