Die Stanford HAI (Stanford HAI) für Human-Centered Artificial Intelligence Research veröffentlichte im Juni bisher die bislang größte Praxisstudie zur KI-Rekrutierungsalgorithmik und fand heraus, dass in 26% der von schwarzen Bewerbern eingereichten Anträge und in 15% der von asiatischstämmigen Bewerbern eingereichten Anträge die KI-Filterungssysteme eine Diskriminierung aufweisen, die nach der Definition der „Vier-Fünftel-Regel“ der US Equal Employment Opportunity Commission (EEOC) fällt; die am meisten bevorzugte Gruppe sind in der Regel weiße Bewerber.
Studie verfolgt 3,4 Millionen Bewerber, 4 Millionen Bewerbungen und umfasst 150 Arbeitgeber aus 11 Branchen
Die Untersuchung umfasst 3,4 Millionen Bewerber, 4 Millionen Bewerbungen, 1.700 Stellen, 150 Arbeitgeber und 11 Branchen und ist damit derzeit die weltweit größte Praxisstudie zu KI-Rekrutierungsalgorithmen. Die Kontrollgruppe bestand aus 108 Fortune-500-Unternehmen sowie 83.000 Bewerbungen; diese Unternehmen setzten keine KI-Filterung ein, und systematisches vollständiges Ablehnen ist in der Kontrollgruppe nahezu nicht zu beobachten.
Die EEOC „Vier-Fünftel-Regel“ legt fest, dass eine Gruppe einen rechtlichen Schwellenwert für „nachteilige Auswirkungen“ erreicht, wenn ihre Einstufungs- bzw. Weiterleitungsrate unter 80% der höchsten Einstufungs- bzw. Weiterleitungsrate einer Gruppe liegt. Die Studie weist anhand dieses Standards darauf hin, dass bei einer fairen Quote für die Weiterleitung schwarzer und asiatischstämmiger Bewerber mehr als 40.000 Bewerbungen in die Phase der menschlichen Prüfung gelangen könnten.
Die Studie zeigt außerdem eine „digitale Verbergungsmechanik“ der Diskriminierung: Wenn die Weiterleitungsraten aller Stellen für eine Gesamt-Mischrechnung gemittelt werden, verschwindet die Diskriminierung in den Zahlen nahezu — zum Beispiel bevorzuge ein bestimmtes KI-System zwar die Empfehlung schwarzer Bewerber für Jobs im Lager- und Logistikbereich, empfehle aber keine Finanzstellen; die addierte und gemittelte Gesamtkennzahl liege dann nahe am Fairness-Referenzwert. Nur wenn man die Analyse stellenweise und gruppenweise aufschlüsselt, tritt die Diskriminierung klar zutage.
Algorithmische Konzentrationsprobleme: 90% der US-Arbeitgeber nutzen KI-Filter, Workday steht vor Sammelklage
In vier Unternehmen, die denselben KI-Anbieter nutzen, entsprechen 10% der Bewerber, die bei allen vier Unternehmen identisch eingereicht haben, keiner einzigen dieser Stellen und werden überall abgelehnt; in der Kontrollgruppe, die keine KI-Filterung verwendete, kommt dieses Phänomen nahezu nicht vor. Die Forschenden führen dies auf eine „algorithmische Einheitskultur“ zurück: Dieselbe KI-Algorithmen-Bias wird gleichzeitig bei Hunderten von Unternehmen eingesetzt, wodurch bestimmte Gruppen von Bewerbern im gesamten Arbeitsmarkt systematisch ausgeschlossen werden — und Bewerber davon in der Regel überhaupt nichts wissen.
Die Forschenden identifizierten drei bereits bestehende Hochrisiko-Eigenschaften von KI-Filtertools:
Weit verbreitet eingesetzt (Pervasively Adopted): Etwa 90% der US-Arbeitgeber nutzen KI bereits in ihren Recruiting-Prozessen
Hochfolgenreich (Highly Consequential): Bestimmt direkt, ob Bewerber in die Phase der menschlichen Prüfung gelangen können
Für die Öffentlichkeit intransparent (Opaque): Bewerber können nicht erkennen, ob sie durch den Algorithmus herausgefiltert wurden, und Arbeitgeber wissen möglicherweise ebenfalls nicht, wie das Tool in verschiedenen Kategorien von Stellen tatsächlich abschneidet
Das KI-Filtertool von Workday steht derzeit vor einer Sammelklage; der Vorwurf umfasst Diskriminierung aufgrund von Rasse, Alter und Behinderung.
Der Colorado AI Act tritt im Juni in Kraft, der Standard für „angemessene Sorgfalt“ ist noch nicht klar
Der Colorado AI Act tritt im Juni 2026 offiziell in Kraft. Er ist damit derzeit eines der wenigen US-Bundesstaatengesetze mit klaren Compliance-Anforderungen speziell für KI-Recruiting-Tools. Das Gesetz verpflichtet Entwickler, „angemessene Sorgfalt“-Maßnahmen zu ergreifen, um Diskriminierung zu verhindern. Was „angemessene Sorgfalt“ im Detail umfasst und wie die Umsetzung erfolgt, muss jedoch noch ausgearbeitet werden.
Das Forschungsteam weist darauf hin, dass derartige Studien nur dann zustande kommen können, wenn die Daten beschafft werden können; Rekrutierungsdaten werden häufig von Anbietern und Arbeitgebern kontrolliert. Zudem wird darauf hingewiesen, dass angehende Absolventen im Jahr 2026 vor einem der schwierigsten Beschäftigungsmärkte der letzten Jahre stehen: Die Bewerbungszahlen für Einstiegsstellen in Unternehmen liegen bei dem 3-fachen Niveau von 2022, und der Anteil der Nutzung von KI-Filtertools steigt parallel.
Häufige Fragen
Was ist die EEOC „Vier-Fünftel-Regel“, und wie wurde damit in dieser Studie Diskriminierung festgestellt?
Die „Vier-Fünftel-Regel“ besagt, dass eine Gruppe den rechtlichen Schwellenwert für „nachteilige Auswirkungen“ erreicht, wenn ihre Einstufungs- bzw. Weiterleitungsrate unter 80% der höchsten Einstufungs- bzw. Weiterleitungsrate einer Gruppe liegt. Die Stanford HAI-Studie zerlegt die KI-Filterdaten anhand dieses Standards stellenweise und gruppenweise. Dabei zeigt sich, dass in 26% der von schwarzen Bewerbern eingereichten Anträge auf Stellen und in 15% der von asiatischstämmigen Bewerbern eingereichten Anträge die KI-Systeme eine Diskriminierung aufweisen, die unter die oben genannte Definition fällt.
Warum war Diskriminierung durch KI-Recruiting bislang schwer zu erkennen?
Der Kern dafür ist das statistische „Verschwinden“ der Diskriminierung. Wenn man die Weiterleitungsraten aller Stellen zusammenmischt und im Durchschnitt betrachtet, heben sich bei KI zwei gegenläufige Effekte — eine höhere Weiterleitungsrate bei bestimmten Stellen und eine niedrigere Weiterleitungsrate bei anderen — gegenseitig auf, sodass der Gesamtmittelwert nahe am Fairness-Referenzwert liegt. Erst durch die feingliedrige Analyse stellenweise und gruppenweise lässt die Stanford HAI-Studie die Diskriminierung aus den Zahlen hervortreten.
Welche konkreten Vorgaben macht der Colorado AI Act für KI-Recruiting-Tools?
Der Colorado AI Act ist bereits im Juni 2026 in Kraft getreten. Er verpflichtet Entwickler von KI-Recruiting-Tools, „angemessene Sorgfalt“-Maßnahmen zur Verhinderung von Diskriminierung umzusetzen — derzeit ist er damit einer der wenigen bereits wirksam gewordenen Gesetze im US-Bundesstaatenrecht für KI-Recruiting. Die konkreten Standards für „angemessene Sorgfalt“ und die entsprechenden Umsetzungsmechanismen sind derzeit jedoch noch nicht durch die zuständigen Behörden weiter spezifiziert.
