Künstliche Intelligenz (KI) hält mit großer Geschwindigkeit Einzug in die Arbeitswelt. Besonders im Personalbereich versprechen Arbeitgeber sich von KI-gestützten Systemen mehr Effizienz, schnellere Verfahren und vermeintlich objektivere Entscheidungen. Das gilt vor allem für Bewerbungsverfahren: Lebensläufe werden automatisiert vorsortiert, Eignungsprognosen erstellt oder Bewerber:innen nach bestimmten Mustern gerankt. Was dabei oft ausgeblendet wird: Die sogenannte Künstliche Intelligenz ist eben nur so neutral, wie die Informationen, mit denen Sie gefüttert worden ist. Stereotypen und diskriminierende Bewertungen sind damit oft Grundlage von KI-Systemen.
Dies belegt auch das Gutachten der Antidiskriminierungsstelle des Bundes aus dem Jahr 2023. Es arbeitet heraus, dass das Allgemeine Gleichbehandlungsgesetz (AGG), welches in Deutschland bei Diskriminierungen im Arbeitsleben Ansprüche für die Betroffenen reguliert, zwar auch auf algorithmische Entscheidungssysteme anwendbar ist. Gleichzeitig sind auf der Seite der praktischen Durchsetzung jedoch erhebliche Schutzlücken erkennbar. Dies vor allem deshalb, da Diskriminierungen in der Praxis häufig nur schwer sichtbar, nachweisbar und angreifbar sind. So gehen die Autor:innen des Gutachtens davon aus, dass der „Black-Box-Charakter“ der KI-Systeme es praktisch unmöglich mache, den Ursachen einer Benachteiligung auf die Spur zu kommen und ihre Rechte nach dem AGG durchzusetzen. Für Beschäftigte und Betriebsräte ist das hochrelevant.
Warum KI nicht neutral ist
Die Vorstellung, technische Systeme seien objektiver als Menschen, ist in dieser Allgemeinheit falsch. KI-Systeme arbeiten nicht im luftleeren Raum. Sie werden mit Daten trainiert, anhand menschlicher Vorgaben entwickelt und auf Grundlage bestimmter Zielvorgaben eingesetzt. Sind die Trainingsdaten verzerrt, spiegeln sie frühere Benachteiligungen wider. Beruhen die Auswahlkriterien auf scheinbar neutralen, tatsächlich aber exkludierenden Mustern, setzt sich diese Schieflage im System fort.
Besonders problematisch ist dabei, dass Diskriminierung nicht nur offen oder unmittelbar stattfinden kann. Häufig liegt eine mittelbare Benachteiligung vor. Das System sortiert dann nicht etwa ausdrücklich nach Geschlecht, Alter oder Herkunft. Stattdessen nutzt es Kriterien, die mit geschützten Merkmalen eng zusammenhängen. Das können etwa Erwerbsbiografien, Sprachmuster, Wohnorte, Ausbildungswege, zeitliche Verfügbarkeit oder bestimmte Karriereverläufe sein. Formal wirkt das neutral, tatsächlich werden aber bestimmte Gruppen systematisch benachteiligt.
Hinzu kommt, dass KI-Systeme häufig mit sogenannten Proxys arbeiten, also vermeintlich neutralen Merkmalen, welche aber stark mit einem besonders geschützten Merkmal korrelieren. Ein sensibles Merkmal wird dann zwar nicht direkt verarbeitet, aber über andere Datenpunkte faktisch „mitgelesen“. So geben die Autor:innen des Gutachtens beispielsweise zu bedenken, dass das vermeintlich neutrale Merkmal der unterbrechungsfreien Beschäftigung Proxy für das Merkmal Geschlecht sei, da Frauen überproportional häufig aufgrund von Schwangerschaft und Elternzeit ihre Berufstätigkeit unterbrechen.
Einstellungen als besonders sensibles Feld
Für Betriebsräte ist vor allem der Einsatz von KI im Bewerbungsverfahren ein zentraler Problembereich. Wer hier durch eine Personalsoftware, die regelmäßig ein sogenanntes „Hochrisikosystem“ nach der EU-KI-Verordnung sein dürfte, mit KI-Unterstützung aussortiert wird, erhält oft nicht einmal die Chance auf ein persönliches Gespräch. Die Benachteiligung findet dann ganz am Anfang statt – schnell, massenhaft und regelmäßig ohne jede Transparenz.
Die Problematik ist hierbei strukturell: Wenn ein System mit bisherigen Einstellungsentscheidungen trainiert wird, lernt es unter Umständen auch die Vorurteile der Vergangenheit. Wurden in einem Unternehmen etwa über Jahre hinweg eher jüngere Männer in bestimmte Positionen eingestellt oder Personen mit spezifischen Ausbildungsbiografien bevorzugt, kann ein KI-System diese Muster als „erfolgreich“ interpretieren und fortschreiben. Das gilt auch dann, wenn niemand im Unternehmen ausdrücklich diskriminieren will. Dennoch droht eine Black Box, in der zentrale Personalentscheidungen vorbereitet oder faktisch vorentschieden werden, ohne dass sich kontrollieren lässt, nach welchen Maßstäben dies geschieht.
Die Rolle des Betriebsrats
Betriebsräte sind in Sachen KI und Diskriminierungsschutz nicht bloß „mitzunehmen“, sondern rechtlich in einer stärkeren Position als oftmals angenommen. Mitbestimmungsrechte können sich hierbei aus unterschiedlichen Aspekten heraus ergeben.
Kommt eine technische Einrichtung zum Einsatz, die dazu geeignet ist, Verhalten oder Leistung von Beschäftigten zu überwachen, ist regelmäßig § 87 Abs. 1 Nr. 6 BetrVG eröffnet. Gerade moderne HR-Tools, Recruiting-Plattformen, Auswertungssysteme oder Softwarelösungen mit Scoring- und Rankingfunktionen fallen häufig unter derartige Systeme, deren Einführung dann wiederum mitbestimmungspflichtig ist. Der Arbeitgeber kann solche Systeme dann nicht einseitig einführen.
Wird KI im Rahmen von Arbeitsverfahren, Arbeitsabläufen oder technischen Systemen eingeführt, bestehen Unterrichtungs- und Beratungsrechte auch nach § 90 BetrVG. Seit dem Betriebsrätemodernisierungsgesetz ist der Einsatz von KI dort ausdrücklich genannt. Das ist nicht bloß symbolisch. Der Arbeitgeber muss den Betriebsrat rechtzeitig und unter Vorlage der erforderlichen Unterlagen informieren, damit dessen Vorschläge und Bedenken noch in die Planung einfließen können.
Gemäß § 95 BetrVG kann der Betriebsrat auch bei Auswahlrichtlinien für Einstellungen, Versetzungen, Umgruppierungen und Kündigungen mitentscheiden. Der neue Absatz 2a stellt klar, dass dies auch dann gilt, wenn bei der Aufstellung der Richtlinien KI zum Einsatz kommt. Gerade dort, wo Bewerber:innen automatisiert bewertet, gewichtet oder vorsortiert werden, müssen Betriebsräte daher sehr genau prüfen, welche Kriterien verwendet werden, wie diese gewichtet sind und welche Gruppen davon faktisch benachteiligt werden können.
Schließlich bleibt auch § 99 BetrVG bedeutsam. Wenn personelle Einzelmaßnahmen zur Zustimmung vorgelegt werden, darf der Betriebsrat nicht nur auf das Ergebnis schauen, sondern muss auch die Entscheidungsgrundlagen in den Blick nehmen. Stützt sich der Arbeitgeber bei Einstellungen auf diskriminierungsanfällige oder intransparente KI-Systeme, kann dies in der betriebsverfassungsrechtlichen Bewertung nicht folgenlos bleiben.
Wichtige Aufgabe des Betriebsrats ist weiterhin der Diskriminierungsschutz. Schon aus § 75 BetrVG folgt die gemeinsame Pflicht von Arbeitgeber und Betriebsrat, darüber zu wachen, dass Benachteiligungen im Betrieb unterbleiben. Weiter ergeben sich aus § 80 BetrVG die allgemeinen Aufgaben des Betriebsrats, die Einhaltung der geltenden Gesetze (so auch des AGG) zu überwachen sowie Maßnahmen gegen Rassismus als auch die Gleichstellung von Männern und Frauen zu fördern. Gleichzeitig hat der Betriebsrat ein Initiativrecht zur Einrichtung einer Beschwerdestelle nach dem AGG.
Intransparenz ist der Knackpunkt
Die Durchsetzung der Rechte des Betriebsrats, aber auch der Betroffenen, ist oft von praktischen Hürden gekennzeichnet. Die Intransparenz der Systeme ist dabei ein häufiger Knackpunkt. Arbeitgeber berufen sich auf komplexe Software, fremde Anbieter, Geschäftsgeheimnisse oder angeblich nicht weiter aufschlüsselbare Modelle. Genau hier liegt eines der Kernprobleme, das auch das Gutachten der Antidiskriminierungsstelle deutlich benennt: Antidiskriminierungsrecht läuft leer, wenn Betroffene und ihre Interessenvertretungen gar nicht erkennen können, worauf eine Benachteiligung beruht.
Für Betriebsräte folgt daraus: Sie dürfen sich nicht mit pauschalen Herstellerbeschreibungen oder PowerPoint-Folien abspeisen lassen. Notwendig sind belastbare Informationen zu Datenquellen, Funktionsweise, verwendeten Kriterien, Gewichtungen, Eingriffs- und Korrekturmöglichkeiten, Fehlerquoten und dokumentierten Auswirkungen auf unterschiedliche Beschäftigtengruppen.
Was Betriebsräte konkret verlangen sollten
Betriebsräte sollten den Einsatz von KI im Personalbereich nicht punktuell, sondern strukturell bearbeiten. Dazu gehört erstens die Aufforderung an den Arbeitgeber, dass dieser alle eingesetzten oder geplanten Systeme frühzeitig offenlegt.
Zweitens sollten Betriebsräte auf nachvollziehbare Prüfkriterien bestehen: Welche Daten werden verwendet? Welche Ziele soll das System erreichen? Welche Personengruppen könnten benachteiligt werden? Welche Tests auf Diskriminierungsrisiken wurden durchgeführt? Welche menschlichen Kontrollmechanismen bestehen?
Drittens sollte der Einsatz in sensiblen Bereichen wie Recruiting, Leistungsbewertung, Beförderung oder Personalplanung im besonderen Fokus von Betriebsräten stehen. In vielen Fällen wird es sachgerecht sein, KI allenfalls unterstützend einzusetzen.
Viertens brauchen Betriebsräte belastbare Regelungen in Betriebsvereinbarungen. Dort können Transparenzpflichten, Prüfverfahren, Dokumentationsanforderungen, Testläufe, Verwendungsgrenzen, Beschwerdewege und regelmäßige Evaluationen festgelegt werden.
Gerade bei komplexen Systemen sollten Betriebsräte zudem von ihrem Recht Gebrauch machen, Sachverständige hinzuzuziehen. Wer ein technisch hochkomplexes System ohne eigene Sachkunde prüfen soll, läuft sonst in der Mitbestimmung ins Leere.
Unsere Einschätzung
KI im Betrieb ist kein rechtsfreier Innovationsraum. Gerade im Personalbereich entscheidet sich an ihrem Einsatz, ob technischer Fortschritt zu mehr Fairness führt oder ob alte Ungleichheiten in neuer Verpackung zurückkehren. Das Gutachten der Antidiskriminierungsstelle des Bundes macht deutlich, dass das geltende Recht zwar Anknüpfungspunkte bietet, die eigentlichen Defizite aber in Transparenz und Kontrolle der Systeme sowie Durchsetzung der gegebenen Rechte liegen. Genau deshalb kommt dem Betriebsrat eine Schlüsselrolle zu.
Betriebsräte dürfen sich nicht auf die Erzählung einlassen, KI sei schon deshalb unproblematisch, weil sie „objektiv“ arbeite. Sie sollten deshalb frühzeitig auf Offenlegung, Mitbestimmung und klare Begrenzungen drängen. Wenn der Arbeitgeber KI einführen will, muss er auch erklären können, warum das System fair, nachvollziehbar und kontrollierbar ist. Kann er das nicht, ist Widerstand nicht technikfeindlich, sondern rechtsstaatlich geboten.