Künstliche Intelligenz im Arbeitsrecht - was ist erlaubt?

Künstliche Intelligenz ist mittlerweile in der Arbeitswelt komplett angekommen. Immer mehr Unternehmen setzen beispielsweise KI zur Bewerberauswahl und zur Leistungsbewertung – und damit mittelbar auch für Kündigungsentscheidungen – ein. Meist sind momentan noch Menschen involviert (“humans in the loop”). Aber was passiert, wenn demnächst KI komplett automatisierte Entscheidung über die Beendigung von Arbeitsverhältnissen trifft? Ist das überhaupt zulässig? und was passiert, wenn KI Fehler macht? Der folgende Artikel beantwortet diese Fragen und zeigt Möglichkeiten auf, um sich gegen automatisierte Fehlentscheidungen zu wehren.

Inhaltsverzeichnis

KI ist grundsätzlich zulässig – aber nicht unfehlbar KI im Arbeitsrecht: Welche Regeln gelten?Datenschutz und KI Beteiligung des Betriebsrates KI-Verordnung der EU Weitere rechtliche Aspekte Was bedeutet das für die Zukunft?

KI ist grundsätzlich zulässig – aber nicht unfehlbar

Jeder Arbeitgeber kann auf Grundlage des Direktionsrechts nach § 106 GewO entscheiden, ob im Unternehmern KI genutzt werden darf. Das Direktionsrecht umfasst auch die Frage, wie KI genutzt wird. Vielfach gibt es auch unternehmensintern KI-Richtlinie, die mit Blick auf die vielfältigen rechtlichen Risiken der Nutzung und die wichtigsten Aspekte regeln. Zumindest zum Teil ist auch der Betriebsrat zu involvieren. Und natürlich wird KI in den nächsten Jahren massiv zu Jobverlusten beitragen, denn KI wird zahlreiche Arbeitsplätze überflüssig machen.

Siehe auch: Traumjob im Ausland: So gelingt der erfolgreiche Einstieg

Allerdings ist die KI nicht unfehlbar. Experten warnen schon lange davor, dass die Entscheidungen der KI im ersten Moment zwar objektiver erscheinen mögen. Wenn die jeweiligen Trainingsdaten verzerrt sind oder der Algorithmus unklare Kriterien verwendet, können sich zum Beispiel ungewollte Diskriminierungen einschleichen.

Ein prominentes Beispiel war Amazons Bewerber-Algorithmus, der Frauen systematisch benachteiligte. Ursache waren die historischen Daten, in denen Männer bevorzugt eingestellt wurden. Das Unternehmen stellte die Nutzung des Systems ein – doch viele Firmen setzen weiterhin auf KI-gestützte Personalentscheidungen.

KI im Arbeitsrecht: Welche Regeln gelten?

Natürlich ist KI im Arbeitsrecht ein relativ neues Thema, dennoch finden bereits jetzt viele Regelungen Anwendung, die den Einsatz von KI regulieren. Zunächst ist “algorithmisches Managements“ grundsätzlich erlaubt. Aber es gelten die allgemeinen Regelungen, z.B. über Datenschutz und Mitbestimmung:

Datenschutz und KI

Der Einsatz von KI führt zu einer intensiveren Verarbeitung personenbezogener Daten der Arbeitnehmer. Arbeitgeber müssen entsprechende Sicherheitsmaßnahmen ergreifen, insbesondere im Falle mobiler Arbeit. Auch die Frage der datenschutzrechtlichen Verantwortlichkeit zwischen Arbeitgeber und KI-Anbieter muss geklärt werden. Zudem ist zu prüfen, ob eine Datenschutzfolgeabschätzung erforderlich ist, besonders bei internationalen Datenübermittlungen.

Weiterhin sind nach Artikel 22 der DSGVO vollautomatisierte Entscheidungen verboten, wenn sie erhebliche Auswirkungen auf eine Person haben – dazu zählt auch die Kündigung. Arbeitnehmer haben das Recht, nicht einer ausschließlich auf einer automatisierten Verarbeitung – einschließlich Profiling – beruhenden Entscheidung unterworfen zu werden, die ihr gegenüber rechtliche Wirkung entfaltet oder sie erheblich beeinträchtigt. In anderen Regionen ist das anders. In den USA machte beispielsweise der Fall eines Uber-Fahrers Schlagzeilen, der wegen eines fehlerhaften Algorithmus gekündigt wurde.

Siehe auch: Content-Marketing mit KI intelligenter gestalten

Beteiligung des Betriebsrates

Wird KI im Betrieb eingeführt, muss der Betriebsrat in der Regel mitbestimmen, wenn die Technologie das Verhalten oder die Leistung der Mitarbeiter überwacht. Dabei sind auch das Mitbestimmungsrecht sowie Informations- und Beratungsrechte des Betriebsrates zu beachten.

KI-Verordnung der EU

Ab August 2024 gilt die KI-Verordnung (KI-VO), die umfassende Regeln für KI aufstellt, welche die Einhaltung der Grundrechte in der EU gewährleisten sollen. U.a. nimmt die KI-VO eine risikobasierte Klassifizierung von KI-Systemen vor. KI gilt als Hochrisiko, wenn sie für die Auswahl von Bewerbern oder die Bewertung von Arbeitsleistungen genutzt wird. Arbeitgeber müssen in solchen Fällen Risikomanagementsysteme implementieren und die Cybersicherheit sicherstellen.

Bei Verstößen gegen die KI-Verordnung oder Datenschutzbestimmungen drohen Sanktionen und Schadensersatzforderungen. Arbeitgeber sollten die Einhaltung der gesetzlichen Vorgaben als Teil ihrer Unternehmensethik (Compliance) verstehen und entsprechende Verhaltensrichtlinien sowie Schulungen für ihre Mitarbeiter anbieten.

Weitere rechtliche Aspekte

KI kann diskriminierend wirken, insbesondere gegenüber älteren oder behinderten Arbeitnehmern, was gesetzlich verboten ist. Das betrifft auch besonders sensible Bereiche, wie die Beendigung von Arbeitsverhältnissen aus gesundheitlichen Gründen. Eine Kündigung wegen Krankheit ist grundsätzlich nur unter bestimmten Voraussetzungen möglich, etwa wenn langfristige Ausfälle die betriebliche Organisation erheblich beeinträchtigen. Sollten Unternehmen eine KI-basierte Personalsoftware nutzen, die Krankheitstage automatisch als Kündigungsgrund bewertet, wäre dies also rechtlich nicht haltbar.

Siehe auch: Gebrauchte Gabelstapler: Diese Fehler solltest du vermeiden

Was bedeutet das für die Zukunft?

Die Digitalisierung im Arbeitsrecht steht erst am Anfang. Während die KI in vielen Bereichen erhebliche Effizienzsteigerungen ermöglicht, dürfen die Arbeitnehmerrechte vor diesem Hintergrund nicht auf der Strecke bleiben. Experten fordern klarere gesetzliche Regelungen, um die Transparenz und Fairness von algorithmischen Personalentscheidungen sicherzustellen.