Die beiden größten möglichen Problemfelder beim Einsatz von KI : Interview mit Dr. Sascha Morgenroth, Partner und Leiter der Praxisgruppe Arbeitsrecht bei Simmons & Simmons

HRP: Welche Faktoren müssen jetzt von Unternehmen umgesetzt werden, damit eine KI-HR-Strategie erfolgversprechend wird?

Dr. Sascha Morgenroth: Zunächst ist es wichtig, zu prüfen, für welche konkreten Vorgänge KI im HR-Bereich eingesetzt werden soll und welche technischen Möglichkeiten sowie Grenzen dabei bestehen. Der Einsatz von KI kann einen echten Mehrwert für das Unternehmen schaffen. Daher steht an erster Stelle die Überprüfung, wie KI-Systeme Arbeitsprozesse beschleunigen, verbessern oder anderweitig unterstützen können. Im HR-Bereich gibt es vielfältige denkbare praktische Einsatzmöglichkeiten, so  beispielsweise der Einsatz von Chatbots für erste Interviews mit Bewerbern, oder KI-Systeme, die ein Screening von Lebensläufen übernehmen. Bei jedem Einsatz von KI steht die zentrale Frage im Raum, welche Aufgaben die KI übernimmt, und welche in der Verantwortung von Mitarbeitern bleiben.

Ein entscheidender Aspekt bei der Einführung von KI-Systemen sind Mitarbeiterschulungen. Diese gewährleisten nicht nur eine effektive Nutzung der Systeme, sondern reduzieren auch das Risiko von Rechtsverstößen, wie etwa Datenschutzverletzungen, die beispielsweise durch unsachgemäße Eingaben personenbezogener Daten entstehen können. Die neue KI-Verordnung verlangt solche Schulungen nun ohnehin. Wurde ein KI-System erst eingeführt, ist zudem eine regelmäßige Evaluation wichtig.

Kritische Punkte beim KI-Einsatz

HRP: Was sehen Sie beim Einsatz von KI im Personalbereich im Hinblick auf das Arbeitsrecht am kritischsten?

Dr. Morgenroth: Die beiden größten möglichen Problemfelder beim Einsatz von KI bestehen im unsachgemäßen Umgang mit personenbezogenen Daten und in Diskriminierungsrisiken, die mit der Nutzung solcher Systeme einhergehen können.

Die Funktionsweise einer KI hängt maßgeblich von den Daten ab, mit denen sie trainiert wird. Wenn Personalverantwortliche beispielsweise in der Vergangenheit bestimmte Entscheidungsmuster bei Einstellungen verfolgt haben, können KI-Systeme diese Muster übernehmen. Dies kann zu einer Voreingenommenheit der KI (sog. „Bias“) führen, die möglicherweise zur Benachteiligung bestimmter Personengruppen und damit zu Verstößen gegen das AGG führt.

Besondere Vorsicht ist bei KI-Systemen geboten, die nicht selbst entwickelt wurden. Bei diesen ist für den Anwender oft nicht nachvollziehbar, wie das KI-System funktioniert oder wie es zu bestimmten Ergebnissen gelangt. Diese Problematik wird als sog. „Black-Box“-Phänomen bezeichnet. Ob Diskriminierungsrisiken in solchen Fällen minimiert werden können, hängt vom Einzelfall ab. Mögliche Maßnahmen könnten die Anonymisierung von Bewerbungsunterlagen oder die Anforderung von Qualitätskontrollen durch den Anbieter sein.

Neben den Diskriminierungsrisiken stellen die datenschutzrechtlichen Aspekte eine mögliche Herausforderung dar. Im HR-Bereich werden sensible personenbezogene Daten verarbeitet. Wenn eine KI auf diese Daten zugreifen kann, kann dies je nach KI-System problematisch sein. Viele KI-Tools arbeiten cloudbasiert. Dadurch können die gespeicherten Daten auf ausländische Server gelangen, was die Nachvollziehbarkeit der Datenverarbeitung erschwert. Es bleibt unklar, ob beispielsweise Sicherheitskopien erstellt oder wie die Daten insgesamt verarbeitet werden und wer Zugriff auf sie hat.

HRP: In welchen Punkten sollte sich der Betriebsrat einschalten, wenn KI im Recruiting-Prozess eingesetzt wird?

Dr. Morgenroth: In jedem Unternehmen, das KI-Systeme einsetzt, sollte sichergestellt werden, dass diese sowohl effektiv als auch rechtskonform genutzt werden. Dafür bedarf es klarer und verbindlicher Regeln im Umgang mit der KI.

Die Einflussmöglichkeiten des Betriebsrats hängen dabei vom Bestehen eines Mitbestimmungsrechts ab. Bei der Einführung eines KI-Systems kann der Betriebsrat Informations- und Beratungsrechte in Bezug auf den geplanten Einsatz haben. Diese umfassen unter anderem die Funktionsweise der KI, die Aufgaben, die durch die KI übernommen werden sollen, sowie etwaige Auswirkungen auf die Arbeitnehmer.

Wird ein KI-System in HR-Prozesse implementiert, kommt insbesondere ein Mitbestimmungsrecht nach § 87 Abs. 1 Nr. 6 BetrVG in Betracht, das die Einführung und Anwendung technischer Einrichtungen betrifft, die dazu bestimmt sind, das Verhalten oder die Leistung der Arbeitnehmer zu überwachen. Dabei genügt, dass die KI eine Überwachung theoretisch ermöglicht, sie muss nicht explizit zu diesem Zweck eingesetzt werden. Beispiele für mitbestimmungspflichtige KI-Systeme im HR-Bereich sind KI-gestützte Zeiterfassungssysteme oder elektronische Personalakten.

Unabhängig davon, ob ein Mitbestimmungsrecht besteht, kann der Arbeitgeber erwägen, mit dem Betriebsrat KI-Leitlinien zu entwickeln oder eine KI-Rahmenbetriebsvereinbarung abzuschließen. Diese Regelwerke können Vorgaben zum Umgang mit dem KI-System enthalten und so für Transparenz und Rechtssicherheit sorgen.

Anpassungen für mehr Rechtssicherheit

HRP: Welche Anpassungen benötigen Unternehmen, um rechtssicher zu bleiben?

Dr. Morgenroth: Das hängt von dem spezifischen KI-System ab, das ein Unternehmen anwenden möchte. Entscheidend ist, den rechtlichen Rahmen präzise zu bestimmen, der für die Einführung und Nutzung des jeweiligen KI-Systems gilt. Um dies zu gewährleisten, ist ein fundiertes Verständnis der Funktionsweise der KI erforderlich. Ferner muss klar sein, welche Aufgaben die KI übernehmen soll.

Die KI-Verordnung teilt KI-Systeme beispielsweise in verschiedene Risikoklassen ein, für die jeweils unterschiedliche Regelungen gelten können. Im HR-Bereich werden viele KI-Systeme voraussichtlich als Hochrisiko-KI einzustufen sein. Im Einzelfall ist aber auch eine andere Einstufung, beispielsweise als verbotene KI, denkbar.

Bei der Anwendung von KI im HR-Bereich kommt es zudem zu einer Verarbeitung personenbezogener Daten. Diese muss nach der DSGVO erlaubt sein und auch im Übrigen DSGVO-konform erfolgen. Unternehmen sollten sich mit den Anforderungen umfassend vertraut machen und diese umsetzen. Regelmäßig sind Maßnahmen wie eine Datenschutzfolgeabschätzung erforderlich. Zudem ist zu beachten, dass Entscheidungen über Einstellungen, Beförderungen, Kündigungen oder Abmahnungen nicht ausschließlich durch eine KI getroffen werden dürfen (Art. 22 DS-GVO).

HRP: Wie und wann nutzen Sie persönlich KI?

Dr. Morgenroth: Wir haben ein sozietätseigenes, geschlossenes KI-System, genannt „Percy“, das stetig weiterentwickelt wird und uns bei unserer täglichen Arbeit unterstützt.

Ich nutze Percy beispielsweise als Unterstützungstool, wenn es um Übersetzungsaufgaben, oder die Zusammenfassung und Analyse von umfangreichen Dokumenten – etwa im Rahmen einer Due Diligence Prüfung – geht. Das erleichtert die Arbeit ungemein, eine eigene Prüfung wird dadurch aber natürlich nicht entbehrlich. Für die Beantwortung juristischer Fragen kann Percy Denkanstöße vermitteln, die abschließende rechtliche Prüfung und Beratung kann es allerdings nicht übernehmen, das machen wir weiterhin selbst.

HRP: Vielen Dank für das interessante Interview.

Weitere Artikel zum Thema:

Künstliche Intelligenz verändert Berufseinstieg

Künstliche Intelligenz – ein Gamechanger in der Weiterbildung?