Tino Wicknig

• Zukünftig werden für Betroffene regelmäßig KI-Einsätze erkennbar werden, dies folgt aus der Informationspflicht für Betreiber, gem. Art. 26 VII, XI sowie Art. 50 und umfasst regelmäßig alle Anwendungen des HR-Bereichs, soweit diese auf konkrete Betroffene abzielen. Dies ist ein erster Schritt, um va. mittelbare Diskriminierung durch KI prüfen zu können. Damit ist aber nicht das Erkenntnisund Beweisproblem der Betroffenen gelöst, um zB. einen Anspruch auf Schadenersatz, gem. § 15 AGG, abzuleiten. Hierfür bedürfte es zusätzlicher Erläuterungspflichten, welche nach deutschem Recht bislang nicht bestehen. Diese Erläuterungspflichten werden durch Art. 86 KI-VO zwar adressiert, aber regelmäßig nicht gelöst werden (wg. Art. 86 I iVm. Art. 6 III lit. d). Die Norm wird nach zu erwartender Lesart kaum Anwendung finden, soweit diese nicht ausdrücklich vom EuGH am Sinn und Zweck der VO ausgelegt wird. Zudem eröffnen sich für den Betroffenen neue Probleme: Dieser wird regelmäßig nicht darlegen können, dass ein Grundrecht verletzt ist (Diskriminierungsfreiheit), hierzu bedürfte es gerade der Erläuterung. Der Betroffene wird also zukünftig, abgesehen vom Datenschutz, faktisch auch weiterhin keine Erläuterungsrechte haben und einen Beweis für Diskriminierung allenfalls über Statistiken führen können. Vielmehr ist es so, dass zukünftig ein Betreiber leichter eine Rechtfertigung für mittelbare Diskriminierung führen kann (§ 3 II 2. Hs. AGG), soweit ein Grund vorliegt, wird die Geeignetheit nunmehr über Zertifizierungen (Art. 40ff KI-VO) und CE-Kennzeichnungen (Art. 48 KI-VO) sowie den Nachweis der Daten-Governance (Art. 10 KI-VO) möglich werden. Die Organisationspflichten der Betreiber (§ 12 I AGG) werden zukünftig, bei Hochrisiko-KI, um die Pflichten aus Art. 26 KI-VO erweitert, soweit Hochrisiko-KI verwendet wird und keine Ausnahme des Art. 6 III KI-VO vorliegt, was leider die Regel werden dürfte. Soweit Verstöße hiergegen bestehen, ist es naheliegend einen Schadenersatz aus § 15 iVm. § 12 AGG aus Organisationspflichtverletzungen zu gewähren, welcher verschuldensunabhängig ist. Insgesamt verbessert die KI-VO absehbar die Betroffenenperspektive nicht, zumindest nicht im Hinblick auf das AGG. Dies folgt zusätzlich daraus, dass es zusätzlichen Sachverstandes zum Verstehen und Beurteilen der KI bedarf, welche nur durch Verbandsklagen zu erreichen ist und nicht vorgesehen ist. Trotzdem ist die KI-VO geeignet, Diskriminierungsrisiken im Vorfeld abzuschwächen durch Verbote und Regulierungen (Hochrisiko-KI), welche den vormaligen unregulierten Rechtszustand verbessern, wenngleich auf Kosten der Anwender. Die VO sollte bzgl. der Betroffenenrechte überarbeitet werden und ein echter Erläuterungsanspruch aus Art. 86 KI-VO (de lege ferenda) ermöglicht werden. Auch eine präzisere Sprache und widerspruchsfreie Regulierung wäre wünschenswert, um Bürokratielasten abzusenken und die Rechtssicherheit für alle Beteiligten (de lege ferenda) zu erhöhen. Zudem gibt es mit Hacker eine erste Stimme, welche die Verfassungsmäßigkeit der arbeitsrechtlichen Regelungen, mangels Kompetenz der EU, in Frage stellt. Das Abstract stellt ein Fazit der Arbeit dar, dieses ist nicht abschließend.