Weltweit erstes KI Gesetz im EU Parlament verabschiedet

Der europäische Rat erteilte im Mai 2024 seine Zustimmung für das weltweit erste KI–Gesetz. In 24 Monaten nach Inkrafttreten soll es vollständig anwendbar sein. Was es genau besagt und worauf Arbeitgebende achten müssen lesen Sie hier nach.

Was besagt das Gesetz?
Mit dem neuen Gesetz soll eine sichere Nutzung Künstlicher Intelligenzen gewährleistet werden. Diese sollen möglichst nachvollziehbar, transparent, umweltfreundlich und nichtdiskriminierend eingesetzt werden. Für die Bewertung unterschiedlicher KI – Systeme wurde vom Gesetzgeber ein risikobasierter Ansatz gewählt. Unterschieden wird demnach nach Systemen mit einem unannehmbaren Risiko, Hochrisiko-KIs und Systemen, die lediglich Transparenzanforderungen gerecht werden müssen.

Systeme mit unannehmbarem Risiko
Eine KI stellt ein unannehmbares Risiko dar, sobald sie als Bedrohung für den Menschen gilt. Dies ist der Fall, wenn sie geeignet ist, das kognitive Verhalten von Personen oder gefährdeten Gruppen zu manipulieren. Verboten ist außerdem das Bewerten von sozialem Verhalten (social scoring), wie es zum Beispiel in China betrieben wird. Emotionserkennungen am Arbeitsplatz, oder in Bildungseinrichtungen werden ebenfalls untersagt. Biometrische Gesichtserkennungen im öffentlichen Raum sind grundsätzlich auch nicht erlaubt. Ausnahmen sind aber für Sicherheitsbehörden möglich, wenn es sich um bestimmte, sehr schwere Straftaten handelt.

Hochrisiko KI-Systeme
Darunter fallen Systeme, die ein hohes Risiko für die Sicherheit, Gesundheit, oder die Grundrechte natürlicher Personen darstellen. Dazu gehören KIs, die in Produkten verwendet werden, die unter die EU-Produktionsvorschriften fallen, wie zum Beispiel Spielzeuge, Fahrzeuge und medizinische Geräte. KI-Systeme, die in bestimmte Bereiche fallen, die in einer EU-Datenbank registriert werden müssen sind auch erfasst. Dazu gehören vor Allem die Verwaltung von Infrastrukturen und der Migration, die Bildung, Strafverfolgung und die Beschäftigung von Arbeitnehmern. KI-Systeme innerhalb dieser Bereiche sollen permanent überwacht und bewertet werden. So sollen Bürgerinnen und Bürger eine Möglichkeit bekommen bei den jeweiligen nationalen Behörden Beschwerden einzureichen.

Risikoarme Systeme
Generative Modelle, wie zum Beispiel ChatGPT werden als nicht besonders risikoreich eingestuft, weshalb sie nur Transparenzanforderungen erfüllen müssen. So müssen produzierte Inhalte als durch KI generiert offengelegt werden. Außerdem müssen die Systeme so gestaltet werden, dass sie keine illegalen Inhalte erstellen können und das Urheberrecht wahren.

Worauf Arbeitgebende achten müssen:
Arbeitgebende müssen darauf achten, dass sie die strengen Vorschriften des neuen EU-KI-Gesetzes einhalten. Dazu gehören die Klassifizierung von KI-Systemen nach Risikostufen, insbesondere bei Hochrisiko-KI wie HR-Software, die Schulung von Mitarbeitenden im Umgang mit KI und die Meldung von Vorfällen. Zudem müssen sie Diskriminierungsfreiheit gewährleisten und sicherstellen, dass alle gesetzlichen Anforderungen erfüllt sind, um hohe Geldstrafen zu vermeiden. Diese könnten bei Verstößen bis zu 35 Millionen Euro oder 7% des weltweiten Umsatzes betragen.

Gerne beraten und unterstützen wir Sie bei der Umsetzung der gesetzlichen Vorgaben.