Ab Februar 2025 gilt der AI-Act der EU. Er richtet sich nicht nur an die Entwickler von KI-Systemen, sondern auch deren gewerbliche Nutzer. Lesen Sie hier einen Überblick.
Die Europäische Kommission hat mit dem AI-Act das weltweit erste Gesetz zur Regulierung von Künstlicher Intelligenz (KI) veröffentlicht. Die Regelungen treten ab Februar 2025schrittweise in Kraft und sehen unter anderem eine Kennzeichnungspflicht für KI-generierte Inhalte vor.
KI-Technologien werden immer besser und bieten große Chancen für Betriebe. Die neuen EU-Regeln sollen den Einsatz dieser Technologien sicher und transparent machen. Wichtig dabei: Sie verpflichten nicht nur die Entwickler von KI-Systemen, sondern auch deren gewerbliche Nutzer.
Abgestufte Risiken
Die KI-Verordnung führt ein System mit vier verschiedenen Gefahrstufen (minimal, gering, hoch, inakzeptabel hoch) ein, das sich nach dem Risiko der verwendeten KI-Systeme richtet. Viele übliche Anwendungen wie ChatGPT fallen in die Gruppe mit geringem Risiko und müssen nur grundlegende Transparenzregeln befolgen. Bei KI-Systemen im Personalbereich ist jedoch Vorsicht geboten. Diese werden oft als Systeme mit hohem Risiko eingestuft.
Ab Februar 2025 sind bestimmte KI-Anwendungen verboten:
Systeme, die das menschliche Verhaltenbeeinflussen und dabei psychischen oder körperlichen Schaden verursachen können
KI-gestützte Systeme, die Menschen aufgrund ihres Verhaltens oder persönlicher Merkmale bewerten
Systeme zur biometrischen Echtzeit-Erkennung in öffentlichen Räumen (etwa automatische Gesichtserkennung)
Besonders riskant: Personal-KI
Im Personalbereich gelten einige KI-Systeme als "hochriskant". Dazu gehören:
Software, die Bewerbungen automatischfiltert oder bewertet
KI-gestützte Systeme zur Leistungsbewertung
Systeme zur automatisierten Personalplanung und -einsatz
Tools zur Überwachung oder Analyse des Mitarbeiterverhaltens
In der Aus- und Weiterbildung betrifft dies:
Systeme zur automatischen Bewertung von Prüfungen
KI-gestützte Kontrolle des Lernfortschritts
Tools zur Erkennung von Betrugsversuchen
Riskante Produkte in Maschinen
In der Produktsicherheit sind folgende Systeme betroffen:
KI-Komponenten in Maschinen und Anlagen
Qualitätskontrollsysteme mit KI-Unterstützung
Systeme zur vorausschauenden Wartung
Besonders strenge Regeln bei hohem Risiko
Für Hochrisikosysteme gibt es umfangreiche Pflichten. Wichtig ist ein ständiges Risikomanagement, das mögliche Gefahren früh erkennt und verringert. Die Verordnung verlangt auch eine genaue Dokumentation aller Systemprozesse. Zudem müssen Betroffene klar über den Einsatz von KI-Systemen informiert werden. Es gilt der Grundsatz der menschlichen Kontrolle, das heiß, dass automatische Entscheidungen nicht ohne menschliche Kontroll- und Eingriffsmöglichkeit getroffen werden dürfen. Außerdem müssen Unternehmen die Genauigkeit ihrer Systeme regelmäßig prüfen, mögliche Verzerrungen der Ergebnisse überwachen und ihre Systeme ständig verbessern.
Für häufig genutzte KI-Systeme wie ChatGPT oder Midjourney gelten weniger strenge Regeln. Hier müssen nur Transparenz- und Urheberrechtspflichten eingehalten werden. Dazu gehört unter anderem, dass KI-erzeugte Inhalte gekennzeichnet werden und Copyright- und Lizenzbestimmungen beachtet werden.
AI-Act wird schrittweise eingeführt
Die Einführung des AI-Acts erfolgt schrittweise. Die EU-Länder müssen den AI Act allerdings noch in nationales Recht umsetzen.
Ab Februar 2025: Verbot bestimmter KI-Anwendungen mit inakzeptablem Risiko
Ab August 2025:Transparenzanforderungen für generative KI
Ab August 2026:Vollständige Anwendung aller Vorschriften
Für Hochrisikosysteme, etwa im Personalbereich, gilt eine verlängerte Übergangsfrist von 36 Monaten.
Hohe Strafen bei Verstößen
Die Verordnung sieht empfindliche Strafen vor:
Bis zu 35 Mio. Euro oder 7 % des weltweiten Jahresumsatzes bei verbotenen Systemen
Bis zu 15 Mio. Euro oder 3 % bei Verstößen gegen andere Pflichten
Bis zu 7,5 Mio. Euro oder 1,5 % bei falschen Angaben
Betriebe sollten die Übergangsfristen nutzen, um Ihre Systeme und Prozesse anzupassen.
Kommentar schreiben