KI-Gesetz: mehr Rechtssicherheit im Handwerk

Das EU-Parlament hat das KI-Gesetz verabschiedet. Das gebe den Betrieben eine größere Rechtssicherheit, lobt der ZDH. Aber im Detail sei noch einiges zu klären, um sie nicht doch zu verunsichern.

Das Europäische Parlament hat das Gesetz über künstliche Intelligenz (KI) beschlossen. Die neuen Regeln zielen darauf ab, Grundrechte, Demokratie und Rechtsstaatlichkeit sowie ökologische Nachhaltigkeit vor Hochrisiko-KI-Systemen zu schützen. Gleichzeitig sollen sie Innovationen anschieben und dafür sorgen, dass die EU in diesem Bereich eine Führungsrolle einnimmt. Die Verordnung legt bestimmte Verpflichtungen für KI-Systeme fest, abhängig von möglichen Risiken und Auswirkungen.

Einige Anwendungen sollen verboten werden. Dazu zählen die biometrische Kategorisierung auf der Grundlage sensibler Merkmale und das ungezielte Auslesen von Gesichtsbildern aus dem Internet oder von Überwachungskameras für Gesichtserkennungsdatenbanken. Ebenfalls verboten sind künftig Emotionserkennungssysteme am Arbeitsplatz und in Schulen sowie das Bewerten von sozialem Verhalten mit KI. Auch der Einsatz von KI, um das Verhalten von Menschen zu beeinflussen oder ihre Schwächen auszunutzen, ist nach den neuen Regeln nicht erlaubt.

Verpflichtungen für Hochrisikosysteme

Für Hochrisiko-KI-Systeme sind bestimmte Verpflichtungen vorgesehen. Als hochriskant werden zum Beispiel Systeme eingestuft, die in den Bereichen kritische Infrastruktur, allgemeine und berufliche Bildung oder Beschäftigung eingesetzt werden. Auch KI-Systeme, die für private und öffentliche Dienstleistungen, in bestimmten Bereichen der Strafverfolgung sowie im Zusammenhang mit Migration und Grenzmanagement, Justiz und demokratischen Prozessen genutzt werden, gelten als hochriskant.

Solche Systeme müssen Risiken bewerten und verringern, Nutzungsprotokolle führen, transparent und genau sein und von Menschen beaufsichtigt werden. Die Bevölkerung hat künftig das Recht, Beschwerden über Systeme einzureichen und Entscheidungen erklärt zu bekommen, die auf der Grundlage hochriskanter KI-Systeme getroffen wurden und ihre Rechte beeinträchtigen. Systeme mit allgemeinem Verwendungszweck müssen bestimmte Transparenzanforderungen erfüllen, darunter die Einhaltung des EU-Urheberrechts und die Veröffentlichung detaillierter Zusammenfassungen der für das Training verwendeten Inhalte.

Maßnahmen zur Förderung von Innovationen und KMU

Künstlich erzeugte oder bearbeitete Bilder, Audio- und Videoinhalte müssen in Zukunft eindeutig als solche gekennzeichnet werden. In den Mitgliedstaaten müssen Reallabore eingerichtet und Tests unter realen Bedingungen durchgeführt werden. Diese müssen für kleine und mittlere Unternehmen sowie für Start-ups zugänglich sein, damit sie innovative KI-Systeme entwickeln und trainieren können, bevor sie auf den Markt kommen.

"Es ist gut, dass mit dem KI-Gesetz erste Schritte hin zu einer größeren Rechtssicherheit gegangen werden. Besonders positiv für Handwerksbetriebe ist, dass im nun angenommenen KI-Gesetz für niedrigschwellige Anwendungen keine oder nur geringe Transparenzverpflichtungen eingeführt worden sind, sagt Holger Schwannecke, Generalsekretär des Zentralverbandes des Deutschen Handwerks. Positiv sei auch, dass sich Betriebe auf das CE-Zeichen bei Hochrisiko-KI-Technologien verlassen können. Diese Kennzeichnung belegt, dass sie alle EU-weiten Anforderungen an Sicherheit, Gesundheitsschutz und Umweltschutz erfüllt.

Fragen bleiben offen

Viele Detailfragen seien aber im Gesetz noch nicht ausreichend geklärt, wie etwa die Frage, inwieweit eine Anpassung der KI-Modelle zu höheren Auflagen führen könnte. Schwannecke: "Hier muss die EU-Kommission mit Leitlinien nachhelfen, denn fehlende Rechtssicherheit hemmt die Entwicklung von europäischen KI-Lösungen und verhindert, dass diese in Handwerksbetrieben noch umfangreicher eingesetzt werden können. Schon heute nutzen viele Handwerksbetriebe künstliche Intelligenz, kaufen externe KI-Systeme ein und verwenden diese für unterschiedliche Anwendungen im Betrieb.“

DHB jetzt auch digital!Einfach hier klicken und für das digitale Deutsche Handwerksblatt (DHB) registrieren!