Die neue KI-Verordnung

Im August 2024 trat die neue Verordnung über künstliche Intelligenz in Kraft. Damit wurde EU-weit ein einheitlicher Rechtsrahmen für die Entwicklung, das Inverkehrbringen, die Inbetriebnahme und die Verwendung von Systemen künstlicher Intelligenz festgelegt. Es soll ausdrücklich die Einführung von vertrauenswürdiger KI gefördert und gleichzeitig ein hohes Schutzniveau für die Grundrechte der EU sichergestellt werden.

Die erste Frage, die sich Nutzer – die in der Verordnung Betreiber genannt werden - stellen werden, ist: Was ist überhaupt KI und welche Anwendungen fallen unter die Verordnung? Ist das geklärt, stellt sich die Frage nach den Pflichten bei Verwendung eines KI-Systems und nach den gesetzlichen Anforderungen.

Zunächst ist es wichtig zu wissen, dass auf der Betreiberseite nur natürliche Personen und Organisationen angesprochen sind, die ein KI-System in eigener Verantwortung beruflich nutzen. Die private Nutzung fällt nicht unter die Verordnung.

Den politischen Entscheidungsträgern lag viel daran, Innovationen nicht zu behindern, sondern explizit zu fördern. Dementsprechend sind Betreiber von KI-Systemen aufgefordert, mit spezifischen Maßnahmen die KI-Kompetenz ihres Personals und ihrer Beauftragten nach besten Kräften zu stärken.

Die weit meisten Anwendungen sind harmlos, wie etwa Navigationssysteme, Übersetzungen, Rechtschreibprüfung, chatGPT etc.. Besondere Pflichten entstehen für Betreiber erst dann, wenn es um sogenannte hochriskante Anwendungen geht. Das sind z. B. Systeme, die Auswahlentscheidungen in Bewerbungsprozessen treffen, im Gesundheitswesen oder als Sicherheitsbauteile kritischer Infrastruktur zum Einsatz kommen oder im Bildungsbereich Prüfungen mitbewerten. In solchen und in der Verordnung benannten ähnlich sensiblen Bereichen sind die Betreiber angehalten, den beabsichtigten Einsatz eines KI-Systems besonders sorgfältig zu prüfen.