"Historisch": EU einigt sich auf Regeln für Künstliche Intelligenz

"Historisch! Die EU wird der allererste Kontinent, der klare Regeln für die Nutzung von KI setzt", twitterte EU-Binnenmarktkommissar Thierry Breton nach dem Verhandlungsmarathon. 

EU-Kommissionspräsidentin Ursula von der Leyen bejubelte das KI-Gesetz (AI Act) als "weltweite Premiere". Es handle sich um ein rechtliches Rahmenwerk für die Entwicklung von Künstlicher Intelligenz, der die Menschen "vertrauen" könnten. Außerdem würden "Sicherheit und Grundrechte von Menschen und Unternehmen" geschützt.

Für Unternehmen seien "klare Regeln und Vorgaben" wichtig, um Rechtssicherheit zu haben. "Für die Bürgerinnen und Bürger ist die Transparenz und der Schutz ihrer persönlichen Daten wichtig", kommentierte Österreichs Staatssekretär für Digitalisierung Florian Tursky (ÖVP).

KI-Überwachung

Der größte Knackpunkt bei den Gesprächen war der Streit um biometrische Überwachung. Der Gesetzesentwurf des Parlaments verbietet KI-Anwendungen wie eine automatisierte Gesichtserkennung. Kritiker sehen darin eine massive Verletzung der Bürgerrechte. Die EU-Staaten wollten Ausnahmen zum Schutz der nationalen Sicherheit, zur Verteidigung und für andere militärische Zwecke durchsetzen. Die Einigung sieht Beschränkungen für die Nutzung biometrischer Identifizierungssysteme durch die Strafverfolgungsbehörden vor.

Millionen-Strafen

Die Vereinbarung sieht auch Verbote zur Manipulation oder Ausnutzung von Schwächen der Nutzer durch KI vor. Verbraucher sollen das Recht bekommen, Beschwerden einzureichen und angemessene Antworten zu erhalten. Geldstrafen für Verstöße sollen zwischen 7,5 Millionen Euro und 35 Millionen Euro liegen.

Daten-Qualität und Urheberrechte

Die Regeln sollen unter anderem die Qualität der für die Entwicklung der Algorithmen verwendeten Daten gewährleisten und sicherstellen, dass bei der KI-Entwicklung keine Urheberrechte verletzt werden. Außerdem müssen Entwickler klar kenntlich machen, dass durch Künstliche Intelligenz geschaffene Texte, Bilder und Töne auf dieser Technologie beruhen.

Verschärfte Vorgaben soll es für "risikoreiche" Anwendungen geben, etwa bei kritischer Infrastruktur, Sicherheitsbehörden und Personalverwaltung. Dort sollen eine Kontrolle durch den Menschen über KI, eine technische Dokumentation und ein System zum Risikomanagement festgeschrieben werden.

Nach der politischen Einigung vom Freitagabend müssen nun noch technische Details ausgearbeitet werden.

Sorge um Fortschritt

Deutschland, Frankreich und Italien hatten zuletzt vor scharfen Auflagen gewarnt, um die Entwicklung der Zukunftstechnologie nicht zu gefährden. Der deutsche Digital- und Verkehrsminister Volker Wissing warnte vor einem EU-Alleingang. So gibt es Befürchtungen, Start-up-Unternehmen wie Aleph Alpha aus Deutschland und Mistral AI in Frankreich könnten in ihrer Entwicklung behindert werden.

Die Einzelheiten sollen in den kommenden Tagen ausgearbeitet werden. Das Europaparlament und die Staaten müssen dem nun vereinbarten Vorhaben noch zustimmen. Das gilt aber als Formsache.