Ende vergangen Monats veröffentlichte die EU-Kommission ihren Verordnungsvorschlag für „Systeme der künstlichen Intelligenz (KI)“.

Durch die Verordnung soll die schädliche Verwendung von KI eingeschränkt werden, dennoch sollen die Regelungen die Einführung in vorteilhaften Bereichen nicht behindern. 

Dabei verfolgt die Kommission einen risikobasierten Ansatz. So lassen sich potenzielle KI-Anwendungen in vier unterschiedliche Kategorien einordnen, für welche dann jeweils unterschiedliche Regelungen greifen. So werden Anwendungen mit „minimalem Risiko“ wie z.B. Filter für Spamnachrichten oder Videospiele, einem freiwilligen „Verhaltenskodex“ folgen können. 

Für KI mit „begrenztem Risiko“ werden bereits erste geringfügige Einschränkungen durch den Verordnungsentwurf vorgesehen. Sollte eine KI als „hoch Risiko“-Anwendung eingestuft werden, so ergeben sich für sie strenge Einschränkungen. Zu diesem Bereich gehören z.B. KI-Systeme, die genutzt werden, um die Kreditwürdigkeit zu bewerten oder Einsatz in Medizinprodukten finden.

Der Entwurf sieht für diese Anwendungen vor allem die Einrichtung eines Risikomanagementsystems vor sowie die Möglichkeit einer menschlichen Kontrolle. Außerdem sind strikte Transparenz und Dokumentationsvorgaben einzuhalten. KI mit einem „inakzeptablen Risiko“ soll hingegen verboten werden. 

Dieses Verbot umfasst vor allem Anwendungen, die verwendet werden, um Schwachstellen von Menschen auszunutzen oder die Techniken verwenden, um das Verhalten der Nutzer*innen zu verzerren, wobei dies potenziell physische oder psychische Schäden verursacht. 

Ebenfalls eingeschränkt wird die Anwendung von KI durch Behörden. So wird insbesondere die Verwendung von Echtzeit Gesichtserkennungstechnologie im öffentlichen Raum durch Strafverfolgungsbehörden weitestgehend verboten.

Um Innovationen dennoch zu fördern, sieht die Verordnung außerdem ein sog. „Sandbox“-System vor. Dabei soll eine Umgebung geschaffen werden, in welcher KI unter Aufsicht der zuständigen Behörden entwickelt und getestet werden können. Vorrangigen Zugang hierzu sollen vor allem Start-Ups und kleine und mittlere Unternehmen (KMU) haben.

Jeder Mitgliedsstaat soll eine „nationale zuständige Behörde“ benennen, welche die Vorgaben der Verordnung umsetzt und anwendet. Zudem wird das European Artificial Intelligence Board als europaweite Regulierungsbehörde für KI eingerichtet. 

Bei Verstößen gegen die Verordnung durch die Vermarktung oder die Verwendung von verbotener KI drohen empfindliche Strafen. So liegt die potenzielle Höchststrafe bei 30 Millionen Euro oder 6% des weltweiten Umsatzes. Aber auch andere Verstöße werden mit hohen Strafen belegt.

Abzuwarten bleibt, ob die geplanten strengen Regularien dafür sorgen, dass der europäische Standard auch international Beachtung findet. Oder ob am Ende Entwickler*innen von KI-Systemen in Länder abwandern, in denen weniger strenge Vorgaben gelten wie z.B. China oder die USA.

—
Moritz C. Heinrich