EU plant Gesetz zur Regulierung von Künstlicher Intelligenz

Die einen sind fasziniert, die anderen fürchten sich – die Rede ist von generativer Künstlicher Intelligenz (KI). Paradebeispiele dafür sind ChatGPT und DALL-E. Die Open AI Entwickler erreichten dank der beiden generativen Tools binnen kürzester Zeit eine Medienpräsenz, die in diesem Umfang unglaublich ist. Begeistert sind jedoch nicht alle. Denn je mehr neue Anwendungsbereiche durch generative KI geschaffen werden, desto mehr neue Rechtsfragen werden aufgeworfen.

Die EU plant derweil ein Gesetz zur Regulierung generativer KI und der neu geschaffenen Rechtsfragen. Bereits seit 2021 steht auf EU-Ebene der Plan, einen Rechtsrahmen im Umgang mit Künstlicher Intelligenz zu schaffen. Wie ist der aktuelle Stand der Regulierungspläne?

Künstliche Intelligenz als Risiko – Grundrechte & Privatsphäre beeinträchtigt?

Im Rahmen der Regulierung soll dabei eine Risikoeinstufung der KI-Systeme im Hinblick auf Grundrechte, Sicherheit und Privatsphäre erfolgen. Schon vor zwei Jahren wurden acht Bereiche herausgearbeitet, die Hochrisiko-KI-Systeme darstellen. Darunter finden sich unter anderem KI-Systeme

• zur biometrischen Identifizierung und Kategorisierung natürlicher Personen,
• zur Verwaltung und zum Betrieb kritischer Infrastrukturen,
• zur allgemeinen und beruflichen Bildung,
• zur Beschäftigung, zum Personalmanagement und zum Zugang zur Selbstständigkeit,
• zur Zugänglichkeit und Inanspruchnahme grundlegender privater und öffentlicher Dienste und Leistungen,
• zur Strafverfolgung,
• für Migration, Asyl und Grenzkontrollen,
• für Rechtspflege und demokratische Prozesse.

Welche konkreten Systeme und Anwendungsbereiche darunter zu verstehen sind, ist in Anhang III des Vorschlages für ein Gesetz über Künstliche Intelligenz von 2021 zu lesen.

Generative Künstliche Intelligenz – Neuland für die EU

Die Verhandlungen um den europäischen Rechtsrahmen für Künstliche Intelligenz sollten dieses Jahr eigentlich in die entscheidende Phase gehen. Dieser Zeitplan wird anhand der neu aufgeworfenen Fragen bezüglich generativer KI jedoch sehr wahrscheinlich nicht einzuhalten sein.

Unter generativer KI sind Algorithmen zu verstehen, die selbstständig neue Inhalte (Texte, Videos, Bilder) schaffen. Erst kürzlich kursierte in den sozialen Medien ein (vermeintliches) Bild des Papstes in weißem Daunenmantel mit Kruzifix und Coffee-to-go. Und auf LinkedIn gab es Tage, an denen der Feed gefüllt war mit Bildern, auf denen sich jeder in die Hauptrolle seines Lieblingsfilmes oder in ein bekanntes Gemälde verwandelt hat.

Diese generativen KI wurde bislang nicht explizit im Gesetzesvorschlag bedacht – und vor allem nicht, ob sie auch als hochriskante Technik eingestuft werden sollte. Eine formale Einordnung in eine der Risikoklassen gebe es bislang noch nicht. Unklar sei außerdem, wie ein KI-System zu behandeln ist, das eine allgemeine – kategorienübergreifende – Anwendung findet, aber noch nicht in einem konkreten Fall angewendet wird. Zu klären sei daher zunächst, wie angesichts der Praktikabilität, Innovationsfähigkeit und ständigen Weiterentwicklung mit solcher generativen KI umzugehen ist.

Stetiger Fortschritt bringt KI-Gesetzesvorschlag zum Erliegen

Ziel eines Gesetzes zur Regulierung von Künstlicher Intelligenz soll dem Bundesjustizministerium zufolge sein, einen Ausgleich zu finden zwischen der Eindämmung von Risiken und der Etablierung Europas als „Hub für neue KI-Entwicklungen“. Bemängelt wird der bisherige Entwurf dort, wo bislang Durchführungsrechtsakte noch fehlen. Aufgrunddessen fehle es dem bisherigen Gesetzesvorschlag noch an Vorhersehbarkeit, Transparenz und Klarheit, die zugunsten von Unternehmen geschaffen werden sollte.

Wann mit einem Gesetzesvorschlag gerechnet werden kann, der auch generative KI im Speziellen berücksichtigt, ist schwer zu sagen, zumal entsprechende Diskussionen bislang noch auf technischer Ebene stattfinden. Bis man mit einer diesbezüglichen Entwicklung im IT-Recht rechnen kann, wird wohl noch ein wenig Zeit ins Land ziehen.