Überblick und wichtige Maßnahmen

Das EU-KI-Gesetz führt einen umfassenden Regulierungsrahmen ein, der die sichere und ethische Entwicklung von künstlichen Intelligenzsystemen innerhalb der Europäischen Union gewährleisten soll. Dieses Gesetz ergänzt die bestehende Datenschutz-Grundverordnung (DSGVO), indem es die besonderen Herausforderungen angeht, die KI-Technologien mit sich bringen, wie etwa die Notwendigkeit von Transparenz, Rechenschaftspflicht und dem Schutz personenbezogener Daten.

Klassifizierung von KI-Systemen

Der EU-KI-Act klassifiziert KI-Systeme in verschiedene Risikokategorien mit jeweils spezifischen regulatorischen Anforderungen. Die Einteilung sieht wie folgt aus:

Verbotene KI-Systeme

Dazu gehören KI-Systeme, die ein inakzeptables Risiko darstellen, etwa solche, die menschliches Verhalten zum Nachteil der Benutzer manipulieren oder Schwachstellen bestimmter Gruppen ausnutzen. Weitere Informationen finden Sie auf der Europäische Kommission.

Hochrisiko-KI-Systeme

Diese Systeme unterliegen aufgrund ihrer möglichen Auswirkungen auf Sicherheit und Grundrechte strengen Anforderungen. Beispiele hierfür sind KI, die in kritischer Infrastruktur, Bildung, Beschäftigung, wesentlichen privaten und öffentlichen Diensten, Strafverfolgung und Grenzkontrolle eingesetzt wird. Weitere Einzelheiten finden Sie auf der Konsilium Webseite.

KI-Systeme mit begrenztem Risiko

Diese Systeme erfordern Transparenzpflichten, wie etwa die Information der Benutzer, dass sie mit einem KI-System interagieren. Zu dieser Kategorie gehören Chatbots und andere KI-Systeme, die direkt mit Benutzern interagieren. Weitere Informationen finden Sie unter Digitale Strategie.

KI-Systeme mit minimalem Risiko

Diese Systeme unterliegen im Rahmen des AI Acts weitgehend keiner Regulierung, da sie nur minimale oder gar keine Risiken bergen. Beispiele hierfür sind KI-Systeme, die in Videospielen oder Spamfiltern eingesetzt werden. Weitere Informationen finden Sie unter KPMG.

Wichtige Maßnahmen für KI-Systeme mit hohem Risiko

Risikomanagementsystem

Hochrisiko-KI-Systeme müssen ein umfassendes Risikomanagementsystem implementieren. Dazu gehört die kontinuierliche Identifizierung, Analyse und Minderung von Risiken während des gesamten Lebenszyklus des KI-Systems. Anbieter müssen diese Prozesse dokumentieren und sicherstellen, dass sie regelmäßig aktualisiert werden. Weitere Einzelheiten finden Sie unter PwC.

Datenamt

Anbieter von KI-Systemen mit hohem Risiko müssen robuste Maßnahmen zur Datenverwaltung sicherstellen. Dazu gehört die Gewährleistung von Datenqualität, Relevanz und Repräsentativität. Daten, die für Training, Validierung und Tests verwendet werden, müssen frei von Fehlern und Verzerrungen sein, um diskriminierende Ergebnisse zu vermeiden. Weitere Informationen finden Sie unter Krise24.

Dokumentation und Aufzeichnung

Für KI-Systeme mit hohem Risiko ist eine umfassende Dokumentation erforderlich. Dazu gehören detaillierte technische Unterlagen, Protokolle über den Betrieb des KI-Systems und Aufzeichnungen über die Einhaltung des KI-Gesetzes. Diese Dokumente müssen den Regulierungsbehörden auf Anfrage zur Verfügung gestellt werden. Weitere Informationen finden Sie unter Feldfischer.

Transparenz und Informationsbereitstellung

Hochriskante KI-Systeme müssen den Benutzern klare und verständliche Informationen bereitstellen. Dazu gehören die Fähigkeiten und Grenzen des Systems sowie der Verwendungszweck. Benutzer müssen informiert werden, wenn sie mit einem KI-System interagieren, und Anweisungen für die sichere Verwendung erhalten. Weitere Informationen finden Sie unter Digitale Strategie.

Menschliche Aufsicht

Das KI-Gesetz schreibt eine menschliche Aufsicht für KI-Systeme mit hohem Risiko vor, um sicherzustellen, dass sie wie vorgesehen funktionieren und um Risiken zu mindern. Dazu gehört die Möglichkeit, bei Bedarf einzugreifen und das System zu deaktivieren. Der erforderliche Grad der menschlichen Aufsicht hängt vom spezifischen Anwendungsfall und den potenziellen Risiken ab, die mit dem KI-System verbunden sind. Weitere Einzelheiten finden Sie unter DLA Piper.