EU-Beschluss zur KI-Verordnung: Neue Richtlinien zur Produktzulassung und Kennzeichnungspflicht
Im Mai 2024 haben die Mitgliedstaaten der Europäischen Union eine Verordnung zur Regulierung künstlicher Intelligenz (KI) beschlossen. Diese Verordnung, die ab Frühjahr 2026 in Kraft tritt, sieht vor, dass KI-Systeme einer strengen Produktzulassung unterliegen. Analog zu Medizinprodukten müssen Hersteller eine Konformitätserklärung abgeben, die bescheinigt, dass ihre Produkte den erforderlichen Regelungen entsprechen.
Produktzulassung und Verantwortlichkeiten
Die Logik der neuen Verordnung folgt der Struktur der Zulassung von Medizinprodukten. Hersteller und Inverkehrbringer von KI-Systemen müssen sicherstellen, dass ihre Produkte den festgelegten Standards und Anforderungen genügen. Dies beinhaltet umfassende Tests und Bewertungen, um die Sicherheit und Zuverlässigkeit der KI-Systeme zu gewährleisten.
Weitreichende Kennzeichnungspflicht
Ein weiterer wichtiger Aspekt der Verordnung ist die Einführung einer Kennzeichnungspflicht für Inhalte, die mit Hilfe von KI erstellt wurden. Diese Maßnahme soll Transparenz schaffen und den Nutzern Klarheit darüber geben, ob sie es mit von KI generierten Inhalten zu tun haben.
Bußgelder bei Verstößen
Die Einhaltung der neuen Verordnung wird streng überwacht. Bei Verstößen drohen empfindliche Strafen: Unternehmen können mit Bußgeldern von bis zu 35 Millionen Euro oder 7% ihres weltweiten Umsatzes belangt werden, je nachdem, welcher Betrag höher ist.
Hochriskante KI-Systeme
Besondere Aufmerksamkeit widmet die Verordnung den sogenannten hochriskanten KI-Systemen. Diese gelten als besonders risikobehaftet, wenn sie in den folgenden Bereichen eingesetzt werden:
- Verarbeitung biometrischer Daten
- Kritische Infrastrukturen
- Allgemeine und berufliche Bildung
- Beschäftigung und Arbeitnehmermanagement
- Kreditwürdigkeitsprüfungen
- Lebens- und Krankenversicherungen
- Strafverfolgung
- Migration
- Rechtspflege
- Demokratische Prozesse
Für diese Anwendungsbereiche gelten besonders strenge Vorschriften, um Missbrauch und potenzielle Schäden zu verhindern.
Management-System
Für Hochrisiko-KI-Systeme muss ein Risikomanagementsystem eingerichtet und weiterentwickelt werden. Diese ist in ein Qualitätsmanagementsystem einzubinden. Als Grundlage hierfür kann die ISO 27001 oder die ISO 42001 dienen.
Fazit
Die neue KI-Verordnung der EU soll sicherstellen, dass künstliche Intelligenz verantwortungsvoll eingesetzt wird und sowohl den Anforderungen an Sicherheit als auch Transparenz entspricht. Unternehmen in der EU müssen sich frühzeitig auf die kommenden Regelungen vorbereiten, um die Konformität ihrer Produkte sicherzustellen und mögliche Sanktionen zu vermeiden.
Wir unterstützen Sie bei der Risikobewertung und dem Aufbau des Managementsystems. Sprechen Sie uns an.
Dieser Text wurde mit Unterstützung einer KI erstellt.
