Verordnung zur Künstlichen Intelligenz („AI Act“) wurde angenommen

Die Verordnung stellt sicher, dass KI-Systeme die Grundrechte, Sicherheit und ethischen Grundsätze achten, geht aber gleichzeitig auch Risiken von KI-Modellen an, um vertrauenswürdige KI in Europa und darüber hinaus zu fördern. Die Verordnung wird in allen Europäischen Mitgliedstaaten auf der Grundlage einer zukunftssicheren Definition von KI unmittelbar angewandt. Die Vorschriften teilen KI-Systeme in Risiko-Kategorien ein, je nachdem, ob ein minimales, hohes oder unannehmbares Risiko für die Rechte oder Sicherheit von Bürgerinnen und Bürgern vorliegt, müssen Auflagen erfüllt werden.

• KI-Systeme mit minimalen Risiken wie KI-gestützte Empfehlungssysteme oder Spam-Filter müssen keinen Verpflichtungen, biespielsweise nur auf freiwilliger Basis nachkommen.
• KI-Systeme mit hohen Risiken müssen strenge Anforderungen erfüllen, wie beispielsweise Cybersicherheit, klare Benutzerinformationen, menschliche Aufsicht und eine starke Robustheit. Hierfür gibt es dann regulatorische Vorgaben. Als hochriskant gelten beispielsweise biometrische Identifizierungs-, Kategorisierungs- und Emotionserkennungssysteme. Risikoreiche KI-Systeme werden in manchen kritischen Infrastrukturen eingesetzt, zum Beispiel der Versorgung mit Wasser, Gas und Strom, und medizinischen Geräten, sowie in den Bereichen der Strafverfolgung, Grenzkontrolle, Rechtspflege und demokratischen Prozessen.
• KI-Systeme, welche Grundrechte bedrohen, werden verboten, zum Beispiel Anwendungen, die das menschliche Verhalten manipulieren, um den freien Willen des Nutzers zu umgehen und Systeme, die "Social Scoring" ermöglichen. Einige Anwendungen zur Emotionserkennung und Kategorisierung werden auch verboten.

Ein neues Amt für KI auf EU-Ebene soll, zusammen mit nationalen Aufsichtsbehörden, die Umsetzung und Durchsetzung der neuen Vorschriften überwachen. Nach einer abschließenden Prüfung durch Rechts- und Sprachwissenschaftler wird die Verordnung voraussichtlich noch vor Ende der Legislaturperiode im Rahmen des so genannten Korrigendumverfahrens endgültig verabschiedet. Auch der Rat muss dies noch förmlich billigen.

Mehr Informationen und weiterführende Literatur finden Sie in der Pressemitteilung der Europäischen Kommission.