Am 21. Mai 2024 hat der EU-Rat das „bahnbrechende“ Gesetz zur Harmonisierung der Vorschriften für künstliche Intelligenz, den so genannten EU AI Act – gebilligt. Zwanzig Tage nach Veröffentlichung im Amtsblatt der EU treten die Bestimmungen in Kraft und müssen (mit einigen Ausnahmen) zwei Jahre später angewendet werden. Datenschützer und Wirtschaft zweifeln an den ausgearbeiteten Regeln.
Der EU-Rat sieht im AI Act einen „richtungsweisenden“ Rechtsakt. Unter anderem deshalb, weil es weltweit die ersten Vorschriften sind, die KI-Systeme sicherer und vertrauenswürdiger machen sollen. Gelten wird der AI-Act jedoch nur für Bereiche innerhalb des EU-Rechts, außerdem sieht er Ausnahmen für KI-Systeme vor, die ausschließlich militärischen und verteidigungspolitischen Zwecken sowie Forschungszwecken dienen. Militärische KI-Anwendungen, die wohl zu den gefährlichsten überhaupt zählen, bleiben außen vor.
Die neuen Vorschriften kategorisieren die verschiedenen AI-Arten nach ihren jeweiligen Risiken. Für KI-Systeme mit begrenztem Risiko sollen nur sehr geringe Transparenzpflichten gelten, während Hochrisiko-KI-Systeme zugelassen werden, aber bestimmte Anforderungen und Verpflichtungen erfüllen müssen, um Zugang zum EU-Markt zu erhalten.
KI-Systeme wie zum Beispiel Sozialkreditsysteme werden in der EU verboten, da ihr Risiko als unannehmbar gilt. Verboten sind auch KI-Anwendungen für vorausschauende Polizeiarbeit auf der Grundlage von Profiling sowie Systeme, die biometrische Informationen nutzen, um auf die Rasse, die Religion oder sexuelle Ausrichtung einer Person zu schließen.
Wie auf EU-Ebene üblich wird sich eine Heerschar von Beamten um die Durchsetzung des AI Acts kümmern, allen voran ein Amt für Künstliche Intelligenz („KI-Amt“). Begleitet wird dieses von einem wissenschaftlichen Gremium unabhängiger Sachverständiger, einem koordinierenden Ausschuss für künstliche Intelligenz (KI-Ausschuss) sowie einem Beratungsforum für Interessenträger.
