Die neuen Vorschriften werden auf einer zukunftssicheren Definition der KI beruhen und in allen Mitgliedstaaten direkt und in gleicher Weise Anwendung finden. 

Die Kommission begrüßt die zwischen dem Europäischen Parlament und dem Rat erzielte politische Einigung über das im April 2021 von ihr vorgeschlagene Gesetz über künstliche Intelligenz (KI-Gesetz).

Die Präsidentin der Europäischen Kommission Ursula von der Leyen erklärte dazu: „Künstliche Intelligenz verändert unser tägliches Leben bereits heute. Doch das ist erst der Anfang. Eine klug und weithin genutzte KI verspricht enorme Vorteile für unsere Wirtschaft und Gesellschaft. Daher begrüße ich die heutige politische Einigung des Europäischen Parlaments und des Rates über das Gesetz über künstliche Intelligenz sehr. Das KI-Gesetz der EU ist der weltweit erste umfassende Rechtsrahmen für KI. Dies ist ein historischer Moment. Mit dem KI-Gesetz werden europäische Werte in einer neuen Ära umgesetzt. Indem die heutige Einigung den Schwerpunkt der Regulierung auf identifizierbare Risiken legt, wird eine verantwortungsvolle Innovation in Europa gefördert. Durch die Gewährleistung der Sicherheit und der Grundrechte der Menschen und Unternehmen wird sie die Entwicklung, den Einsatz und die Einführung vertrauenswürdiger KI in der EU unterstützen. Unser KI-Gesetz wird einen wesentlichen Beitrag zur Entwicklung globaler Regeln und Grundsätze für eine auf den Menschen ausgerichtete KI leisten.“

Das europäische Konzept für vertrauenswürdige KI
Die neuen Vorschriften werden auf einer zukunftssicheren Definition der KI beruhen und in allen Mitgliedstaaten direkt und in gleicher Weise Anwendung finden. Sie folgen einem risikobasierten Ansatz:

Minimales Risiko: Die große Mehrheit der KI-Systeme fällt in die Kategorie mit minimalem Risiko. Anwendungen mit minimalem Risiko wie KI-gestützte Empfehlungssysteme oder Spam-Filter sind von den Anforderungen befreit und müssen keine Verpflichtungen erfüllen, da diese Systeme nur ein geringes oder kein Risiko für die Rechte oder die Sicherheit der Bürgerinnen und Bürger darstellen. Die Unternehmen können sich dennoch freiwillig zur Einhaltung zusätzlicher Verhaltenskodizes für solche KI-Systeme verpflichten.

Hohes Risiko: Für als hochriskant eingestufte KI-Systeme gelten strenge Anforderungen z. B. im Hinblick auf Risikominderungssysteme, hochwertige Datensätze, die Protokollierung der Vorgänge, die genaue Dokumentation, klare Informationen für die Nutzer, die menschliche Aufsicht sowie ein hohes Maß an Robustheit, Genauigkeit und Cybersicherheit. Reallabore werden verantwortungsvolle Innovationen und die Entwicklung konformer KI-Systeme erleichtern.

Zu solchen Hochrisiko-KI-Systemen gehören auch bestimmte kritische Infrastrukturen, z. B. in den Bereichen Wasser, Gas und Strom, Medizinprodukte, Systeme für die Zugangsgewährung zu Bildungseinrichtungen oder für die Einstellung von Personen oder bestimmte Systeme, die in den Bereichen Strafverfolgung, Grenzkontrolle, Justizverwaltung und demokratische Prozesse eingesetzt werden. Darüber hinaus gelten auch Systeme zur biometrischen Identifizierung und Kategorisierung sowie zur Emotionserkennung als hochriskant.

Unannehmbares Risiko: KI-Systeme, die als klare Bedrohung für die Grundrechte der Menschen gelten, werden ganz verboten. Dazu gehören KI-Systeme oder -Anwendungen, die menschliches Verhalten manipulieren, um den freien Willen der Nutzer zu umgehen (z. B. Spielzeug mit Sprachassistent, das Minderjährige zu gefährlichem Verhalten ermuntert, oder Systeme, die den Behörden oder Unternehmen eine Bewertung des sozialen Verhaltens (Social Scoring) ermöglichen), sowie bestimmte Anwendungen der vorausschauenden polizeilichen Überwachung. Darüber hinaus werden einige Verwendungsarten biometrischer Systeme verboten, z. B. am Arbeitsplatz verwendete Emotionserkennungssysteme und einige Systeme zur Kategorisierung von Menschen oder zur biometrischen Fernidentifizierung in Echtzeit zu Strafverfolgungszwecken im öffentlich zugänglichen Raum (mit eng abgesteckten Ausnahmen).

Besondere Transparenzverpflichtungen: Beim Umgang mit KI-Systemen wie Chatbots sollte den Nutzern bewusst sein, dass sie es mit einer Maschine zu tun haben. Deepfakes und andere KI-generierte Inhalte müssen als solche gekennzeichnet werden, und die Nutzer müssen informiert werden, wenn Systeme zur biometrischen Kategorisierung oder Emotionserkennung verwendet werden. Darüber hinaus müssen die Anbieter Systeme so gestalten, dass synthetische Inhalte wie Audio-, Video-, Text- und Bildinhalte in einem maschinenlesbaren Format als künstlich erzeugt oder manipuliert gekennzeichnet werden und als solche erkannt werden können.

Geldbußen
Unternehmen, die die Vorschriften nicht einhalten, werden mit Geldstrafen belegt. Die Geldbußen können zwischen 35 Mio. EUR bzw. 7 % des weltweiten Jahresumsatzes (je nachdem, welcher Betrag höher ist) für Verstöße gegen das Verbot von KI-Anwendungen, 15 Mio. EUR bzw. 3 % für Verstöße gegen andere Verpflichtungen und 7,5 Mio. EUR bzw. 1,5 % für falsche Informationen betragen. Für Geldbußen für KMU und Start-up-Unternehmen wegen Verstößen gegen das KI-Gesetz sind verhältnismäßigere Obergrenzen vorgesehen.

KI zur allgemeinen Verwendung
Mit dem KI-Gesetz werden besondere Vorschriften für KI-Modelle mit allgemeinem Verwendungszweck eingeführt, die für Transparenz entlang der Wertschöpfungskette sorgen sollen. Für sehr leistungsfähige Modelle, die systemische Risiken bergen könnten, werden zusätzliche verbindliche Verpflichtungen in Bezug auf das Risikomanagement, die Überwachung schwerwiegender Vorfälle, die Modellbewertung und Angriffstests bestehen. Diese neuen Verpflichtungen werden durch Verhaltenskodizes umgesetzt, die von der Industrie, der Wissenschaft, der Zivilgesellschaft und anderen Interessenträgern gemeinsam mit der Kommission aufgestellt werden.

Bezüglich der KI-Governance werden die zuständigen nationalen Marktüberwachungsbehörden die Anwendung der neuen Vorschriften auf nationaler Ebene beaufsichtigen. Gleichzeitig wird ein neues Europäisches Amt für künstliche Intelligenz innerhalb der Europäischen Kommission eingerichtet, um die Koordinierung auf europäischer Ebene zu gewährleisten. Das neue KI-Amt wird auch die Durchführung und Durchsetzung der neuen Vorschriften für KI-Modelle mit allgemeinem Verwendungszweck überwachen. Zusammen mit den nationalen Marktüberwachungsbehörden wird das Amt für künstliche Intelligenz weltweit die erste Stelle sein, die die verbindlichen Vorschriften für KI durchsetzt und wird daher voraussichtlich zu einer internationalen Bezugsstelle werden. Bei Modellen mit allgemeinem Verwendungszweck wird ein wissenschaftliches Gremium unabhängiger Sachverständiger eine zentrale Rolle spielen, indem es Warnungen über systemische Risiken ausgibt und zur Klassifizierung und Erprobung der Modelle beiträgt.

Nächste Schritte
Die politische Einigung muss nun noch vom Europäischen Parlament und vom Rat förmlich verabschiedet werden und tritt dann 20 Tage nach der Veröffentlichung im Amtsblatt in Kraft. Das KI-Gesetz würde dann zwei Jahre nach seinem Inkrafttreten zur Anwendung kommen mit Ausnahme einiger spezifischer Bestimmungen: Verbote gelten bereits nach sechs Monaten, die Vorschriften für KI mit allgemeinem Verwendungszweck nach 12 Monaten.

Um den Übergangszeitraum bis zum allgemeinen Inkrafttreten der Verordnung zu überbrücken, wird die Kommission einen KI-Pakt ins Leben rufen. Dieser wird KI-Entwickler aus Europa und der ganzen Welt zusammenbringen, die darin freiwillig zusagen, die wichtigsten Verpflichtungen des KI-Gesetzes bereits vor Ablauf der gesetzlichen Fristen umzusetzen.

Um die Regeln für eine vertrauenswürdige KI auch auf internationaler Ebene zu fördern, wird die Europäische Union weiterhin in Foren wie der G7, der OECD, dem Europarat, der G20 und den Vereinten Nationen dafür werben. Erst kürzlich begrüßte die Kommission die Vereinbarung der Staats- und Regierungschefs der G7 über internationale Leitprinzipien für KI und einen freiwilligen Verhaltenskodex für fortgeschrittene KI-Systeme im Rahmen des Hiroshima-KI-Prozesses.

Hintergrund
Seit Jahren erleichtert und erweitert die Kommission die EU-weite Zusammenarbeit auf dem Gebiet der KI, um die Wettbewerbsfähigkeit der EU zu steigern und das auf den EU-Werten beruhende Vertrauen zu stärken.

Nach der Veröffentlichung der europäischen KI-Strategie im Jahr 2018 und nach einer weitreichenden Konsultation der Interessenträger stellte die hochrangige Expertengruppe für künstliche Intelligenz (HEG-KI) im Jahr 2019 Leitlinien für vertrauenswürdige KI und im Jahr 2020 eine Bewertungsliste für vertrauenswürdige KI auf. Parallel dazu wurde im Dezember 2018 der erste Koordinierte Plan für KI als gemeinsame Handlungsverpflichtung mit den Mitgliedstaaten veröffentlicht.

In ihrem 2020 veröffentlichten Weißbuch zur KI entwarf die Kommission eine klare Zielvorstellung für KI in Europa: ein Ökosystem für Exzellenz und Vertrauen, das die Grundlage für die heutige politische Einigung bildet. Im Rahmen der öffentlichen Konsultation zum Weißbuch zur KI gingen breit gefächerte Beiträge aus aller Welt ein. Dem Weißbuch war ein „Bericht über die Auswirkungen künstlicher Intelligenz, des Internets der Dinge und der Robotik in Hinblick auf Sicherheit und Haftung“ beigefügt, der ergab, dass die geltenden Produktsicherheitsvorschriften eine Reihe von Lücken aufweisen, die vor allem mithilfe der Maschinenrichtlinie beseitigt werden sollten.

Unabhängige, evidenzbasierte Forschungsarbeiten der Gemeinsamen Forschungsstelle (JRC) sind von grundlegender Bedeutung für die Gestaltung der KI-Politik der EU und ihre wirksame Umsetzung. Durch rigorose Forschung und Analyse, die in die KI-Terminologie, Risikoklassifizierung und technische Anforderungen eingeflossen sind und zur laufenden Entwicklung harmonisierter Normen beigetragen haben, hat die JRC die Entwicklung des KI-Gesetzes unterstützt.