Sie sind hier: Home » Recht » EU & Europa » Europäische Kommission

Gesetz über die Künstliche Intelligenz


EU-Gesetz über die Künstliche Intelligenz ist der erste umfassende Rechtsrahmen für Künstliche Intelligenz weltweit
Politische Einigung zwischen EU-Parlament und Rat auf KI-Gesetz



Nach langen Verhandlungen haben sich die europäischen Gesetzgeber, das Europäische Parlament und der Rat der EU auf das Gesetz über die Künstliche Intelligenz politisch geeinigt. "Künstliche Intelligenz verändert schon heute unseren Alltag. Und das ist erst der Anfang. Klug und breit eingesetzt, verspricht KI enorme Vorteile für unsere Wirtschaft und Gesellschaft", sagte Ursula von der Leyen, Präsidentin der Europäischen Kommission.

Die Präsidentin betonte weiter: "Das EU-Gesetz über die Künstliche Intelligenz ist der erste umfassende Rechtsrahmen für Künstliche Intelligenz weltweit. Dies ist also ein historischer Moment. Mit dem KI-Gesetz werden die europäischen Werte in eine neue Ära überführt. Durch die Konzentration der Regulierung auf erkennbare Risiken wird die heutige Einigung eine verantwortungsvolle Innovation in Europa fördern. Indem sie die Sicherheit und die Grundrechte von Menschen und Unternehmen garantiert, wird sie die Entwicklung, den Einsatz und die Einführung vertrauenswürdiger KI in der EU unterstützen. Unser KI-Gesetz wird einen wesentlichen Beitrag zur Entwicklung globaler Regeln und Grundsätze für menschenzentrierte KI leisten."

"KI ist bereits ein echter Wandel, und wir, die Europäer, müssen eine rechtliche Möglichkeit haben, uns vor den schädlichsten Auswirkungen der KI zu schützen", ergänzte Věra Jourová, Vizepräsidentin für Werte und Transparenz. "Unser Ansatz ist risikobasiert und innovationsfreundlich. Wir wollen einfach, dass die Menschen ihre Rechte behalten und die Grundrechte im digitalen Zeitalter gewahrt bleiben. Das können wir nicht nur durch Gesetze erreichen, sondern auch durch die Wertschätzung von Technologieentwicklern und die Zusammenarbeit mit ihnen, damit sie bei der Entwicklung und Implementierung von KI-Technologie einen menschenzentrierten Ansatz verfolgen."

"Das KI-Gesetz ist viel mehr als ein Regelwerk - es ist eine Startrampe für Start-ups und Forscher in der EU, um im weltweiten Wettlauf um vertrauenswürdige KI die Führung zu übernehmen", unterstrich EU-Binnenmarktkommissar Thierry Breton. "Dieses Gesetz ist kein Selbstzweck, sondern der Beginn einer neuen Ära der verantwortungsvollen und innovativen KI-Entwicklung, die Wachstum und Innovation in Europa fördert."

Risikobasierter Ansatz
Die neuen Vorschriften werden in allen Mitgliedstaaten auf der Grundlage einer zukunftssicheren Definition von KI unmittelbar und in gleicher Weise angewandt. Sie folgen einem risikobasierten Ansatz:

Minimales Risiko
Die große Mehrheit der KI-Systeme fällt in die Kategorie des minimalen Risikos. Anwendungen mit minimalem Risiko wie KI-gestützte Empfehlungssysteme oder Spam-Filter werden von einem Freipass und fehlenden Verpflichtungen profitieren, da diese Systeme nur ein minimales oder gar kein Risiko für die Rechte oder die Sicherheit der Bürger darstellen. Auf freiwilliger Basis können sich die Unternehmen jedoch zu zusätzlichen Verhaltenskodizes für diese KI-Systeme verpflichten.

Hohes Risiko
KI-Systeme, die als risikoreich eingestuft werden, müssen strenge Anforderungen erfüllen, darunter Systeme zur Risikominderung, eine hohe Qualität der Datensätze, die Protokollierung von Aktivitäten, eine ausführliche Dokumentation, klare Benutzerinformationen, menschliche Aufsicht und ein hohes Maß an Robustheit, Genauigkeit und Cybersicherheit. Regulatorische Sandkästen werden verantwortungsvolle Innovationen und die Entwicklung von konformen KI-Systemen erleichtern.

Kritische Infrastrukturen
Beispiele für solche risikoreichen KI-Systeme sind bestimmte kritische Infrastrukturen, z. B. in den Bereichen Wasser, Gas und Strom, medizinische Geräte, Systeme zur Bestimmung des Zugangs zu Bildungseinrichtungen oder zur Rekrutierung von Personen oder bestimmte Systeme, die in den Bereichen Strafverfolgung, Grenzkontrolle, Rechtspflege und demokratische Prozesse eingesetzt werden. Darüber hinaus gelten biometrische Identifizierungs-, Kategorisierungs- und Emotionserkennungssysteme ebenfalls als hochriskant.

Unannehmbares Risiko
KI-Systeme, die eine eindeutige Bedrohung für die Grundrechte der Menschen darstellen, werden verboten. Dazu gehören KI-Systeme oder -Anwendungen, die das menschliche Verhalten manipulieren, um den freien Willen des Nutzers zu umgehen, wie z. B. Spielzeug mit Sprachassistenz, das gefährliches Verhalten von Minderjährigen fördert, oder Systeme, die ein "Social Scoring" durch Regierungen oder Unternehmen ermöglichen, sowie bestimmte Anwendungen der vorausschauenden Polizeiarbeit. Darüber hinaus werden einige Anwendungen biometrischer Systeme verboten, z. B. Systeme zur Erkennung von Emotionen am Arbeitsplatz und einige Systeme zur Kategorisierung von Personen oder zur biometrischen Fernidentifizierung in Echtzeit zu Strafverfolgungszwecken in öffentlich zugänglichen Räumen (mit engen Ausnahmen).

Spezifisches Transparenzrisiko
Beim Einsatz von KI-Systemen wie Chatbots sollten sich die Nutzer bewusst sein, dass sie mit einer Maschine interagieren. Deep Fakes und andere KI-generierte Inhalte müssen als solche gekennzeichnet werden, und die Nutzer müssen informiert werden, wenn biometrische Kategorisierungs- oder Emotionserkennungssysteme verwendet werden. Darüber hinaus müssen die Anbieter ihre Systeme so gestalten, dass synthetische Audio-, Video-, Text- und Bildinhalte in einem maschinenlesbaren Format gekennzeichnet und als künstlich erzeugt oder manipuliert erkannt werden können.

Strafen
Unternehmen, die sich nicht an die Vorschriften halten, müssen mit Geldstrafen rechnen.

KI für allgemeine Zwecke
Mit dem KI-Gesetz werden spezielle Vorschriften für KI-Modelle für allgemeine Zwecke eingeführt, die für Transparenz entlang der Wertschöpfungskette sorgen werden. Für sehr leistungsfähige Modelle, die systemische Risiken darstellen könnten, wird es zusätzliche verbindliche Verpflichtungen in Bezug auf das Risikomanagement und die Überwachung schwerwiegender Vorfälle sowie die Durchführung von Modellevaluierungen und Tests mit gegnerischen Systemen geben. Diese neuen Verpflichtungen werden durch Verhaltenskodizes operationalisiert, die von der Industrie, der Wissenschaft, der Zivilgesellschaft und anderen Interessengruppen zusammen mit der Kommission entwickelt werden.

Neues Office für Künstliche Intelligenz
Was die Verwaltung betrifft, so werden die zuständigen nationalen Marktaufsichtsbehörden die Umsetzung der neuen Vorschriften auf nationaler Ebene überwachen, während die Einrichtung eines neuen europäischen AI-Offices innerhalb der Europäischen Kommission die Koordinierung auf europäischer Ebene sicherstellen wird. Das neue Office für Künstliche Intelligenz wird auch die Umsetzung und Durchsetzung der neuen Vorschriften für allgemeine KI-Modelle überwachen.

Zusammen mit den nationalen Marktaufsichtsbehörden wird das Amt für künstliche Intelligenz die erste Stelle auf der Welt sein, die verbindliche Vorschriften für künstliche Intelligenz durchsetzt, und soll daher zu einem internationalen Bezugspunkt werden. Für allgemeine Modelle wird ein wissenschaftliches Gremium unabhängiger Experten eine zentrale Rolle spielen, indem es Warnungen zu systemischen Risiken herausgibt und zur Klassifizierung und Prüfung der Modelle beiträgt.

Nächste Schritte
Nach der Verabschiedung des AI-Gesetzes wird es eine Übergangszeit geben, bevor die Verordnung anwendbar wird. Um diese Zeit zu überbrücken, wird die Kommission einen KI-Pakt ins Leben rufen. Er wird KI-Entwickler aus Europa und der ganzen Welt zusammenbringen, die sich auf freiwilliger Basis verpflichten, die wichtigsten Verpflichtungen des KI-Gesetzes bereits vor Ablauf der gesetzlichen Fristen umzusetzen.

Internationale Ebene
Um Regeln für vertrauenswürdige KI auf internationaler Ebene zu fördern, wird die Europäische Union weiterhin in Foren wie der G7, der OECD, dem Europarat, der G20 und der UNO mitarbeiten. Erst kürzlich haben wir die Einigung der G7-Staats- und Regierungschefs im Rahmen des Hiroshima-Prozesses für KI auf internationale Leitprinzipien und einen freiwilligen Verhaltenskodex für fortgeschrittene KI-Systeme unterstützt. (EU-Kommission: ra)

eingetragen: 31.12.23
Newsletterlauf: 20.03.24


Meldungen: Europäische Kommission

  • Verluste von Kunststoffpellets verringern

    Die Europäische Kommission begrüßt die zwischen dem Europäischen Parlament und dem Rat erzielte vorläufige Einigung über den Vorschlag der Kommission, die Verschmutzung durch Mikroplastik durch Kunststoffpellets in der gesamten Wertschöpfungskette, auch während des Transports, insbesondere auf See, zu regulieren und zu verhindern. Die neue Verordnung wird die Umwelt schützen und gleichzeitig sicherstellen, dass die europäischen Industrien weiterhin nachhaltig operieren und expandieren können.

  • Schutz vor möglichen Risiken in Spielzeug

    Die Europäische Kommission begrüßt die vorläufige politische Einigung zwischen dem Europäischen Parlament und dem Rat über die neuen Vorschriften für die Sicherheit von Spielzeug im Anschluss an den Vorschlag der Kommission für eine Verordnung über die Sicherheit von Spielzeug vom 28. Juli 2023. Die neue Verordnung wird die Verwendung schädlicher Chemikalien wie PFAS, endokrine Disruptoren und Bisphenole in Spielzeug verbieten. Alle Spielzeuge werden über einen digitalen Produktpass verfügen, um zu verhindern, dass unsicheres Spielzeug, das online und offline verkauft wird, in die EU gelangt.

  • Zusammenarbeit im Verbraucherschutz (CPC-Netz)

    Die Europäische Kommission und die nationalen Verbraucherschutzbehörden von 25 Mitgliedstaaten sowie Island und Norwegen haben die Ergebnisse einer Überprüfung ("Sweep") von Online-Händlern, die Gebrauchtwaren wie Kleidung, elektronische Geräte oder Spielzeug verkaufen, veröffentlicht. "Sweeps" werden von der Europäischen Kommission koordiniert und von den nationalen Durchsetzungsbehörden zeitgleich durchgeführt. Mit dem aktuellen Sweep sollte überprüft werden, ob die Praktiken dieser Händler mit dem EU-Verbraucherrecht im Einklang stehen. Die Verbraucherschutzbehörden überprüften 356 Online-Händler und stellten fest, dass 185 (52 Prozent) von ihnen möglicherweise gegen das EU-Verbraucherrecht verstoßen.

  • Ziele Wettbewerbsfähigkeit und Klimaschutz

    Die Europäische Kommission hat ein neues Paket von Vorschlägen zur Vereinfachung der EU-Vorschriften und zur Steigerung der Wettbewerbsfähigkeit angenommen, das zusätzliche Investitionen freisetzen soll. Dies ist ein wichtiger Schritt nach vorn bei der Schaffung günstigerer Rahmenbedingungen für Unternehmen in der EU, damit diese wachsen, innovativ sein und hochwertige Arbeitsplätze schaffen können.

  • Stärkung der Arzneimittel-Lieferketten

    Die Kommission hat einen Vorschlag für eine Verordnung vorgelegt, mit der die Verfügbarkeit kritischer Arzneimittel in der EU verbessert werden soll. Ziel des Vorschlags ist es, die menschliche Gesundheit zu schützen, indem Anreize für eine Diversifizierung der Lieferkette geschaffen werden und die Herstellung von Arzneimitteln in der EU gefördert wird. Dadurch wird die Arzneimittelbranche in der EU unterstützt, die einen großen Anteil an unserer Wirtschaftsleistung hat.

Wir verwenden Cookies um unsere Website zu optimieren und Ihnen das bestmögliche Online-Erlebnis zu bieten. Mit dem Klick auf "Alle akzeptieren" erklären Sie sich damit einverstanden. Erweiterte Einstellungen