Sie sind hier: Home » Markt » Unternehmen, Parteien, Organisationen

Rechtsrahmen für Künstliche Intelligenz

Regulierung von KI: DSK fordert klare Verantwortlichkeit für Hersteller und Betreiber
Die KI-Landschaft ist komplex und zeichnet sich durch eine Vielzahl beteiligter Akteure aus, die auf ganz unterschiedlichen Ebenen involviert sind

Die Konferenz der unabhängigen Datenschutzaufsichtsbehörden des Bundes und der Länder (DSK) fordert, dass in dem beabsichtigten europäischen Gesetz über Künstliche Intelligenz (KI-Verordnung) eine sachgerechte Zuweisung von Verantwortlichkeiten entlang der gesamten KI-Wertschöpfungskette vorgenommen wird. Nur so können die Grundrechte der Betroffenen geschützt werden, deren Daten durch KI verarbeitet werden.

Jede Rechtsunsicherheit in diesem Feld würde den Bürgerinnen und Bürgern, aber insbesondere auch den kleinen und mittleren Unternehmen schaden. Denn sie müssen die Hauptlast der rechtlichen Verantwortung tragen. Die Unternehmen brauchen klare Regeln, damit die Risiken von KI beherrschbar bleiben. Die kommende KI-Verordnung sollte daher für alle Beteiligten – auch für Hersteller und Anbieter von Basismodellen – festlegen, welche Anforderungen sie erfüllen müssen. Eine einseitige Verschiebung der rechtlichen Verantwortung auf die letzten Stufen der Wertschöpfungskette wäre datenschutzrechtlich und wirtschaftlich die falsche Wahl. Nur mit der notwendigen Vertrauenswürdigkeit wird es eine hohe Akzeptanz für die mit KI verbundenen Chancen geben.

Zum Hintergrund:
Die Verhandlungen über einen europäischen Rechtsrahmen für Künstliche Intelligenz (KI) sind in eine entscheidende Phase getreten. Im Trilog zwischen Europäischer Kommission, Parlament und Rat hatte das Europäische Parlament in seiner Position vom 14. Juni 2023 wesentliche Abänderungen des Entwurfstexts gefordert. Ausdrücklich in den regulatorischen Rahmen einbezogen werden sollten danach Basismodelle ("foundation models"). Dabei handelt es sich um KI-Systemmodelle, die auf einer breiten Datenbasis trainiert wurden, auf eine allgemeine Ausgabe ausgelegt sind und an eine breite Palette unterschiedlicher Aufgaben angepasst werden können.

Nach dem Vorschlag des Parlaments sollten die Anbieter von Basismodellen bestimmte Mindestanforderungen erfüllen, etwa mit Blick auf die Datenqualität, die Erklärbarkeit und die Cybersicherheit. In einem nunmehr bekannt gewordenen Positionspapier haben sich die EU-Mitgliedstaaten Deutschland, Frankreich und Italien jedoch gegen verbindliche Vorgaben für Basismodelle ausgesprochen und ein sanktionsloses Konzept der Selbstregulierung in die Diskussion eingebracht.

Die KI-Landschaft ist komplex und zeichnet sich durch eine Vielzahl beteiligter Akteure (z. B. Hersteller, Anbieter, Betreiber, Anwender und Endnutzende) aus, die auf ganz unterschiedlichen Ebenen (z. B. Konzeption, Entwicklung, Anpassung, Bereitstellung und Nutzung) involviert sind. Können von einem KI-System bestimmte Risiken ausgehen, dürfen Vorschriften zum Umgang damit keine verantwortungsfreien Räume entstehen lassen.

Deutlich wird dies beim Einsatz von KI für die Verarbeitung personenbezogener Daten: So wäre es problematisch, den KI-Betreibern und KI-Anwendern die vollständige Verantwortung für die Beherrschung der Risiken aufzubürden, wenn sie keine verlässlichen Informationen über die Funktionsweisen, die in das KI-Training eingegangenen Daten sowie die Optimierungsziele erhalten und die auf der Ebene der Basismodelle möglichen Maßnahmen zur Risikoeindämmung fehlen. Es muss den KI-Betreibern und KI-Anwendern, darunter gerade auch den heimischen kleinen und mittleren Unternehmen, möglich sein, die Risiken korrekt zu identifizieren. Dies ist nicht nur Bedingung für Datenschutz-Folgenabschätzungen, sondern auch Grundlage, um die Anforderungen des Artikel 25 Datenschutz-Grundverordnung zu Datenschutz by Design und by Default zu erfüllen.

Links zu dem Entwurf der KI-Verordnung in den verschiedenen Versionen:
• >> Europäische Kommission: Vorschlag für eine Verordnung des Europäischen Parlaments und des Rates zur Festlegung harmonisierter Vorschriften für künstliche Intelligenz (Gesetz über künstliche Intelligenz) und zur Änderung bestimmter Rechtsakte der Union, COM(2021) 206 final, 2021/0106(COD), 21.04.2021,
https://eur-lex.europa.eu/legal-content/DE/TXT/HTML/?uri=CELEX:52021PC0206

• >> Abänderungen des Europäischen Parlaments vom 14. Juni 2023 zu dem Vorschlag für eine Verordnung des Europäischen Parlaments und des Rates zur Festlegung harmonisierter Vorschriften für künstliche Intelligenz (Gesetz über künstliche Intelligenz) und zur Änderung bestimmter Rechtsakte der Union (COM(2021)0206 – C9-0146/2021 – 2021/0106(COD)), P9_TA(2023)0236, 14.06.2023,
https://www.europarl.europa.eu/doceo/document/TA-9-2023-0236_DE.html
(Unabhängiges Landeszentrum für Datenschutz Schleswig-Holstein: ULD: ra)

eingetragen: 30.11.23
Newsletterlauf: 08.03.24

ULD: Kontakt und Steckbrief

Der Informationsanbieter hat seinen Kontakt leider noch nicht freigeschaltet.

Meldungen: Markt / Unternehmen

Identitäts-Wallet (EUDI-Wallet)
Ein breites Bündnis aus Wirtschaft, Zivilgesellschaft und deutscher Kreditwirtschaft setzt sich für die rasche Einführung einer europäischen digitalen Identität ein. In einem gemeinsamen Positionspapier fordern die unterzeichnenden Verbände, darunter Bitkom und der Gesamtverband der Deutschen Versicherungswirtschaft (GDV), klare politische Leitlinien sowie eine beschleunigte Umsetzung für die Identitäts-Wallet (EUDI-Wallet). Eine Wallet ist eine virtuelle Brieftasche, in der verschiedene digitale Dokumente auf dem Smartphone oder Tablet gespeichert werden können.
In den Diensten der Rechtsberufe
Doctrine, Plattform für juristische KI, steigt in den deutschen Markt ein. Das französische Legaltech-Unternehmen bietet seine Lösungen nun auch deutschen Kanzleien, Unternehmen, Behörden und Gerichten an. Doctrine entwickelt KI-Werkzeuge, die auf der Grundlage verlässlicher juristischer Informationen bei der Recherche sowie dem Verfassen juristischer Schriftsätze unterstützen. In Deutschland kooperiert Doctrine dazu mit dejure.org, einer der vertrauenswürdigsten Quellen für juristische Informationen. Doctrine geht hierzu eine strategische Beteiligung an dejure.org ein.
Cloud-Souveränität beginnt in Europa
Wer hat Zugriff auf unsere Daten - und wo sind diese gespeichert? Diese Fragen stellen sich aktuell immer mehr Unternehmen in Europa. Angesichts zunehmender Cyberrisiken und globaler Spannungen wächst das Bewusstsein für digitale Souveränität. Und das zu Recht: Besonders die Zusammenarbeit mit US-Cloud-Diensten führt für europäische Unternehmen immer wieder zu Herausforderungen - sowohl operativ, rechtlich als auch sicherheitstechnisch. Die Bedeutung des europäischen Datenstandorts für Resilienz, Zukunfts- und Wettbewerbsfähigkeit ist daher wichtiger denn je. Das gilt gerade für das Vertragsmanagement. Denn hier kommen hochsensible Informationen ins Spiel.
Kernkapital geht insgesamt zurück
Die Europäische Bankenaufsichtsbehörde (EBA) und die Europäische Zentralbank (EZB) haben die Ergebnisse ihres regelmäßigen Stresstests veröffentlicht. Seit dem Frühjahr haben sich die Kreditinstitute der Simulation eines Basis- und eines pessimistischen Drei-Jahres-Szenarios mit einem schweren makroökonomischen Abschwung gestellt. Die Ergebnisse werden von der EZB zur Berechnung der individuellen aufsichtlichen Eigenmittelempfehlung der Institute herangezogen. Der Stresstest hatte zuletzt 2023 stattgefunden.
Bitkom veröffentlicht Transparenzbericht
Als erster großer Wirtschaftsverband hat Bitkom einen umfassenden Transparenzbericht veröffentlicht. Er enthält unter anderem detaillierte Angaben zur internen Organisation, Entscheidungsprozessen, Mitgliederstrukturen, Finanzen und Beschäftigten, Kommunikation und den politischen Aktivitäten. Mit dem Transparenzbericht geht Bitkom deutlich über die gesetzlichen Vorgaben hinaus.

Steigender Bedarf an Compliance-Tools Sicherheit & Resilienz der digitalen Gesellschaft

Fachartikel

Auch mittelbare Benachteiligungen sind verboten
Schon seit 2006 gilt das Allgemeine Gleichbehandlungsgesetz (AGG), was insbesondere Arbeitgeber sehr vorsichtig gemacht hat. Etwa indem Stellenanzeigen alle inzwischen mindestens drei Geschlechter ausdrücklich mit "m/w/d" bezeichnen und auch keine Altersvorgaben mehr vorsehen, sowie geschlechtersensible - korrekt gegenderte - Sprache verwenden. Doch haben viele Berufsverbände noch gar nicht erkannt, dass sie gegenüber Mitgliedern und Bewerbern um Mitgliedschaft noch weitere Pflichten aus dem AGG haben, und diese korrespondierend Rechte, analog wie bei Arbeitnehmern.
Digitale Transformation im Finanzsektor
Die digitale Transformation im Finanzsektor schreitet unaufhaltsam voran - und mit ihr wachsen die Anforderungen an die IT-Sicherheit. Mit dem Digital Operational Resilience Act (DORA) hat die EU nun einen wegweisenden Regulierungsrahmen geschaffen, der die digitale Widerstandsfähigkeit von Finanzinstituten stärken soll. Die neue Verordnung betrifft nicht nur Banken und Versicherungen, sondern den gesamten Finanzsektor inklusive dessen kritischer IT-Dienstleister.

Bundestag

Abgleich biometrischer Lichtbilder zulässig
Die Bundesregierung hat der Auffassung der Fraktion Die Linke widersprochen, wonach die in Paragraf 15b des Asylgesetzes enthaltende Regelung zum automatisierten Abgleich biometrischer Lichtbilder mit allgemein öffentlich zugänglichen personenbezogenen Daten aus dem Internet nicht mit geltenden Recht vereinbar sei, weil zu diesem Abgleich in der EU nicht zugelassene Systeme mit künstlicher Intelligenz verwendet werden müssten.
Behandlung von Nachhaltigkeitsrisiken
Die Frage von höheren Eigenkapitalanforderungen für Anlagen von Versicherungen und Banken in Aktien und Anleihen mit Bezug zu fossilen Brennstoffen fallen in die Zuständigkeit der Europäischen Union. Darauf verweist die Bundesregierung in ihrer Antwort (21/1068) auf eine Kleine Anfrage der Fraktion Bündnis 90/Die Grünen (21/818).
Stand zum Emissionshandel für Gebäude und Verkehr
Die Bundesregierung wird ein neues Klimaschutzprogramm vorlegen, das im Zeitraum bis zum Jahr 2030 auch Maßnahmen zur Treibhausgasminderungsquote im Bereich der durch die EU-Lastenverteilungsverordnung (ESR) erfassten Sektoren Gebäude und Verkehr enthalten wird. Die Maßnahmen für das Programm werden derzeit entwickelt. Das geht aus der Antwort (21/1072) der Bundesregierung auf eine Kleine Anfrage (21/762) der Fraktion Bündnis 90/Die Grünen hervor.

Bundesarbeitsgericht

Frage der Tariffähigkeit des DDN
Nimmt ein Tarifvertrag auf einen anderen Tarifvertrag Bezug, werden die Regelungen des in Bezug genommenen Tarifvertrags inkorporierter Teil des verweisenden Tarifvertrags. Als solcher gelten sie unmittelbar und zwingend zwischen den an den Verweisungstarifvertrag gebundenen Parteien eines Arbeitsvertrags. Das gilt auch für den Fall, dass am Abschluss des in Bezug genommenen Tarifvertrags eine nicht tariffähige Partei beteiligt gewesen sein sollte.
Teilzeit- und Befristungsgesetzes (TzBfG)
Ein nach Maßgabe des Teilzeit- und Befristungsgesetzes (TzBfG) zulässig befristetes Arbeitsverhältnis endet auch dann mit Ablauf der vereinbarten Befristung, wenn der Arbeitnehmer zwischenzeitlich in den Betriebsrat gewählt worden ist. Benachteiligt der Arbeitgeber allerdings das befristet beschäftigte Betriebsratsmitglied, indem er diesem wegen des Betriebsratsmandats keinen Folgevertrag anbietet, hat das Betriebsratsmitglied einen Anspruch auf den Abschluss des verweigerten Folgevertrags als Schadensersatz.
Betriebratswahlrecht & Führungskräfte
Ein Arbeitnehmer, der mehreren Betrieben desselben Unternehmens angehört, hat bei der Wahl des Betriebsrats in sämtlichen dieser Betriebe das aktive Wahlrecht. Das gilt auch für Führungskräfte in Unternehmen mit einer unternehmensinternen Matrix-Struktur.

Corporate Compliance Zeitschrift

Recht und Ethik im Unternehmen
Wenn man sich vertieft mit dem Themenkomplex Ethik im Unternehmen auseinandersetzt, so gerät man bisweilen in einen dynamischen Diskurs. Kernfragen sind, wie Ethik und Recht (auch innerbetriebliches Recht) im Verhältnis zueinander stehen und wie eine Organisation Recht und Ethik bestmöglich vermitteln kann? Gemeinsam haben Recht und Ethik, dass sie Steuerungsinstrumente für individuelles Handeln und die Entwicklung gesellschaftlicher wie unternehmensbezogener Prozesse sind. Beide werden auch oftmals als selbständige Rechtskreise definiert, deren Konnex schwerlich herzustellen sei.
Whistleblowing: Risiken des KI-Einsatzes
Internationale Konzerne stehen beim Aufbau rechtssicherer und zugleich effizienter Hinweisgebersysteme vor komplexen Herausforderungen - etwa durch divergieren- de Rechtsordnungen, kulturelle Unterschiede oder limitiert verfügbare Ressourcen. Künstliche Intelligenz (KI) kann in diesem Kontext substanzielle Effizienzgewinne ermöglichen, sei es bei der Analyse großer Datenmengen, der Priorisierung von Hinweisen oder in der Begleitung interner Untersuchungen.

Zeitschrift Risk, Fraud & Compliance

Befristungsklauseln auch für Compliance-Management
In der öffentlichen Gesetzgebung gibt es immer wieder die Forderung nach und erste Experimente mit befristeten Gesetzen. Regulierungen erhalten dann eine sogenannte Sunset-Klausel, in der die Befristung festgelegt wird. Im Folgenden wird darüber diskutiert, inwiefern befristete Regeln auch für das Compliance-Management innerhalb von Unternehmen sinnvoll sein können.
Darstellung der EU-Ökodesignverordnung
Die Europäische Union hat sich mit dem Green Deal und dem Aktionsplan für die Kreislaufwirtschaft das Ziel gesetzt, den Übergang zu einer nachhaltigen, ressourcenschonenden Wirtschaft systematisch voranzutreiben. Ein zentraler Bestandteil dieser Strategie ist die Regulierung der Umweltverträglichkeit von Produkten über deren gesamten Lebenszyklus hinweg. Die Verordnung zur Schaffung eines Rahmens für die Festlegung von Ökodesignanforderungen für nachhaltige Produkte (Verordnung (EU) 2024/1781) - nachfolgend als EU-Ökodesignverordnung bezeichnet - soll dabei als grundsätzlicher Rechtsrahmen für nahezu alle physischen Waren auf dem EU-Binnenmarkt dienen und die bisherige Richtlinie 2009/125/EG ersetzen.

Zeitschrift Corporate Governance

Vorgaben zur Anwendung der Taxonomie-VO
Die EU-Kommission hat Anfang Juli 2025 einen neuen delegierten Rechtsakt zur Nachhaltigkeitsberichterstattung erlassen. Damit sollen die bereits existierenden delegierten Verordnungen zur EU-Taxonomie betreffend die Berichterstattung nach Art. 8 und die anzuwendenden technischen Bewertungskriterien modifiziert werden. Ziel ist es, die teils anspruchsvollen Vorgaben zu vereinfachen, um europäische Unternehmen von Bürokratiekosten zu entlasten und damit in ihrer Wettbewerbsfähigkeit zu stärken. Der vorliegende Beitrag gibt einen Überblick über Hintergründe und Inhalte der Veröffentlichung und diskutiert sie im Kontext der Omnibus-Initiative der EU-Kommission.
Doppelte Wesentlichkeitsanalyse nach ESRS
Die Corporate Sustainability Reporting Directive (CSRD) und die European Sustainability Reporting Standards (ESRS) markieren einen Paradigmenwechsel in der Nachhaltigkeitsberichterstattung europäischer Unternehmen. Im Zentrum steht dabei die doppelte Wesentlichkeitsanalyse, durch die Unternehmen relevante Nachhaltigkeitsthemen als Auswirkungen, Risiken und Chancen (IROs) identifizieren und bewerten müssen. Der vorliegende Beitrag untersucht, wie börsennotierte Unternehmen der Industrie "Zyklische Konsumgüter" im DAX, MDAX und SDAX diese Anforderungen im Geschäftsjahr 2024 erstmals freiwillig umgesetzt haben. Grundlage ist eine qualitative und quantitative Analyse der doppelten Wesentlichkeitsanalyse und der IRO-Berichterstattung.

Zeitschrift Interne Revision

Die Mitigation der Bedrohungen
Sofern man verstanden hat, was Social Engineering bedeutet, auf welche verschiedenen Arten es eingesetzt werden kann und wie die Bedrohungstaktiken und deren -techniken funktionieren, ist es an der Zeit, Schwachstellen zu verstehen und ein Abwehrkonzept zu entwickeln. Sowohl das MITRE-Att@ck-Modell als auch das Kontrollrahmenwerk des Center for Internet Security helfen bei der Etablierung und Aufrechterhaltung von Gegenmaßnahmen.
Künstliche Intelligenz in der Internen Revision
Eine technische Entwicklung, die aktuell besonders vielversprechend erscheint, um dem Fachkräftemangel im Bereich Interne Revision entgegenzuwirken, ist künstliche Intelligenz (KI). Im Rahmen einer empirischen Untersuchung wurden Mitarbeiterinnen und Mitarbeiter sowie Führungskräfte im Bereich Interne Revision befragt, um den aktuellen Stand des Einsatzes von KI in der Revision zu erheben und potenzielle Einsatzmöglichkeiten zu identifizieren. Derzeit ist KI in der Revision noch nicht flächendeckend im Einsatz, die Einstellung der Revisorinnen und Revisoren zur Thematik ist jedoch positiv. Um den zukünftigen Einsatz von KI in der Internen Revision zu erleichtern, werden praxisorientierte Handlungsempfehlungen abgeleitet, die potenzielle Einsatzmöglichkeiten von KI verdeutlichen.

Bundeskartellamt

Vertikalzusammenschlüsse in digitalen Märkten
Das Bundeskartellamt hat den Erwerb der alleinigen Kontrolle der Salesforce Inc. (Salesforce) über die Informatica Inc. (Informatica) freigegeben. Salesforce mit Sitz in den USA ist der weltweit größte Anbieter von Software für Customer-Relationship-Management (CRM). Informatica, ebenfalls mit Sitz in den USA, ist ein Anbieter von Datenmanagement- und -integrationslösungen, die von vielen Unternehmen aus diversen Branchen genutzt werden, um Daten des Unternehmens zentral zu verarbeiten - zunehmend auch in der Cloud.
Leitplanken des Kartellrechts beachten
Die Open Grid Europe GmbH (OGE), die Betreiberin des größten Gasfernleitungsnetzes in Westdeutschland, plant den Bau einer CO2-Pipeline in Kooperation mit dem ostdeutschen Gasfernleitungsnetzbetreiber ONTRAS Gastransport GmbH (ONTRAS) und eine weitere CO2-Pipeline in Kooperation mit der belgischen Fluxys S.A. (Fluxys). Aufgrund des hohen Investitionsvolumens im einstelligen Milliardenbereich hat OGE das Bundeskartellamt um Hinweise gebeten, falls kartellrechtliche Bedenken gegen die beiden Projekte bestehen.