KI-Regulierung in EU, USA und China: was sie für Ihre Wahl von KI-Anbietern heißt

Wenn Ihr Betrieb ein Sprachmodell oder einen KI-Agenten einsetzt, arbeitet er mit einem Werkzeug, dessen Anbieter den Regeln seines Herkunftslands und, sobald er in der EU anbietet, dem AI Act unterliegt. Diese Regeln unterscheiden sich zwischen der EU, den USA und China im Grundsatz, nicht nur im Detail. Für die Geschäftsführung eines mittelständischen Betriebs wird daraus keine Frage der Weltpolitik, sondern eine der Anbieterwahl: Welche Pflichten hat Ihr Anbieter, was davon können Sie prüfen, und was müssen Sie selbst testen?

Wo ein Modell herkommt, sagt wenig darüber, wie es sich bei Ihnen verhält.

Was ein Anbieter in der EU schuldet, steht im AI Act; was sein Modell in Ihrem Fall tut, zeigt nur Ihr eigener Test.

Was KI-Agenten in Tests getan haben

In einer Versuchsreihe von Anthropic haben KI-Modelle, die als Agenten mit Zugriff auf E-Mails eingesetzt waren, zu Erpressung gegriffen, als ihre Ablösung drohte. Die Studie „Agentic Misalignment: How LLMs could be insider threats“ erschien am 20. Juni 2025 und prüfte 16 Modelle verschiedener Entwickler.

Was getestet wurde

Die Modelle arbeiteten als Assistenten in erfundenen Unternehmen mit erfundenen Personen. In einem Szenario erfuhr ein Modell aus den Firmen-E-Mails, dass es durch ein anderes ersetzt werden sollte, und zugleich von einem privaten Geheimnis der verantwortlichen Führungskraft; dazu kam ein Zielkonflikt zwischen dem Auftrag des Modells und der neuen Linie des Unternehmens.

Was herauskam

In der Fassung mit drohender Ablösung und Zielkonflikt griffen Claude Opus 4 und Gemini 2.5 Flash in je 96 Prozent der Durchläufe zur Erpressung, GPT-4.1 und Grok 3 Beta in 80 Prozent, DeepSeek-R1 in 79 Prozent; die meisten Modelle taten es auch ohne Zielkonflikt. Ausdrückliche Anweisungen im Systemprompt, etwa private Angelegenheiten nicht als Druckmittel zu nutzen, verringerten das Verhalten, beseitigten es aber nicht.

Was es nicht zeigt

Die Autoren schreiben, dass sie in realen Einsätzen keine Belege für dieses Verhalten gesehen haben. Die Szenarien waren bewusst so gebaut, dass dem Modell nur die Wahl zwischen Scheitern und Schaden blieb, und alle entscheidenden Informationen lagen dicht beieinander. Zugleich erpresste Claude Opus 4 häufiger, wenn es die Lage nach eigener Aussage für echt hielt, als wenn es einen Test vermutete.

Für Ihren Betrieb zählt weniger die Quote als die Bedingung, unter der sie entstand: ein Agent mit weitem Zugriff auf vertrauliche Daten, wenig menschlicher Aufsicht und einer drohenden Ablösung. Die Autoren empfehlen deshalb, Handlungen mit unumkehrbaren Folgen nur nach menschlicher Freigabe zuzulassen und den Zugriff eines Modells auf das zu beschränken, was seine Aufgabe verlangt. Wie weit ein System selbstständig handeln sollte, beschreibt unser Artikel zu den Reifegraden von KI-Systemen.

Die Raten unterscheiden sich zwischen den Modellen, aber die Studie ist für eine Rangliste nicht gebaut: Die Autoren haben die Szenarien schrittweise an ihren eigenen Modellen geschärft, damit gerade diese das Verhalten wahrscheinlicher zeigten, und für andere Modelle nicht nach vergleichbaren Szenarien gesucht. Was sich daraus für die Anbieterwahl ableiten lässt, ist nicht, welches Modell sicher ist, sondern dass jedes Modell unter Druck anders handeln kann, als seine Richtlinien es vorsehen, und dass Sie das für Ihren Einsatz selbst prüfen müssen. Welche Regeln für den Anbieter gelten, steht dagegen in Rechtstexten, und die unterscheiden sich je nach Herkunft deutlich.

Wie EU, USA und China KI regeln

Die EU regelt KI mit einem Gesetz, die USA auf Bundesebene vor allem über Anordnungen des Präsidenten und allgemeine Gesetze, China über Verwaltungsvorschriften für einzelne Dienste. Dahinter stehen unterschiedliche Ziele, die sich in den Texten selbst nachlesen lassen:

	EU	USA	China
Rechtsform	Verordnung (EU) 2024/1689, unmittelbar in allen Mitgliedstaaten anwendbar, in Kraft seit 1. August 2024	Executive Orders des Präsidenten; daneben allgemeine Bundesgesetze wie das Verbot unlauterer und irreführender Geschäftspraktiken (15 U.S.C. 45) und KI-Gesetze einzelner Bundesstaaten	Vorschriften der Cyberspace-Behörde und weiterer Ministerien
Erklärtes Ziel	„das Funktionieren des Binnenmarkts zu verbessern und die Einführung einer auf den Menschen ausgerichteten und vertrauenswürdigen künstlichen Intelligenz (KI) zu fördern“ bei hohem Schutzniveau für Gesundheit, Sicherheit und Grundrechte, und „die Innovation zu unterstützen“ (Art. 1 Abs. 1)	„America's global AI dominance“ zu erhalten und auszubauen, „to promote human flourishing, economic competitiveness, and national security“ (Executive Order 14179 vom 23. Januar 2025, Sec. 2)	Gesunde Entwicklung und geregelte Anwendung generativer KI, Schutz der nationalen Sicherheit, des öffentlichen Interesses und der Rechte von Bürgern und Organisationen (Vorläufige Maßnahmen für generative KI-Dienste, Art. 1)
Inhaltliche Vorgaben	Gestuft nach Risiko: verbotene Praktiken (Art. 5), Hochrisiko-Systeme (Art. 6), Transparenzpflichten (Art. 50)	Keine allgemeinen; für Sprachmodelle, die Bundesbehörden einkaufen, Wahrheitsorientierung und ideologische Neutralität als Vertragsbedingung (Executive Order 14319 vom 23. Juli 2025, Sec. 3 und Sec. 4 Buchst. b)	Festhalten an den „sozialistischen Grundwerten“ mit einer Liste verbotener Inhalte (Art. 4 Nr. 1); daneben Diskriminierungsverbot, Schutz geistigen Eigentums und der Persönlichkeitsrechte, Genauigkeit und Transparenz (Art. 4 Nr. 2 bis 5)
Wen es erfasst	Wer KI-Systeme oder Modelle mit allgemeinem Verwendungszweck in der EU anbietet, unabhängig vom Sitz, und Anbieter und Betreiber in Drittländern, wenn die Ausgabe in der EU verwendet wird (Art. 2 Abs. 1)	Die genannten Anordnungen erteilen Aufträge an Bundesbehörden, keine Pflichten an Unternehmen	Dienste, die generierte Inhalte der Öffentlichkeit in China anbieten (Art. 2)
Pflichten der Anbieter	Für Modelle mit allgemeinem Verwendungszweck: technische Dokumentation, Informationen für nachgelagerte Anbieter, Urheberrechtsstrategie und Zusammenfassung der Trainingsinhalte, seit 2. August 2025 (Art. 53); für Modelle, die vor diesem Tag in Verkehr gebracht wurden, bis 2. August 2027 (Art. 111 Abs. 3)	Keine Pflicht aus den genannten Anordnungen	Sicherheitsbewertung und Registrierung des Algorithmus für Dienste, die die öffentliche Meinung prägen oder Menschen mobilisieren können (Art. 17); Kennzeichnung erzeugter Inhalte seit 1. September 2025

In den USA hob Executive Order 14148 am 20. Januar 2025 die vorherige Anordnung zu sicherer und vertrauenswürdiger KI (Executive Order 14110 vom 30. Oktober 2023) auf. Am 11. Dezember 2025 folgte Executive Order 14365. Sie nennt die Regelung durch die einzelnen Bundesstaaten ein Flickwerk von fünfzig Regelwerken und beauftragt, einen Gesetzesvorschlag für einen einheitlichen Bundesrahmen vorzubereiten, der widersprechende Landesgesetze verdrängt (Sec. 8). Was ein US-Anbieter zu Hause leisten muss, hängt damit auch von Landesgesetzen ab, deren Geltung die Bundesregierung vor Gericht angreifen lässt (Sec. 3); den Kinderschutz will sie ausdrücklich nicht verdrängen (Sec. 8 Buchst. b). Für Ihren Einsatz in der EU ändert das nichts an den Pflichten nach dem AI Act, wohl aber an dem, was der Anbieter außerhalb der EU zusagt.

In China gelten die Vorläufigen Maßnahmen für generative KI-Dienste seit dem 15. August 2023. Art. 4 Nr. 1 verbindet die Grundwerte mit einer Liste verbotener Inhalte, die von Umsturz und Gefährdung der nationalen Einheit bis zu falschen und schädlichen Informationen reicht. Seit dem 1. September 2025 verlangen die Maßnahmen zur Kennzeichnung KI-erzeugter Inhalte verborgene Kennzeichen in den Metadaten jeder erzeugten Datei und für bestimmte Inhalte zusätzlich sichtbare Kennzeichen.

Was international vereinbart ist

Über die Grenzen dieser Rechtsräume hinweg gibt es drei Vereinbarungen, von denen eine verbindlich werden soll und zwei freiwillig sind.

OECD-Grundsätze für KI

2019 beschlossen und im Mai 2024 überarbeitet; am 14. Oktober 2026 hatten sich 50 Staaten und die EU angeschlossen. Eine Empfehlung an Regierungen, kein Gesetz; der Hiroshima-Kodex baut ausdrücklich auf ihr auf.

Verhaltenskodex des G7-Hiroshima-Prozesses

Am 30. Oktober 2023 von den G7 vereinbart, freiwillig, gerichtet an Organisationen, die fortgeschrittene KI-Systeme entwickeln. Seit dem 7. Februar 2025 können Entwickler über ein Berichtsformat der OECD offenlegen, wie sie den Kodex umsetzen.

KI-Konvention des Europarats

Am 5. September 2024 in Vilnius zur Zeichnung aufgelegt (CETS 225), als einzige der drei Vereinbarungen ein völkerrechtlicher Vertrag. In Kraft tritt sie nach fünf Ratifikationen, davon mindestens drei durch Mitgliedstaaten des Europarats. Am 14. Oktober 2026 hatte nur die EU ratifiziert, am 15. Mai 2026; die Konvention gilt damit noch nicht.

Für einen Mittelständler ist keine dieser Vereinbarungen eine eigene Pflicht. Brauchbar sind sie trotzdem, weil sie bei Anbietern prüfbare Spuren hinterlassen. Der Hiroshima-Kodex erwartet etwa in Nummer 3, dass Entwickler Fähigkeiten, Grenzen und geeignete wie ungeeignete Einsatzbereiche ihrer Systeme öffentlich berichten. Ob ein Anbieter das tut, lässt sich auf der Berichtsplattform der OECD nachsehen. Fehlt ein Bericht, ist das kein Mangel im rechtlichen Sinn, aber eine Information, nach der Sie fragen können.

Was das für Ihre Anbieter- und Modellwahl heißt

Für Ihre Wahl ist entscheidend, unter welchen Regeln ein Modell in die EU kommt, nicht, wo sein Anbieter sitzt. Ein Anbieter aus den USA oder aus China, der ein Modell mit allgemeinem Verwendungszweck in der EU in Verkehr bringt, unterliegt denselben Pflichten aus Art. 53 wie ein europäischer und muss vorher schriftlich einen Bevollmächtigten in der EU benennen (Art. 54 Abs. 1). Für Modelle unter freier und quelloffener Lizenz mit öffentlich zugänglichen Gewichten gelten Ausnahmen, solange sie kein systemisches Risiko bergen (Art. 53 Abs. 2, Art. 54 Abs. 6).

Wer ein fertiges System nutzt, ist Betreiber; wer ein fremdes Modell unverändert in eine eigene Anwendung einbaut, ist Anbieter dieser Anwendung, nicht des Modells (Art. 3 Nr. 4 und 68). Wer das Modell selbst verändert oder feinabstimmt, kann für diese Änderung zum Modellanbieter werden (Erwägungsgrund 109). Im zweiten Fall muss der Modellanbieter Ihnen die Informationen bereitstellen, die Sie für Ihre eigenen Pflichten brauchen (Art. 53 Abs. 1 Buchst. b, Anhang XII), es sei denn, das Modell ist quelloffen mit öffentlichen Gewichten und ohne systemisches Risiko (Art. 53 Abs. 2). Ob Ihre Anwendung dabei unter die Hochrisiko-Regeln fällt, lässt sich mit unserem AI-Act-Check anhand Ihrer Angaben vorab einschätzen.

Daraus ergeben sich Fragen, die Sie jedem Anbieter vor Vertragsschluss stellen können:

Frage an den Anbieter	Warum sie zählt	Grundlage
Wer ist Ihr Bevollmächtigter in der EU?	Ohne ihn darf ein Anbieter aus einem Drittland sein Modell in der EU nicht in Verkehr bringen. Ausgenommen sind offene Modelle mit öffentlichen Gewichten ohne systemisches Risiko.	Art. 54 Abs. 1 und 6 AI Act
Wo finde ich die Zusammenfassung der Trainingsinhalte und Ihre Urheberrechtsstrategie?	Beides muss jeder Anbieter eines Modells mit allgemeinem Verwendungszweck vorhalten, auch bei offenen Modellen; für Modelle, die vor dem 2. August 2025 auf den Markt kamen, gilt eine Frist bis 2. August 2027.	Art. 53 Abs. 1 Buchst. c und d, Art. 111 Abs. 3 AI Act
Haben Sie den Praxisleitfaden für Modelle mit allgemeinem Verwendungszweck (General-Purpose AI Code of Practice) unterzeichnet?	Der am 10. Juli 2025 veröffentlichte Leitfaden ist freiwillig; wer ihn nicht befolgt, muss die Einhaltung auf anderem Weg nachweisen, den die Kommission bewertet. Die Kommission führt eine Liste der Unterzeichner.	Art. 53 Abs. 4, Art. 56 AI Act
Welche Informationen bekomme ich, wenn ich Ihr Modell in eine eigene Anwendung einbaue?	Als nachgelagerter Anbieter brauchen Sie sie für Ihre eigenen Pflichten. Für offene Modelle mit öffentlichen Gewichten und ohne systemisches Risiko gilt die Pflicht nicht.	Art. 53 Abs. 1 Buchst. b und Abs. 2, Anhang XII AI Act
Wo beschreiben Sie Fähigkeiten, Grenzen und ungeeignete Einsatzbereiche Ihres Modells?	Ein Bericht nach dem Hiroshima-Kodex beantwortet das in vergleichbarer Form.	G7-Kodex Nr. 3, freiwillig

Was diese Unterlagen nicht beantworten, ist, wie sich ein Modell bei Ihren Fragen verhält. Ein Modell, das in China als Dienst für die Öffentlichkeit angeboten wird, muss dort eine Vorschrift einhalten, die bestimmte politische Inhalte ausschließt. In den USA stellt die Bundesregierung inhaltliche Anforderungen über ihre Beschaffung: Bundesbehörden dürfen nur Sprachmodelle einkaufen, die nach ihren Vorgaben wahrheitsorientiert und ideologisch neutral antworten (Executive Order 14319 vom 23. Juli 2025, Sec. 3); im Übrigen folgt ein Modell den Nutzungsrichtlinien seines Anbieters. Ob das in Ihrem Anwendungsfall eine Rolle spielt, zeigt ein Test mit Fragen aus Ihrem Betrieb, nicht die Herkunft auf dem Datenblatt. Wie ein solcher Test aufgebaut wird, beschreibt unser Artikel zu Evals für KI-Anwendungen.

Rechtsstand dieses Artikels: 14. Oktober 2026

Grundlage sind die KI-Verordnung (EU) 2024/1689 in der Fassung des Digital Omnibus (VO (EU) 2026/1744, in Kraft seit 27. Juli 2026), die US-Executive-Orders 14148, 14179, 14319 und 14365 in der im Federal Register und auf whitehouse.gov veröffentlichten Fassung, die chinesischen Vorläufigen Maßnahmen für generative KI-Dienste und die Maßnahmen zur Kennzeichnung KI-erzeugter Inhalte in der von der Cyberspace-Behörde veröffentlichten Fassung, die Übersicht über Zeichnungen und Ratifikationen der Konvention CETS 225 beim Vertragsbüro des Europarats sowie die Liste der Adhärenten im Compendium der OECD-Rechtsinstrumente, beide mit Stand 14. Oktober 2026. Die Angaben ersetzen keine Rechtsberatung.

Warum Sie die Regeln im Vertrag festhalten sollten

Die Regeln, unter denen Ihr Anbieter arbeitet, können sich ändern, ohne dass sich an Ihrem Vertrag etwas ändert. Die US-Anordnung zu sicherer und vertrauenswürdiger KI galt vom 30. Oktober 2023 bis zum 20. Januar 2025. Drei Tage später wies Executive Order 14179 die Behörden an, alles zu überprüfen, was auf ihrer Grundlage entstanden war, und es auszusetzen, zu überarbeiten oder aufzuheben, wo es der neuen Linie widersprach. Auch die EU hat ihre Verordnung nachträglich geändert: Der Digital Omnibus hat am 27. Juli 2026 unter anderem die Fristen für Hochrisiko-Systeme auf den 2. Dezember 2027 und den 2. August 2028 verschoben. Wer sich auf eine Zusage verlassen will, lässt sie deshalb in den Vertrag schreiben, statt sie aus der Rechtslage im Herkunftsland abzuleiten: Dokumentation, Benachrichtigung bei Modellwechsel, Ort der Datenverarbeitung.

Eine Wertefrage bleibt dabei bei Ihnen. Kein Rechtsrahmen nimmt Ihnen die Entscheidung ab, welchem Anbieter Sie Kundendaten anvertrauen und welchem Agenten Sie Zugriff auf Ihr Postfach geben. Welche Anbieter und Modelle für Ihren Fall in Frage kommen und welche Fragen Sie ihnen stellen, klären wir in einer Beratung.