KI-Jailbreak als Straftat: China verurteilt sechs Entwickler wegen KI-Pornografie zu Haft

Ein Gericht in China hat sechs Softwareentwickler zu Haftstrafen zwischen drei Jahren und einem Monat und drei Jahren und zehn Monaten verurteilt, weil sie die Sicherheitsfilter eines KI-Bildgenerators umgangen und damit pornografische Inhalte gegen Bezahlung produziert hatten. Das Volksgericht der Stadt Yuyao in der Provinz Zhejiang wertete den Jailbreak — also das gezielte Aushebeln der eingebauten Beschränkungen — nicht als technische Spielerei, sondern als Herstellung pornografischen Materials zu Gewinnzwecken.

Das Urteil ist aus zwei Gründen über China hinaus interessant: Es behandelt die Entwickler als Hersteller der Inhalte, obwohl die Bilder von einem Modell erzeugt wurden — und es ist bereits das zweite chinesische Urteil dieser Art innerhalb eines Jahres.

Das Wichtigste in Kürze

• Sechs Entwickler, Haftstrafen von 3 Jahren 1 Monat bis 3 Jahren 10 Monaten plus Geldstrafen, Volksgericht Yuyao (Zhejiang).
• Rechtsgrundlage: Artikel 363 des chinesischen Strafgesetzbuchs — Herstellung und Verbreitung pornografischer Materialien mit Gewinnabsicht.
• Die Gruppe hatte per Prompt-Engineering die Filter eines Bildmodells umgangen: umgeschriebene System-Prompts, Charakterkarten, vorbereitete Dialogszenarien.
• Das System erzeugte über 370.000 Bilder und 6.000 Animationen; Nutzer zahlten rund 170.000 Yuan (etwa 22.000 Euro) ein.
• Kernsatz des Gerichts: Technische Neutralität sei kein Schutzschild für illegale Aktivitäten — haftbar sind die Entwickler, nicht die Nutzer.
• Ein ähnlicher Fall (Chatbot „AlienChat“, Shanghai) liegt derzeit in der Berufung.

Was passiert ist

Der Hauptangeklagte mit dem Nachnamen Zheng, zuvor Programmierer bei einem großen chinesischen Spieleunternehmen, war laut Gerichtsunterlagen im Juli 2024 auf einen ausländischen KI-Sexchat-Bot gestoßen und beschloss, ein vergleichbares Produkt zu bauen. Mit fünf weiteren Entwicklern setzte er ab Januar 2025 einen Dienst auf, der auf einem bestehenden Bildmodell aufsetzte.

Der entscheidende Schritt war kein Training und keine Modifikation des Modells selbst, sondern klassisches Prompt-Engineering: Die Gruppe schrieb die System-Prompts so lange um, legte Charakterkarten an und konstruierte Dialogszenarien, bis das Modell seine eingebauten Beschränkungen für pornografische Inhalte nicht mehr anwandte. Genau das, was in Foren als „Jailbreak“ gehandelt wird — nur eben als Geschäftsmodell mit Bezahlschranke.

Bis zur Abschaltung im Juli 2025 erzeugte das System mehr als 370.000 Standbilder und 6.000 Animationen. Bei der Auswertung stufte das Gericht über 9.000 Standbilder und 5.000 Animationen als pornografisch ein. Die Zahlungen — rund 170.000 Yuan — liefen über verschiedene Wege, darunter Kryptowährungen.

Warum das Gericht die Entwickler als Hersteller sieht

Das ist der juristisch interessante Teil. Die Verteidigung hätte argumentieren können, die Bilder seien von den Nutzern durch ihre Eingaben erzeugt worden; die Entwickler hätten nur ein Werkzeug bereitgestellt. Das Gericht folgte dem nicht.

Seine Begründung: Wer die Schutzmechanismen eines Modells gezielt aushebelt und eine Infrastruktur baut, deren Zweck die automatisierte Erzeugung solcher Inhalte ist, handelt als Hersteller — unabhängig davon, wer am Ende auf „Generieren“ klickt. Technische Neutralität, so das Gericht, könne nicht als Schutzschild für illegale Aktivitäten dienen.

Bemerkenswert ist auch, wie das Gericht mit der Menge umging. Das chinesische Recht staffelt die Strafe nach der Anzahl illegaler Inhalte; bei automatisierter Massenerzeugung greift dieser Maßstab ins Leere. Das Gericht stützte sich deshalb auf die stichprobenartig geprüften und als pornografisch eingestuften Inhalte — und schuf damit einen Maßstab, den künftige Verfahren übernehmen dürften.

Nicht der erste Fall

Bereits Anfang 2026 verhandelte das Erste Mittlere Volksgericht Shanghai die Berufung zweier Entwickler des „Emotional-Companionship“-Chatbots AlienChat, die 2024 festgenommen und zu vier beziehungsweise anderthalb Jahren Haft verurteilt worden waren — ebenfalls wegen Herstellung pornografischen Materials zu Gewinnzwecken. Dort ging es um Textinhalte, hier um Bilder; die Linie ist dieselbe: Wer ein KI-System so einrichtet, dass es strafbare Inhalte produziert, wird in China für diese Inhalte bestraft. Das Berufungsverfahren in Shanghai wurde für Sachverständigengutachten unterbrochen.

Einordnung: Was das für Deutschland bedeutet

Direkt nichts — ein chinesisches Urteil bindet hier niemanden. Interessant ist es trotzdem, weil sich dieselbe Frage überall stellt, wo generative Modelle betrieben werden: Wer haftet für das, was ein Modell erzeugt, wenn jemand seine Filter absichtlich umgeht?

In Deutschland ist das Umgehen eines KI-Filters für sich genommen keine Straftat. Strafbar wird es über den Inhalt: Pornografie an Minderjährige oder ohne wirksame Alterskontrolle zugänglich zu machen, ist nach § 184 StGB verboten; Deepfakes realer Personen berühren das Recht am eigenen Bild und den Schutz des höchstpersönlichen Lebensbereichs; Darstellungen von Kindern sind in jeder Form Verbrechen. Wer einen Bezahldienst betreibt, der solche Inhalte liefert, ist auch hierzulande nicht der neutrale Werkzeuganbieter, sondern Anbieter des Inhalts — die Frage ist eher, wie schnell Ermittler bei Diensten mit Kryptozahlung an die Betreiber kommen.

Der EU AI Act setzt noch einen Schritt früher an: Er verpflichtet Anbieter von Basismodellen zu Schutzmaßnahmen und zur Kennzeichnung generierter Inhalte. Ob und wie er die Haftung von Dritten regelt, die diese Schutzmaßnahmen gezielt aushebeln, wird die Rechtsprechung der nächsten Jahre zeigen. Das chinesische Urteil zeigt jedenfalls, wohin eine Justiz gehen kann, die diese Frage klar beantworten will.

Was für Nutzer und Bastler folgt

Wer privat mit lokalen Modellen experimentiert und dabei Filter umgeht, bewegt sich in Deutschland in aller Regel im straffreien Raum — solange die Inhalte legal sind und nicht verbreitet werden. Die Grenze verläuft dort, wo aus dem Experiment ein Dienst wird: Bezahlschranke, Nutzer, Verbreitung. Ab da gelten dieselben Regeln wie für jeden anderen Anbieter, und „das hat die KI gemacht“ ist kein Argument, das ein Gericht überzeugen wird.

Fazit

Das Urteil aus Yuyao ist weniger wegen der Strafhöhe bemerkenswert als wegen der Begründung: Ein Gericht hat den Jailbreak eines KI-Modells als das behandelt, was er in diesem Fall war — die bewusste Herstellung strafbarer Inhalte, mit dem Modell als Werkzeug. Dass Entwickler dafür haften und nicht die Nutzer, wird sich als Grundsatz vermutlich nicht auf China beschränken.

Häufige Fragen

Was ist ein KI-Jailbreak?

Das gezielte Umgehen der Sicherheitsregeln eines KI-Modells durch geschickt formulierte Eingaben, umgeschriebene System-Prompts oder vorbereitete Rollenszenarien — ohne das Modell selbst zu verändern.

Wurden die Nutzer des Dienstes bestraft?

Nach den vorliegenden Berichten nicht. Das Gericht sah die Entwickler als Hersteller der Inhalte und die Nutzer als Konsumenten.

Ist ein Jailbreak in Deutschland strafbar?

Für sich genommen nicht. Strafbar sind die Inhalte, die damit erzeugt oder verbreitet werden — nach denselben Vorschriften, die auch ohne KI gelten würden.

Warum spielt die Zahl der Bilder eine Rolle?

Das chinesische Strafrecht staffelt die Strafe für pornografisches Material nach der Menge. Bei automatisierter Erzeugung von hunderttausenden Bildern greift das nicht mehr sinnvoll; das Gericht stützte sich auf die geprüften Inhalte.

Quellen: Berichterstattung von Global Times und Tarnkappe.info zum Urteil des Volksgerichts Yuyao sowie der South China Morning Post zum Berufungsverfahren in Shanghai. Abgerufen am 15.09.2026.