Tücken der Technologie - Bundesjustizministerium besorgt: Immer mehr KI-generierte Kinderpornografie

Künstliche Intelligenz (KI) wird einem Medienbericht zufolge zunehmend missbraucht, um Kinder- und Jugendpornografie zu erstellen und über Social-Media-Plattformen zu verbreiten. Während einige Abbildungen komplett künstlich seien, basierten andere auch auf echten Kinderbildern oder sogar echtem Missbrauch, berichtete der SWR am Montag in Mainz unter Berufung auf Recherchen seines Investigativformats „Vollbild“.

Die meisten Abbildungen von KI-generiertem Kindesmissbrauch habe die britische Nichtregierungsorganisation Internet Watch Foundation bislang zwar im Dark Web gefunden. Doch immer mehr davon würden auch im leichter zugänglichen Teil des Internets landen, so Dan Sexton von der Organisation. „Das ist nichts, was vielleicht in der Zukunft passieren könnte, sondern etwas, das bereits jetzt passiert.“

Problem ist, den Verursacher handhabbar zu machen

Der rheinland-pfälzische Justizminister Herbert Mertin (FDP) betonte zwar, dass es rechtliche Regelungen in Deutschland gebe, „mit denen so etwas aus dem Netz entfernt werden kann“. Mertin fügte aber hinzu: „Unser Problem ist immer nur, den Verursacher handhabbar zu machen.“ Viele Täter säßen im Ausland und seien dadurch schwer greifbar.

Das Bundeskriminalamt (BKA) sieht den Angaben zufolge eine Gefahr darin, dass alltägliche, echte Fotos als Grundlage für KI-generierte Pornografie dienen können. Die künstlichen Abbildungen seien schon jetzt kaum von echten zu unterscheiden.

Bundesjustizministerium prüft strafrechtliche Möglichkeiten

Laut Oberstaatsanwalt Markus Hartmann, der die Zentral- und Ansprechstelle Cybercrime (ZAC) in Nordrhein-Westfalen leitet, liegt das Problem vor allem darin, dass es für Plattformbetreiber nicht leicht ist, entsprechendes Bildmaterial zu erkennen. Die Entwicklung könnte dazu führen, dass auch Ermittlungsbehörden KI-generierte Bilder fälschlicherweise als neuen tatsächlichen Missbrauch bewerten und dadurch ressourcentechnisch an ihre Grenzen kämen.

Das Bundesjustizministerium teilte auf „Vollbild“-Anfrage mit, es prüfe fortlaufend das strafrechtliche Instrumentarium. Neben echten seien auch regelmäßig mittels KI generierte kinder- und jugendpornografische Darstellungen strafbar.