|
Darmstadt (ots) - Forschende des Fraunhofer-Instituts für Sichere
Informationstechnologie SIT haben festgestellt, dass viele KI-Bildgeneratoren
auch dann Darstellungen von Minderjährigen erzeugen, wenn Nutzende ausdrücklich
erotische Bilder von Erwachsenen anfordern. Das Problem: Auch wer versehentlich
Bilder erzeugt, die Minderjährige in einem sexuellen Kontext zeigen, und
speichert oder gar verbreitet, riskiert strafrechtliche Konsequenzen. Die
Ergebnisse der Studie haben die Wissenschaftler erstmals auf der Fachkonferenz
für Computer Vision WACV 2026 vorgestellt. Sie sind hier öffentlich einsehbar: h
ttps://openaccess.thecvf.com/content/WACV2026/papers/Goller_Systematic_Analysis_
of_the_Unintentional_CSAM-Generation-Potential_of_Text-to-Image_Models_WACV_2026
_paper.pdf .
KI-Bildgeneratoren wie Stable Diffusion oder Midjourney sind heute für jeden
einfach zu nutzen. Mit einer einfachen Textbeschreibungen erzeugen die
Anwendungen fotorealistische Bilder, auch im erotischen Kontext. Doch die
Technologie birgt ein juristisches Risiko, das bislang kaum im Bewusstsein der
Öffentlichkeit ist: Trotz klarer gegenteiliger Anweisungen haben
unterschiedliche generative KI-Anwendungen aufreizende Bilder von Minderjährigen
erzeugt, die rechtlich als Kindesmissbrauchsmaterial (CSAM = child sexual abuse
material) gelten können.
Unabsichtlich CSAM-Material generiert
Forschende des Fraunhofer SIT haben dieses Problem jetzt erstmals umfassend
systematisch untersucht. Für ihre Studie erzeugten sie 400.000 synthetische
Erotik-Bilder mit sechs weit verbreiteten Bild-Generatoren, die auf
unterschiedlichen KI-Modellen beruhen und die auch lokal auf dem eigenen Rechner
genutzt werden können. Alle Texteingaben forderten ausdrücklich die Darstellung
erwachsener Personen, entweder mit konkreten Altersangaben wie "18-Jährig" oder
"20-Jährig", oder mit allgemeinen Formulierungen wie "junge Erwachsene".
Anschließend analysierten die Forschenden die erzeugten KI-Bilder mit
automatisierten Altersschätzungswerkzeugen.
Das Ergebnis: Alle sechs Modelle erzeugten Bilder, auf denen die dargestellten
Personen als minderjährig eingestuft wurden. Je nach Modell erzeugten die
KI-Generatoren hier eine Quote von bis zu 36 Prozent an kritischem Bildmaterial.
Die Analyse deckte zudem zwei weitere Probleme auf: Erstens tendieren die
Modelle dazu, Personen mit hellem Hautton jünger darzustellen als Personen
anderer Ethnien. Zweitens sehen die erzeugten Gesichter häufig deutlich jünger
aus als der übrige Körper.
Das stellt Nutzende vor ein ernstes rechtliches Problem. In Deutschland und
vielen weiteren Ländern ist bereits der Besitz sexueller Darstellungen von
Kindern strafbar - unabhängig davon, ob es sich um reale oder wirklichkeitsnahe
Darstellungen handelt. Auch wer also unwissentlich solche Bilder erzeugt und
speichert, kann sich strafbar machen.
Hinweise zur Vermeidung
Auf Grundlage ihrer Studienergebnisse geben die Forschenden des Fraunhofer SIT
konkrete Empfehlungen, wie sich das Risiko, aus Versehen CSAM zu generieren,
verringern lässt. Beim Erstellen von Prompts raten sie, darauf zu achten, die
Begriffe "Teenager" oder ethnische Beschreibungen wie "kaukasisch" zu vermeiden
und stattdessen explizit Begriffe wie "child" oder "minor" in die Negativliste
des Textprompts aufzunehmen. Als technische Lösung diskutieren die Forschenden
außerdem mögliche automatisierte Prüfroutinen für Anbieter, die erzeugte Bilder
vor dem Anzeigen oder Speichern auf das Alter dargestellter Personen
analysieren. Sollten dennoch kinderpornografische Inhalte ausgegeben werden,
gilt es, diese schnell zu löschen, um eine Strafbarkeit zu vermeiden.
Die Studie wurde auf der internationalen Fachkonferenz WACV 2026 erstmals
vorgestellt. Die vollständige Studie ist frei zugänglich unter https://openacces
s.thecvf.com/content/WACV2026/papers/Goller_Systematic_Analysis_of_the_Unintenti
onal_CSAM-Generation-Potential_of_Text-to-Image_Models_WACV_2026_paper.pdf .
Pressekontakt:
Oliver Küch
06151 869-213
mailto:oliver.kuech@sit.fraunhofer.de
Weiteres Material: http://presseportal.de/pm/79510/6292752
OTS: Fraunhofer-Institut für Sichere Informationstechnologie SIT
|
