UNICEF warnt vor massivem Missbrauch von Deepfake‑Technologie bei Kindern

Ein neuer Bericht der UN‑Kinderhilfsorganisation UNICEF weist darauf hin, dass in den vergangenen zwölf Monaten mindestens 1,2 Millionen Kinder in elf Ländern Opfer von sexuell‑expliziten Deepfake‑Manipulationen geworden sind. Die Studie, die gemeinsam mit INTERPOL und dem Netzwerk ECPAT durchgeführt wurde, zeigt ein dringendes Handlungsbedürfnis, weil die vorhandenen Gesetze den technischen Entwicklungen hinterherhinken.

Ausmaß des Problems

Die Erhebung ergab, dass in manchen Ländern bis zu ein Kind von 25 betroffen ist – das entspricht etwa einem Kind pro Klassenraum. In einigen Untersuchungsgebieten gaben bis zu zwei Drittel der befragten Kinder an, sich Sorgen zu machen, dass KI‑gestützte Verfahren zur Erstellung falscher sexueller Bilder genutzt werden könnten.

Technische Hintergründe

Deepfakes bezeichnen Bild‑, Video‑ oder Audiodateien, die mithilfe künstlicher Intelligenz erzeugt oder manipuliert werden, um realistisch zu wirken. Ein besonders verbreitetes Verfahren ist das sogenannte „Nudification“, bei dem KI‑Tools Kleidung aus Fotos entfernen oder verändern, um gefälschte Nacktbilder zu erzeugen.

Auswirkungen auf Kinder

UNICEF betont, dass die Verwendung des Bildes oder der Identität eines Kindes eine direkte Viktimisierung darstelle. Selbst wenn kein konkretes Opfer identifiziert werden kann, normalisiere KI‑generiertes kindliches sexuelle Missbrauchsmaterial die Ausbeutung und erschwere die Arbeit der Strafverfolgungsbehörden erheblich.

Rechtliche Lücken

Der Bericht kritisiert, dass in vielen Ländern die Definition von kindlichem sexuellem Missbrauchsmaterial nicht auf KI‑generierte Inhalte ausgeweitet sei. UNICEF fordert deshalb, dass Gesetze die Erstellung, den Erwerb, den Besitz und die Verbreitung solcher Inhalte ausdrücklich kriminalisieren.

Empfehlungen für Entwickler

Die UN‑Kinderhilfsorganisation spricht sich für ein „Safety‑by‑Design“-Prinzip aus, bei dem KI‑Modelle bereits in der Entwicklungsphase mit wirksamen Schutzmechanismen ausgestattet werden, um missbräuchliche Nutzung zu verhindern.

Rolle der Plattformen

Digitale Unternehmen sollen nicht nur bereits verbreitete KI‑generierte Kinderpornografie entfernen, sondern proaktiv deren Verbreitung verhindern. Dazu gehöre die Investition in Erkennungstechnologien und ein verstärktes Content‑Moderationssystem.

Handlungsaufforderungen

UNICEF ruft Regierungen, KI‑Entwickler und digitale Plattformen zu sofortigen Maßnahmen auf: Gesetzliche Definitionen anpassen, Sicherheitsvorkehrungen implementieren und den technischen Kampf gegen die Verbreitung von Deepfake‑Missbrauch intensivieren.

Dieser Bericht basiert auf Informationen von UN News, lizenziert unter Public Data / Terms of Use (Attribution Required). Quelle unterliegt den Nutzungsbedingungen der jeweiligen internationalen Organisation.