Am 9. Juli 2026 wurde in Paris ein Vortrag gehalten, in dem die Risiken von KI‑gestützten Bildmanipulationen für Jugendliche thematisiert wurden. Der Verfasser der Rede schilderte ein Szenario, in dem ein 15‑jähriger Jugendlicher durch das unbefugte Hochladen eines Fotos in eine KI‑App innerhalb von Minuten mit expliziten Darstellungen konfrontiert wird. Diese Darstellung verdeutlicht die Dringlichkeit, rechtliche und technische Gegenmaßnahmen zu entwickeln.
AusmaĂź des Problems
Der Redner verwies darauf, dass bereits mehrere Fälle von nicht einvernehmlicher Bildgenerierung gemeldet wurden, bei denen persönliche Fotos von Bürgern ohne deren Zustimmung in pornografische Inhalte umgewandelt wurden. Die betroffenen Personen berichteten von psychischen Belastungen und dem Verlust ihrer Online‑Privatsphäre.
Reaktion der Kommission
In der Rede kündigte die Europäische Kommission an, den bestehenden Rechtsrahmen zu erweitern und konkrete Vorgaben für Plattformen zu erarbeiten, die KI‑Gestaltungstools anbieten. Ziel sei es, klare Haftungsregeln zu schaffen und die Durchsetzung von Löschanfragen zu beschleunigen.
Internationale Zusammenarbeit
Der Verfasser betonte, dass die Bekämpfung von KI‑Missbrauch nur durch enge Kooperation zwischen den Mitgliedstaaten, Strafverfolgungsbehörden und internationalen Organisationen gelingen könne. Gemeinsame Arbeitsgruppen sollen bewährte Verfahren austauschen und grenzüberschreitende Ermittlungen koordinieren.
Technische Lösungen
Zur Unterstützung der rechtlichen Maßnahmen sollen neue Technologien entwickelt werden, die manipulierte Bilder automatisch erkennen. Dazu zählen Wasserzeichen‑Techniken, die Herkunft von Bilddaten nachverfolgen, sowie KI‑gestützte Filter, die verdächtige Inhalte in Echtzeit blockieren.
Ausblick
Die Kommission plant, im kommenden Quartal einen Legislativvorschlag zu präsentieren, der die Verantwortung von Anbietern klar definiert und den Opferschutz stärkt. Weiterhin soll ein Förderprogramm für Forschung und Entwicklung im Bereich der Bild‑Authentifizierung eingerichtet werden.
Dieser Bericht basiert auf Informationen von Europäische Kommission, lizenziert unter Creative Commons BY 4.0 (Europäische Union). Enthält Informationen von Organen der Europäischen Union.
Ende der Uebertragung