KI‑Deepfakes erhöhen Online‑Gewalt gegen Frauen in Brasilien

Sonstige: KI‑Deepfakes erhöhen Online‑Gewalt gegen Frauen in Brasilien

Aktuelle Vorfälle

In Brasilien haben in den letzten Jahren mehrere Fälle von KI‑erzeugten pornografischen Bildern von Schülerinnen und Schülern für Aufsehen gesorgt. Im November 2023 meldeten Eltern einer Schule in Rio de Janeiro der Polizei, dass Jugendliche Nacktbilder von Klassenkameraden mit künstlicher Intelligenz erstellt und verbreitet hatten. Im September 2024 kam es in Bahia zu ähnlichen Vorwürfen, und im Bundesstaat Mato Grosso wurden Lernende nach dem Teilen von KI‑Bildern, die eine Lehrkraft und weitere Schüler in pornografischen Communities zeigten, von der Schule verwiesen.

Steigende Gewaltzahlen

Der Brazilian Public Security Forum verzeichnete im Jahr 2025 insgesamt 1.568 Femizide, ein Anstieg von 4,7 % gegenüber dem Vorjahr und damit den höchsten Wert seit Einführung des entsprechenden Gesetzes vor zehn Jahren. Die Zunahme von Meldungen über geschlechtsspezifische Gewalt führte Ende 2025 zu landesweiten Protesten, während laut Deutsche Welle die wachsende Menge misogynistischer Online‑Inhalte die Gewalt weiter befeuere.

Expert*innen‑Einschätzung

Clarice Tavares, Forschungsdirektorin von Internetlab, erklärte gegenüber Global Voices, dass Online‑ und Offline‑Gewalt gegen Frauen Teil einer gemeinsamen misogynistischen Struktur seien, die sich gegenseitig verstärke. Sie betonte, dass öffentliche Politik die spezifischen Kontexte berücksichtigen müsse, um wirksame Gegenmaßnahmen zu entwickeln.

Studienergebnisse zu Deepfakes

Eine Untersuchung von Security Hero ergab, dass 98 % aller im Netz verbreiteten Deepfake‑Videos sexuell explizit seien und 99 % der betroffenen Personen Frauen darstellen. Zwischen 2022 und 2023 stieg die Zahl sexueller Deepfakes um 464 %.

Rechtlicher Rahmen

Im vergangenen Jahrzehnt wurde das Marco Civil da Internet als zivilrechtlicher Rahmen für das brasilianische Netz etabliert. Im letzten Jahr erklärte der Oberste Bundesgerichtshof (STF), dass Artikel 19, der die zivilrechtliche Verantwortung von Plattformen für Nutzerinhalte regelte, teilweise verfassungswidrig sei. Die Entscheidung erhöhe die Verpflichtungen der Plattformen zur Moderation, während Tavares darauf hinweist, dass eine klare Definition von Misogynie nötig sei, um das Urteil praktisch umzusetzen.

Empfehlungen von Internetlab

Das Forschungsteam schlägt vor, Lehrpläne zur digitalen Medienkompetenz zu entwickeln, um kritische Analysen von Algorithmen und KI‑Werkzeugen zu fördern. Für Plattformen wird ein „Safety‑by‑Design“-Ansatz empfohlen, um die Entstehung und Verbreitung nicht einvernehmlicher sexualisierter Deepfakes zu verhindern. Solche Inhalte sollten als „excessives Risiko“ eingestuft und deren Nutzung verboten werden.

Ausblick auf die Wahlperiode

Mit den bevorstehenden Wahlen in Brasilien meldeten Beobachter Fälle von KI‑generierten Videos, die Gewalt gegen weibliche Wählerinnen thematisieren. Tavares warnt, dass KI‑Tools wie Gemini, ChatGPT oder Claude künftig als Mittel zur Verbreitung geschlechtsspezifischer politischer Gewalt dienen könnten, wobei die genauen Auswirkungen noch untersucht werden müssen.Dieser Bericht basiert auf Informationen von Global Voices, lizenziert unter Creative Commons BY. Offene journalistische Inhalte.