Die Electronic Frontier Foundation (EFF) weist darauf hin, dass automatisierte Inhaltsmoderation seit der Pandemie zum dauerhaften Standard geworden ist und fordert mehr Transparenz, NachprĂĽfbarkeit und befristete Anwendung.
Entwicklung der automatisierten Moderation
Seit den frühen 2010er‑Jahren nutzten Plattformen Spam‑Filter und Stichwortlisten; 2017 beschrieb Facebook (heute Meta) erstmals den Einsatz von Künstlicher Intelligenz (KI) zur Erkennung extremistischer Inhalte. 2018 erklärte der Unternehmensleiter Mark Zuckerberg vor US‑Senatsausschüssen, dass 99 % der ISIS‑ und Al‑Qaida‑Beiträge bereits von KI erkannt wurden, bevor ein Mensch eingriff.
Beschleunigung durch die Pandemie
Im Jahr 2020 führte ein rascher Anstieg der Nutzerzahlen und ein Rückgang des menschlichen Moderationspersonals zu einer verstärkten Nutzung von KI‑Systemen. Die EFF beobachtete dabei einen Rückschritt bei Transparenz, Meinungsfreiheit und Rechtsbehelfen.
Risiken laut internationalen Gremien
Eine 2025 veröffentlichte gemeinsame Erklärung von UN‑Sonderberichterstattern, OSZE, OAS und ACHPR warnt, dass KI‑Moderation zu Über‑Entfernung, Diskriminierung und Zensur führen kann, weil sie auf voreingenommenen Datensätzen und undurchsichtigen Trainingsprozessen beruht.
Dokumentierte Auswirkungen
Die EFF und Partner haben 2019 die Folgen von automatischer Extremismus‑Regulierung für die Dokumentation von Menschenrechtsverletzungen untersucht. Ein Human‑Rights‑Watch‑Bericht aus 2020 betont, dass wichtige Beweise durch undurchsichtige Löschungen verloren gehen können. Studien zeigen zudem, dass wenig ressourcenstarke Sprachen im Global‑South besonders von Fehlklassifikationen betroffen sind.
Potenzielle Vorteile
Befürworter argumentieren, dass KI die Belastung von menschlichen Moderatoren reduziert, die oft unter schlechten Arbeitsbedingungen und psychischen Belastungen leiden. Langfristig könnten KI‑Modelle präziser und dynamischer werden, wenn sie kontinuierlich verbessert werden.
Forderungen der Zivilgesellschaft
Die EFF betont, dass neben technischen Verbesserungen klare Vorgaben für Transparenz, Rechenschaftspflicht und Beschwerdeverfahren nötig sind. Ohne diese Mechanismen könne die zunehmende Verankerung von KI‑Systemen die Meinungsfreiheit weiter einschränken.
Dieser Bericht basiert auf Informationen von Electronic Frontier Foundation, lizenziert unter Public Data / Terms of Use (Attribution Required). Quelle unterliegt den Nutzungsbedingungen der jeweiligen internationalen Organisation.
Ende der Uebertragung