UN-Bericht warnt: Künstliche Intelligenz verstärkt geschlechtsspezifische Vorurteile

Ein neuer Bericht der Vereinten Nationen warnt, dass künstliche Intelligenz bestehende geschlechtsspezifische Vorurteile verstärkt, was zu verstärktem Online-Missbrauch und zu einer Unterrepräsentation bei Entscheidungen über die digitale Zukunft führt.

Ausmaß der Verzerrungen

Eine Analyse von 133 KI‑Systemen ergab, dass 44 % geschlechtsspezifische Verzerrungen aufweisen, während mehr als ein Viertel sowohl geschlechtliche als auch rassistische Vorurteile zeigen.

Verstetigung traditioneller Rollenbilder

Große Sprachmodelle verbinden häufig Rollen, die traditionell dem Haushalt zugeordnet werden, mit weiblichen Pronomen und ordnen Rollen, die mit Wirtschaft und Führung assoziiert werden, männlichen Pronomen zu. In einigen Fällen erzeugen die Systeme Darstellungen, in denen Personen als sexuelle Objekte oder als untergeordnet gegenüber anderen dargestellt werden.

Erklärung der Fachleute

Jayathma Wickramanayake, UN Women Lead on Digital Technologies, erklärt: „KI‑Modelle ziehen Vorurteile aus jahrzehntelangem Text, der von Menschen verfasst wurde, in einer Welt, in der Rollen nach Geschlecht unterschieden wurden.“ Laut ihr ist das kein technisches Versehen, sondern ein politisches Defizit, das im Design, in den Trainingsdaten und in den Richtliniendokumenten verankert ist.

Globale Strategien und Maßnahmen

Von 138 untersuchten Ländern beziehen sich nur 24 in ihren nationalen KI‑Strategien explizit auf geschlechtsspezifische Fragen, und lediglich 18 enthalten konkrete Maßnahmen, die geschlechtsspezifische Auswirkungen adressieren.

Arbeitsmarkt und Repräsentation

Weltweit machen Personen, die in vielen Bereichen unterrepräsentiert sind, nur etwa ein Drittel der Beschäftigten im KI‑Sektor aus. Die Unterrepräsentation erschwert die Einbindung vielfältiger Perspektiven in die Entwicklung von Algorithmen.

Wirtschaftliche Folgen

Personen, die in Berufen mit hohem Automatisierungsrisiko arbeiten, sind fast doppelt so häufig von Arbeitsplatzverlusten betroffen wie andere. Die Kombination aus technologischem Wandel und bestehenden Ungleichheiten könnte bestehende Benachteiligungen weiter verstärken.

Wirtschaftlicher Nutzen von Inklusion

Studien der Stereotype Alliance zeigen, dass werbe- und marketingbezogene Inhalte ohne geschlechtsspezifische Stereotype höhere Umsätze, stärkere Kundenloyalität und bessere Preisgestaltung erzielen. Unternehmen, die Inklusion in ihre KI‑Prozesse integrieren, könnten demnach sowohl Reputations- als auch Wettbewerbsvorteile gewinnen.

Ausblick

Die Vereinten Nationen fordern, dass Gleichstellung und die Erfahrungen aller Menschen in jeder Phase des KI‑Lebenszyklus berücksichtigt werden – von der Entwicklung über die Implementierung bis zur Governance. Auf dem bevorstehenden Global Dialogue on Artificial Intelligence Governance und dem AI for Good Global Summit in Genf soll das Thema weiter vertieft werden.

Dieser Bericht basiert auf Informationen von Vereinte Nationen, lizenziert unter Public Data / Terms of Use (Attribution Required). Quelle unterliegt den Nutzungsbedingungen der jeweiligen internationalen Organisation.