Eine Studie zu 133 KI-Systemen ergab, dass 44% geschlechtsspezifische Verzerrungen aufweisen und 26% sowohl geschlechts- als auch rassismusbezogene Vorurteile reproduzieren. Gleichzeitig setzen derzeit nur 51% der Marketingfachleute auf menschliche Kontrolle, um KI-generierte Inhalte vor ihrer Veröffentlichung zu überprüfen. Im Vorfeld des Globalen Dialogs der Vereinten Nationen zur Regulierung Künstlicher Intelligenz (6.–7. Juli) sowie des AI for Good Global Summit (7.–10. Juli) in Genf zeigt UN Women auf, was auf dem Spiel steht – und was sich ändern muss, um eine geschlechtergerechte digitale Zukunft zu schaffen.

1. Das Zeitalter KI-generierter Inhalte hat bereits begonnen. Und das Zeitfenster, es zu gestalten, schließt sich schnell.

Generative Künstliche Intelligenz gehört inzwischen zu den am weitesten verbreiteten Technologien im Marketing- und Kommunikationsalltag. Allein im Vereinigten Königreich nutzen bereits 88% der Werbe- und Medienagenturen generative KI in irgendeiner Form. Diskriminierende Algorithmen können daher bestehende Geschlechterungleichheiten und Diskriminierungen weiter verstärken.

Da KI-gestützte Systeme zunehmend in großem Maßstab für die Erstellung von Inhalten und den Medieneinkauf eingesetzt werden, wird immer schneller entschieden, wer sichtbar wird, wie Menschen dargestellt werden und wessen Geschichten erzählt werden, weitgehend ohne menschliche Kontrolle oder eine geschlechtersensible Perspektive.

2. Verzerrungen und diskriminierende Algorithmen sind kein Fehler der KI – sie sind ein systemisches Muster

Große Sprachmodelle (Large Language Models, LLMs) bringen Frauen nachweislich immer wieder mit Begriffen wie „Zuhause“, „Familie“ und „Kinder“ in Verbindung, während Männer mit „Wirtschaft“, „Führung“, „Gehalt“ und „Karriere“ assoziiert werden.

Wenn Sprachmodelle aufgefordert werden, Sätze zu vervollständigen, die mit dem Geschlecht einer Person beginnen, enthalten rund 20% der Antworten sexistische und frauenfeindliche Darstellungen, darunter die Darstellung von Frauen als Sexualobjekte oder als Eigentum ihrer Ehemänner.

Dies sind keine zufälligen Fehler, sondern vorhersehbare Ergebnisse von KI-Systemen, die auf jahrzehntelang gewachsenen Ungleichheiten in der Darstellung von Frauen und Männern trainiert wurden. KI-Verzerrungen sind daher nicht nur ein Problem der Systementwicklung, sondern auch ein politisches Problem.

Von 138 untersuchten Staaten erwähnen lediglich 24 die Geschlechterperspektive in ihren nationalen KI-Strategien, und nur 18 enthalten konkrete geschlechtersensible Maßnahmen. Dadurch besteht die Gefahr, dass Ungleichheiten dauerhaft in zukünftige KI-Systeme eingebaut werden.

3. KI verschärft Gewalt gegen Frauen und Mädchen im digitalen Raum

Daten von UN Women zeigen, dass Frauen und Mädchen weltweit bereits heute einen geringeren Zugang zu digitalen Räumen haben, und dort gleichzeitig deutlich häufiger Gewalt erleben.

Fast jede vierte befragte Menschenrechtsverteidigerin, Aktivistin oder Journalistin hat bereits KI-gestützte digitale Gewalt erfahren. 12% berichten von der nicht einvernehmlichen Verbreitung persönlicher Bilder, darunter intime oder sexuelle Inhalte. 6% geben an, durch sogenannte Deepfakes oder manipulierte Bilder und Videos angegriffen worden zu sein. Mehr als jede vierte Frau erhielt unerwünschte sexuelle Nachrichten über digitale Kommunikationskanäle.

Künstliche Intelligenz verschärft diese Entwicklungen zusätzlich. Deepfakes gehören zu den sichtbarsten Formen KI-gestützter Gewalt und richten sich überproportional häufig gegen Frauen und Mädchen. Während KI-generierte Inhalte zur Normalität werden, wachsen gleichzeitig auch die Möglichkeiten für Belästigung, Manipulation und bildbasierte Gewalt.

4. Frauen werden von den Orten ausgeschlossen, an denen KI entwickelt wird

Generative KI wird das Beschäftigungswachstum in technologieintensiven Branchen erheblich vorantreiben. Dennoch sind Frauen in den Bereichen Wissenschaft, Technologie, Ingenieurwesen und Mathematik (STEM) sowie im KI-Sektor weiterhin deutlich unterrepräsentiert und stellen weltweit lediglich 30% der Beschäftigten im Bereich Künstliche Intelligenz.

Die Menschen, die diese Systeme entwickeln, repräsentieren somit nicht die Milliarden Menschen, für die sie bestimmt sind. Diese offensichtliche Lücke verstärkt die bestehenden Probleme zusätzlich.

5. Die wirtschaftlichen Folgen von KI werden Frauen besonders stark treffen

Frauen außerhalb des KI-Sektors arbeiten nahezu doppelt so häufig wie Männer in Berufen mit hohem Automatisierungsrisiko.

Die durch KI entstehenden Ungleichheiten beschränken sich dabei nicht auf Geschlechterfragen. Sie verstärken sich durch weitere Faktoren wie ethnische Zugehörigkeit, Behinderung, sozioökonomischen Status und geografische Herkunft. Gerade jene Bevölkerungsgruppen, die bereits heute in Medien und Arbeitsmärkten unterrepräsentiert sind, laufen Gefahr, noch weiter zurückzufallen.

6. Inklusive KI ist auch wirtschaftlich sinnvoll

Eine weltweit erste Studie der Unstereotype Alliance, einer von UN Women einberufenen Initiative der Wirtschaft, zeigt, dass inklusive Werbung positive Auswirkungen auf Gewinne, Umsätze und Markenwert hat.

Unternehmen, die inklusive und stereotypefreie Werbung produzieren, erzielen kurzfristig durchschnittlich 3,46% höhere Umsätze und langfristig sogar 16,26% höhere Umsätze. Sie werden mit einer um 62% höheren Wahrscheinlichkeit zur ersten Wahl der Konsumentinnen und Konsumenten, verfügen über eine um 54% stärkere Preissetzungsmacht und erreichen eine um 15% höhere Kundenbindung.

Da KI zunehmend die Planung und Produktion von Werbekampagnen bestimmt, werden Unternehmen, die Inklusion systematisch in diese Prozesse integrieren, erhebliche Vorteile erzielen. Unternehmen, die dies versäumen, setzen sich dagegen erheblichen Reputations- und Geschäftsrisiken aus.

Das im Juni 2026 veröffentlichte Handbuch der Unstereotype Alliance bietet Marketingverantwortlichen konkrete Instrumente, um Verzerrungen in KI-generierten Inhalten frühzeitig zu erkennen und zu korrigieren.

UN Women fordert, dass Gleichstellung sowie die Rechte und Erfahrungen von Frauen und Mädchen in allen Phasen des Lebenszyklus Künstlicher Intelligenz berücksichtigt werden – von der Entwicklung über die Anwendung bis hin zur Regulierung.

Wenn KI sicher gestaltet und verantwortungsvoll eingesetzt wird, kann sie dazu beitragen, Stereotype zu erkennen, vielfältigere Darstellungen zu fördern und Barrierefreiheit im großen Maßstab zu verbessern.

Ob dies gelingt, hängt von den Entscheidungen derjenigen ab, die KI gestalten und regulieren, in Regierungen, Unternehmen und Forschungseinrichtungen. Entscheidend ist, ob die Stimmen, die Expertise und die Lebenserfahrungen von Frauen und Mädchen aus unterschiedlichen Lebensrealitäten sowie die Perspektiven der zivilgesellschaftlichen Organisationen, die mit ihnen arbeiten und ihre Herausforderungen kennen, in diese Entscheidungen einbezogen werden.