KI als Herausforderung für Geschlechtergerechtigkeit

Viele Schritte im Lebenszyklus eines KI-Systems stellen eine Herausforderung für die Geschlechtergerechtigkeit dar. Problematisch sind dabei insbesondere verzerrte Trainingsdaten durch eine Überrepräsentation „männlicher“ Datensätze und Codes, die geschlechterrelevante Aspekte nicht berücksichtigen. Beides kann zu Ergebnissen von KI-Systemen beitragen, die Frauen benachteiligen oder Geschlechterstereotype bedienen und verstärken.

Die UNESCO-Empfehlung zur Ethik der KI ist der erste Völkerrechtstext, der sich in einem eigenen Kapitel mit Fragen der Geschlechtergerechtigkeit im Zusammenhang mit KI-Systemen befasst. Ein wichtiger Grundsatz der UNESCO-Empfehlung ist es, diskriminierende oder voreingenommene Ergebnisse von KI-Systemen während ihres gesamten Lebenszyklus zu minimieren und bestenfalls zu vermeiden. Um dies zu erreichen, sieht die UNESCO-Empfehlung verschiedene Maßnahmen vor, wie die Verabschiedung eines Gender-Aktionsplans als Teil der nationalen Digitalpolitik, mehr Investitionen in die digitale Bildung von Mädchen und Frauen oder hohe Qualitätsstandards für KI-Trainingsdaten.

Auch in Deutschland gibt es noch großen Nachholbedarf, um die Chancengleichheit der Geschlechter im Zusammenhang mit KI-Systemen sicherzustellen. So ist beispielsweise der Informatikunterricht in der Schule oft eher auf die Interessen von Jungen als von Mädchen ausgereichtet und es fehlen sowohl in der formalen als auch der non-formalen Bildung geschützte Räume für Mädchen und junge Frauen, in denen sie ihr Interesse an Informatik entwickeln können. Dies trägt dazu bei, dass Frauen in Informatik- und verwandten Studiengängen stark unterrepräsentiert sind. Dieser „Gender Gap“ spiegelt sich dann auch in der starken Dominanz männlicher Beschäftigter in der deutschen KI-Branche wider und führt letztlich dazu, dass die weibliche Perspektive bei der Entwicklung von KI-Systemen außen vor bleibt.

Empfehlungen für Politik und Verwaltung

Mit Expertinnen und Experten aus Wissenschaft, Politik und Zivilgesellschaft hat die Deutsche UNESCO-Kommission diskutiert, wie Politik und öffentliche Verwaltung die Vorgaben zu Geschlechtergerechtigkeit aus der UNESCO-Empfehlung besser umsetzen können. Mögliche Ansätze sind unter anderem ein Transparenzregister für KI-Systeme, die Stärkung der Betroffenenrechte sowie interdisziplinäre und divers zusammengesetzte KI-Entwicklungsteams und Gremien der KI-Norm- und Standardsetzung. Insgesamt wurden zehn Handlungsansätze erarbeitet und in einem Ergebnispapier für mehr Geschlechtergerechtigkeit und gegen DiskriminierungHerunterladen: (PDF, 109 KB) zusammengefasst.