UNESCO beschließt ersten globalen Völkerrechtstext zur Ethik Künstlicher Intelligenz

Die Empfehlung wurde von der UNESCO in einem zweijährigen, intensiven und teils kontroversen zwischenstaatlichen Verhandlungsprozess erarbeitet. Neben den Mitgliedstaaten selbst wurden dabei zahlreiche weitere Akteure einbezogen, unter anderem in Form einer Expert*innen-Gruppe sowie regionaler Stakeholder-Anhörungen. Das Ergebnis ist ein globaler Referenzrahmen für eine ethische Nutzung von KI, der für demokratische Industriestaaten ebenso handlungsleitend ist wie für autoritäre oder bislang weniger entwickelte Staaten. Diese weltumspannende Reichweite der KI-Ethik-Empfehlung stellt einen zentralen Unterschied zu vergleichbaren bestehenden Initiativen dar, beispielweise der OECD oder des Europarates.

Klarer Handlungsrahmen für die Wahrung von Menschenrechten und Grundfreiheiten

Die UNESCO-Empfehlung nennt Werte und ethische Prinzipien wie Privatsphäre, Transparenz, Erklärbarkeit und Nicht-Diskriminierung, die bei der Entwicklung und Anwendung von KI zu respektieren sind, damit die digitale Transformation Menschenrechte fördert und zu den nachhaltigen Entwicklungszielen der Vereinten Nationen beiträgt. Auf Basis dieser Werte und Prinzipen werden im zweiten Teil der Empfehlung konkrete politische Gestaltungsaufgaben und Maßnahmen definiert. Diese Aufgaben beziehen sich auf elf verschiedene Politikfelder, darunter Umwelt, Bildung und Wissenschaft, Kommunikation, Gesundheit sowie Kultur. Neben dem Fokus auf einzelne Politikfelder widmet sich die Empfehlung auch übergreifenden Fragen ethischer Folgenabschätzung und Regulierung. So empfiehlt sie beispielsweise den Einsatz eines Ethical Impact Assessments für KI-Systeme. Dieses Instrument für ethische Folgenabschätzung soll Vorteile und Risiken von bestimmten KI-Systemen für die Wahrung von Menschenrechten und Grundfreiheiten über deren gesamten Lebenszyklus erfassen und bewerten. Die Empfehlung hält zudem fest, dass Menschenrechte und Grundfreiheiten durch KI-Systeme nicht nur respektiert und geschützt, sondern auch dezidiert gefördert werden sollen. Durch die Benennung des Vorsorgeprinzips wird der ethische Rahmen für KI-Systeme klar definiert: Besteht die begründete Möglichkeit negativer Konsequenzen durch den Einsatz bestimmter KI-Systeme oder -Technologien, soll deren Nutzung oder Entwicklung nicht weiterverfolgt werden. Konkret bedeutet dies beispielsweise das Aus für den Einsatz von KI für Massenüberwachung und das Betreiben von Social Scoring-Systemen wie sie beispielsweise China nutzt.

Neue Handlungsfelder finden erstmals Erwähnung

Auch auf Ebene der einzelnen Politikfelder geht die KI-Ethik-Empfehlung über bestehende Initiativen hinaus und identifiziert neue Handlungsbedarfe. So werden beispielsweise im Bereich der gesellschaftlichen Vielfalt nicht nur Maßnahmen gegen Diskriminierung durch KI-Systeme, beispielsweise aufgrund des Geschlechts oder der sexuellen Orientierung, gefordert, sondern die Mitgliedsstaaten sind darüber hinaus auch angehalten, die Vielfalt in der Technologiebranche selbst zu fördern, in der unter anderem Frauen nach wie vor stark unterrepräsentiert sind. Gleichzeitig sollen Mitgliedstaaten Stereotypisierung in den Ergebnissen von KI-Systemen und -Daten offenlegen und bekämpfen. Auch das Thema Umweltschutz und KI wird in der Empfehlung adressiert. Hierbei wird insbesondere der nachhaltige und ressourcenschonende Einsatz von KI-Systemen in den Blick genommen.

Die KI-Ethik-Empfehlung der UNESCO bietet mit ihrer klaren und umsetzungsorientierten Sprache eine Blaupause für eine verantwortliche Entwicklung nationaler KI-Maßnahmen. Die zentrale Herausforderung für die Mitgliedstaaten wird es nun sein, diese Vorlage zu nutzen und Prozesse aufzusetzen, die in der Implementierung entsprechender Maßnahmen münden. Das UNESCO-Sekretariat und die UNESCO-Nationalkommissionen stehen in der Pflicht, die Mitgliedstaaten dabei zu unterstützen und miteinander zu vernetzen.