Der Text definiert klare ethische Leitplanken und übersetzt sie in konkrete politische Gestaltungsaufgaben. Die UNESCO-EmpfehlungHerunterladen: (PDF, 879 KB) bietet somit die völkerrechtliche Basis für eine KI-Nutzung, die Menschenrechte und Grundfreiheiten nicht nur achtet, sondern auch verteidigt und fördert.
Die Empfehlung wurde von der UNESCO in einem zweijährigen, intensiven und teils kontroversen zwischenstaatlichen Verhandlungsprozess erarbeitet. Neben den Mitgliedstaaten selbst wurden dabei zahlreiche weitere Akteure einbezogen, unter anderem in Form einer Expertengruppe sowie regionaler Stakeholder-Anhörungen. Das Ergebnis ist ein globaler Referenzrahmen für eine ethische Nutzung von KI, der für alle Staaten handlungsleitend ist, unabhängig von ihrer Regierungsform oder Wirtschaftskraft. Diese weltumspannende Reichweite der UNESCO-Empfehlung zur KI-Ethik stellt einen zentralen Unterschied zu vergleichbaren bestehenden Initiativen dar, beispielweise der OECD oder des Europarates.
Klarer Handlungsrahmen für die Wahrung von Menschenrechten und Grundfreiheiten
Die UNESCO-Empfehlung führt Werte und ethische Prinzipien wie Privatsphäre, Transparenz, Erklärbarkeit und Nicht-Diskriminierung ein, die bei der Entwicklung und Anwendung von KI respektiert werden müssen. Dies soll dazu beitragen, digitale Transformation so zu gestalten, dass sie die Menschenrechte fördert und zu den nachhaltigen Entwicklungszielen der Vereinten Nationen beiträgt. Hierzu werden im zweiten Teil der Empfehlung konkrete politische Gestaltungsaufgaben und Maßnahmen definiert. Diese Aufgaben beziehen sich auf elf Politikfelder, darunter Umwelt, Bildung und Wissenschaft, Kommunikation, Gesundheit sowie Kultur.
Neben dem Fokus auf einzelne Politikfelder widmet sich die Empfehlung auch übergreifenden Fragen ethischer Folgenabschätzung und Regulierung. So empfiehlt sie beispielsweise die Durchführung eines Ethical Impact AssessmentExterner Link: für KI-Systeme. Dieses Instrument für ethische Folgenabschätzung soll Vorteile und Risiken von KI-Systemen für die Wahrung von Menschenrechten und Grundfreiheiten über deren gesamten Lebenszyklus erfassen und bewerten. Die Empfehlung hält zudem fest, dass Menschenrechte und Grundfreiheiten durch KI-Systeme nicht nur respektiert und geschützt, sondern auch dezidiert gefördert werden sollen. Durch die Benennung des Vorsorgeprinzips wird der ethische Rahmen für KI-Systeme klar definiert: Besteht die begründete Möglichkeit negativer Konsequenzen durch den Einsatz bestimmter KI-Systeme oder -Technologien, soll deren Nutzung oder Entwicklung nicht weiterverfolgt werden. Konkret bedeutet dies beispielsweise das Aus für den Einsatz von KI für Massenüberwachung und das Betreiben von Social Scoring-Systemen.
Neue Handlungsfelder finden erstmals Erwähnung
Auch auf Ebene der einzelnen Politikfelder geht die UNESCO-Empfehlung über bestehende Initiativen hinaus und identifiziert neue Handlungsbedarfe. So werden beispielsweise im Bereich der gesellschaftlichen Vielfalt nicht nur Maßnahmen gegen Diskriminierung durch KI-Systeme, beispielsweise aufgrund des Geschlechts oder der sexuellen Orientierung, gefordert. Die Mitgliedsstaaten sind darüber hinaus auch angehalten, die Vielfalt in der Technologiebranche selbst zu fördern, in der unter anderem Frauen nach wie vor stark unterrepräsentiert sind. Gleichzeitig sollen Mitgliedstaaten Stereotypisierung in den Ergebnissen von KI-Systemen und -Daten offenlegen und bekämpfen. Auch der Zusammenhang zwischen Umweltschutz und KI wird in der Empfehlung adressiert. Hierbei wird insbesondere der nachhaltige und ressourcenschonende Einsatz von KI-Systemen in den Blick genommen.
Die UNESCO-Empfehlung zur Ethik der KI bietet mit ihrer klaren und umsetzungsorientierten Sprache eine Blaupause für eine verantwortliche Entwicklung nationaler KI-Maßnahmen. Nun ist es an den Mitgliedstaaten, diese Vorlage zu nutzen, um auf ihrer Grundlage Prozesse aufzusetzen und Maßnahmen zu ergreifen, die eine ethische Nutzung und Entwicklung von KI in ihren Ländern sicherstellen. Das UNESCO-Sekretariat und die UNESCO-Nationalkommissionen unterstützen die Mitgliedstaaten dabei und vernetzen sie untereinander.
Umsetzung der Empfehlung in Deutschland
Die Deutsche UNESCO-Kommission setzt sich für die Umsetzung der Empfehlung in Deutschland ein, indem sie im Rahmen von Veranstaltungen und Publikationen über die Inhalte der Empfehlung informiert und sie so bekannt macht. Dabei richtet sie sich an politische Entscheidungsträgerinnen und -träger (wie bei der Vorstellung der Empfehlung im Digitalausschuss des Bundestages), an Fachleute aus Wissenschaft und Zivilgesellschaft sowie an die breite Öffentlichkeit (wie beispielsweise bei einer Veranstaltung zu KI und globaler Gerechtigkeit). In Fachveranstaltungen diskutiert sie mit Expertinnen und Experten, wie die Vorgaben der Empfehlung in Deutschland am besten umgesetzt werden können und entwickelt auf dieser Grundlage Handlungsansätze für die Politik. Dabei stehen jeweils unterschiedliche Aspekte und Bereiche der Empfehlungen im Vordergrund, etwa der Zusammenhang von Diskriminierung und KI, die Stärkung von KI-Entwicklung im sogenannten Globalen Süden oder auch die Folgen der Technologie für den Kunst- und Kreativbereich.
Studie zur Umsetzung der Empfehlung in Deutschland
Die von der Deutschen UNESCO-Kommission in Auftrag gegebene Studie UNESCO-Empfehlung zur Ethik Künstlicher Intelligenz. Bedingungen zur Implementierung in Deutschland analysiert die Ausgangslage für die nationale Umsetzung der Empfehlung und zeigt in fünf ausgewählten Politikfeldern auf, in welchen Bereichen zentrale Vorgaben der Empfehlung bereits umgesetzt sind und wo in Deutschland noch Handlungsbedarf besteht. Zumdem gibt das Gutachten konkrete Handlungsempfehlungen für Politik und Verwaltung.
Vorstellung der Studie im Deutschen Bundestag
Die Deutsche UNESCO-Kommission stellte die von Prof. Dr. Matthias C. Kettemann erstellte Studie im Herbst 2022 gemeinsam mit ihm den Bundestagsabgeordneten im Ausschuss für Digitales vor. Im Austausch mit den Abgeordneten wurde der Mehrwert der UNESCO-Empfehlung im Vergleich zu anderen internationalen Regelwerken zur KI-Ethik deutlich: Die Empfehlung ist das erste global gültige Instrument in diesem Bereich und zeichnet sich unter anderem durch eine starke Menschenrechtsorientierung und einen ganzheitlichen Ansatz aus. So nimmt sie den gesamten Lebenszyklus von KI-Systemen in den Blick und adressiert auch langfristige und mittelbare ethische Implikationen des verstärkten Einsatzes von KI-Systemen. Die Diskussion mit den Abgeordneten konzentrierte sich auf die notwendigen Maßnahmen zur Wahrung der Bürgerrechte, zur Förderung der Diversität in der KI-Entwicklung, sowie zur Sicherung von Nachhaltigkeit und globaler Teilhabe in einer zunehmend von KI-Systemen geprägten Welt.
Die Aufzeichnung der Sitzung sowie eine Zusammenfassung finden Sie hierExterner Link:.