Der Text definiert klare ethische Leitplanken und übersetzt sie in konkrete politische Gestaltungsaufgaben. Die UNESCO-EmpfehlungHerunterladen: (PDF, 879 KB) bietet somit die völkerrechtliche Basis für eine KI-Nutzung, die Menschenrechte und Grundfreiheiten nicht nur achtet, sondern auch verteidigt und fördert.
Die Empfehlung wurde von der UNESCO in einem zweijährigen, intensiven und teils kontroversen zwischenstaatlichen Verhandlungsprozess erarbeitet. Neben den Mitgliedstaaten selbst wurden dabei zahlreiche weitere Akteure einbezogen, unter anderem in Form einer Expertengruppe sowie regionaler Stakeholder-Anhörungen. Das Ergebnis ist ein globaler Referenzrahmen für eine ethische Nutzung von KI, der für alle Staaten handlungsleitend ist, unabhängig von ihrer Regierungsform oder Wirtschaftskraft. Diese weltumspannende Reichweite der UNESCO-Empfehlung zur KI-Ethik stellt einen zentralen Unterschied zu vergleichbaren bestehenden Initiativen dar, beispielweise der OECD oder des Europarates.
Klarer Handlungsrahmen für die Wahrung von Menschenrechten und Grundfreiheiten
Die UNESCO-Empfehlung führt Werte und ethische Prinzipien wie Privatsphäre, Transparenz, Erklärbarkeit und Nicht-Diskriminierung ein, die bei der Entwicklung und Anwendung von KI respektiert werden müssen. Dies soll dazu beitragen, die digitale Transformation so zu gestalten, dass sie die Menschenrechte fördert und zu den nachhaltigen Entwicklungszielen der Vereinten Nationen beiträgt. Hierzu werden im zweiten Teil der Empfehlung konkrete politische Gestaltungsaufgaben und Maßnahmen definiert. Diese Aufgaben beziehen sich auf elf Politikfelder, darunter Umwelt, Bildung und Wissenschaft, Kommunikation, Gesundheit sowie Kultur.
Neben dem Fokus auf einzelne Politikfelder widmet sich die UNESCO-Empfehlung auch übergreifenden Fragen ethischer Folgenabschätzung und Regulierung. So empfiehlt sie beispielsweise die Durchführung eines Ethical Impact AssessmentExterner Link: für KI-Systeme. Dieses Instrument für ethische Folgenabschätzung soll Vorteile und Risiken von KI-Systemen für die Wahrung von Menschenrechten und Grundfreiheiten über deren gesamten Lebenszyklus erfassen und bewerten. Die UNESCO-Empfehlung hält zudem fest, dass Menschenrechte und Grundfreiheiten durch KI-Systeme nicht nur respektiert und geschützt, sondern auch dezidiert gefördert werden sollen. Durch die Benennung des Vorsorgeprinzips wird der ethische Rahmen für KI-Systeme klar definiert: Besteht die begründete Möglichkeit negativer Konsequenzen durch den Einsatz bestimmter KI-Systeme oder -Technologien, soll deren Nutzung oder Entwicklung nicht weiterverfolgt werden. Konkret bedeutet dies beispielsweise das Aus für den Einsatz von KI für Massenüberwachung und das Betreiben von Social Scoring-Systemen.
Neue Handlungsfelder finden erstmals Erwähnung
Auch auf Ebene der einzelnen Politikfelder geht die UNESCO-Empfehlung über bestehende Initiativen hinaus und identifiziert neue Handlungsbedarfe. So werden beispielsweise im Bereich der gesellschaftlichen Vielfalt nicht nur Maßnahmen gegen Diskriminierung durch KI-Systeme, beispielsweise aufgrund des Geschlechts oder der sexuellen Orientierung, gefordert. Die Mitgliedsstaaten sind darüber hinaus auch angehalten, die Vielfalt in der Technologiebranche selbst zu fördern, in der unter anderem Frauen nach wie vor stark unterrepräsentiert sind. Gleichzeitig sollen Mitgliedstaaten Stereotypisierung in den Ergebnissen von KI-Systemen und -Daten offenlegen und bekämpfen. Auch der Zusammenhang zwischen Umweltschutz und KI wird in der UNESCO-Empfehlung adressiert. Hierbei wird insbesondere der nachhaltige und ressourcenschonende Einsatz von KI-Systemen in den Blick genommen.
Umsetzung der UNESCO-Empfehlung in Deutschland
Die UNESCO-Empfehlung zur Ethik der KI bietet mit ihrer klaren und umsetzungsorientierten Sprache eine Blaupause für eine verantwortliche Entwicklung nationaler KI-Maßnahmen. Nun ist es an den Mitgliedstaaten, diese Vorlage zu nutzen, um auf ihrer Grundlage Prozesse aufzusetzen und Maßnahmen zu ergreifen, die eine ethische Nutzung und Entwicklung von KI in ihren Ländern sicherstellen. Die Deutsche UNESCO-Kommission unterstützt die Umsetzung der UNESCO-Empfehlung in Deutschland. Sie macht den Text bekannt, informiert und berät deutsche Ministerien, ParlamenteExterner Link: und zivilgesellschaftliche Organisationen zu den Umsetzungsmöglichkeiten. Dazu führt die Deutsche UNESCO-Kommission Fachveranstaltungen durch, gibt wissenschaftliche Gutachten in Auftrag und entwickelt gemeinsam mit Expertinnen und Experten konkrete Handlungsansätze (etwa für mehr Geschlechtergerechtigkeit und gegen Diskriminierung oder für eine ethische KI-Nutzung in Kunst, Kultur und Kreativwirtschaft).
Studie zur Umsetzung der Empfehlung in Deutschland
Die von der Deutschen UNESCO-Kommission in Auftrag gegebene Studie UNESCO-Empfehlung zur Ethik Künstlicher Intelligenz - Bedingungen zur Implementierung in Deutschland analysiert die Ausgangslage für die nationale Umsetzung der Empfehlung und zeigt in fünf ausgewählten Politikfeldern auf, in welchen Bereichen zentrale Vorgaben der Empfehlung bereits umgesetzt sind und wo in Deutschland noch Handlungsbedarf besteht. Zudem gibt das Gutachten konkrete Handlungsempfehlungen für Politik und Verwaltung.
Vorstellung der Studie im Deutschen Bundestag
Die Deutsche UNESCO-Kommission stellte die von Prof. Dr. Matthias C. Kettemann erstellte Studie im Herbst 2022 gemeinsam mit ihm den Bundestagsabgeordneten im Ausschuss für Digitales vor. Im Austausch mit den Abgeordneten wurde der Mehrwert der UNESCO-Empfehlung im Vergleich zu anderen internationalen Regelwerken zur KI-Ethik deutlich: Die Empfehlung ist das erste global gültige Instrument in diesem Bereich und zeichnet sich unter anderem durch eine starke Menschenrechtsorientierung und einen ganzheitlichen Ansatz aus. So nimmt sie den gesamten Lebenszyklus von KI-Systemen in den Blick und adressiert auch langfristige und mittelbare ethische Implikationen des verstärkten Einsatzes von KI-Systemen. Die Diskussion mit den Abgeordneten konzentrierte sich auf die notwendigen Maßnahmen zur Wahrung der Bürgerrechte, zur Förderung der Diversität in der KI-Entwicklung, sowie zur Sicherung von Nachhaltigkeit und globaler Teilhabe in einer zunehmend von KI-Systemen geprägten Welt.
Die Aufzeichnung der Sitzung sowie eine Zusammenfassung finden Sie hierExterner Link:.
Infobox