Die im Jahr 2021 verabschiedete UNESCO-Empfehlung zur Ethik der Künstlichen Intelligenz setzt Leitplanken für eine menschenzentrierte Entwicklung und Nutzung von KI. Sie adressiert in einem eigenen Kapitel die ethischen Implikationen von KI für Bildung und Forschung und verpflichtet die UNESCO-Mitgliedstaaten unter anderem dazu, Themen des ethischen Umgangs mit KI in die Lehrpläne der Hochschulen zu integrieren und eine stärker interdisziplinär orientierte KI-Forschung unter Einbeziehung der Geistes- und Sozialwissenschaften zu fördern. Darüber hinaus enthält auch die ebenfalls 2021 verabschiedete UNESCO-Empfehlung zu Open Science zahlreiche wichtige Ansätze für einen verantwortungsvollen Umgang mit KI in der Wissenschaft, unter anderem in Bezug auf eine möglichst breite Veröffentlichung von Daten.
KI als Katalysator wissenschaftlicher Erkenntnisse
Das Potenzial von KI in der Wissenschaft ist enorm. Allein die mögliche Entlastung der Forschenden im Schreibprozess durch die Nutzung generativer KI oder neue Formen der Datenanalyse durch KI eröffnen völlig neue Möglichkeiten. Neben der Analyse neuer Daten wird auch die Erfassung und Auswertung alter Texte durch KI um ein Vielfaches beschleunigt. KI-Anwendungen erweitern zudem die didaktischen Möglichkeiten in der Hochschullehre. Organisationen der Wissenschaftsförderung sind weitgehend optimistisch, dass die bestehenden Grundsätze guter wissenschaftlicher Arbeit mit relativ geringem Aufwand an die neuen Herausforderungen durch (vor allem generative) KI angepasst werden können.
Risiken für menschliche Kompetenzen und wissenschaftliche Glaubwürdigkeit
Mit dem Einsatz von KI in der Wissenschaft gehen jedoch auch - wie in anderen Gesellschaftsbereichen - große Herausforderungen einher. Dies betrifft zunächst den drohenden Verlust kognitiver und sozialer Kompetenzen, beispielsweise durch den Wegfall des Schreibprozesses als kreativem und reflexivem Raum oder des regelmäßigen persönlichen Austauschs in der wissenschaftlichen Ausbildung. Darüber hinaus ergeben sich auch Herausforderungen für die Qualität wissenschaftlicher Arbeit, etwa, wenn generative KI-Systeme ohne kritische Prüfung ihrer Ergebnisse eingesetzt werden und in der Folge fehlerhafte oder nicht nachvollziehbare Schlüsse ziehen. Dies resultiert auch aus der sogenannten Black-Box-Problematik vieler KI-Anwendungen – also der fehlenden Möglichkeit, deren Ergebnisweg transparent nachzuvollziehen. Mangelnde Transparenz und Überprüfbarkeit können zur Verbreitung von Desinformationen und Fehlinformationen beitragen und so „fiktive Informationen“ erzeugen. Letzteres ist in Zeiten von Fake News und Wissenschaftsskepsis besonders gefährlich.
UNESCO-Völkerrecht für eine verantwortliche KI-Nutzung in der Wissenschaft
Die UNESCO-Empfehlung zur Ethik der Künstlichen Intelligenz fordert die Mitgliedstaaten auf, Maßnahmen zu ergreifen, um die genannten Risiken zu minimieren. Dazu gehört beispielsweise eine ethische Validierung von generativen KI-Systemen vor ihrer offiziellen Einführung in Forschungseinrichtungen (sogenannter "Ethics-by-Design"-Ansatz). Darüber hinaus regt der Völkerrechtstext eine Kompetenzoffensive zur Förderung der konstruktiv-kritischen KI-Fähigkeiten von Nutzer/innen im Wissenschaftsbetrieb an, sowohl für Lernende als auch für Lehrende.
Die UNESCO-Empfehlung zu Open ScienceExterner Link: fordert insbesondere eine möglichst weitreichende Offenlegung von Datensätzen (einschließlich der Algorithmen der KI-Systeme selbst). Neben einem breiten Zugang zu qualitativ hochwertigen Daten soll auch deren gleichzeitiger Schutz (Stichwort: Privatheit von Daten) gewährleistet sowie mehr Rechenleistung zur Überprüfung der Ergebniswege bereitgestellt werden. Um KI-Anwendungen für den wissenschaftlichen Erkenntnisgewinn in der Breite nutzen zu können, ist ein nachvollziehbarer Einblick in die Ergebnisgenerierung notwendig.
Unser Beitrag für eine vertrauensvolle und menschenzentrierte KI-Nutzung in der Wissenschaft
Der Einsatz von KI-Anwendungen in der Wissenschaft wird von den Mitgliedern des Fachausschusses Wissenschaft der Deutschen UNESCO-Kommission regelmäßig im kritischen Austausch thematisiert. Der Fachausschuss setzt sich aus Vertreterinnen und Vertretern der großen deutschen Wissenschaftsorganisationen zusammen, darunter das Bundesministerium für Bildung und Forschung (BMBF), die Deutsche Forschungsgemeinschaft (DFG) und die Nationale Akademie der Wissenschaften – Leopoldina. Insbesondere die Umsetzung der UNESCO-Empfehlungen zur Ethik der Künstlichen Intelligenz und zu Open Science sind regelmäßig Diskussionsgegenstand und haben bereits zahlreiche übergreifende Positions- und Policy-Papiere der Institutionen informiert, darunter auch ein Positionspapier der DFG zu Open ScienceExterner Link:.
