Forschungsethik, KEFs und verantwortungsvolle Forschung in China

20. Juni 2024

Ethik in der sicherheitsrelevanten Forschung ist ein komplexes und wichtiges Thema, das die Wissenschaftsgemeinschaft zunehmend beschäftigt. In fast allen Wissenschaftsbereichen können Forschungsergebnisse, die große Chancen eröffnen, auch für missbräuchliche Zwecke verwendet werden.

Eine sorgfältige Analyse potenzieller Risiken und Dual-Use-Möglichkeiten der Forschung sollte bereits frühzeitig in der Planungsphase durchgeführt werden. Wissenschaftler sollten die ethischen Implikationen ihrer Arbeit kontinuierlich reflektieren und mögliche Missbrauchsszenarien antizipieren.

Um den verantwortungsvollen Umgang mit solchen Forschungsvorhaben zu gewährleisten, haben viele Hochschulen und Forschungseinrichtungen Kommissionen für Ethik in der sicherheitsrelevanten Forschung (KEFs) eingerichtet. Diese Kommissionen bieten Beratung bei ethischen und rechtlichen Fragen im Zusammenhang mit sicherheitsrelevanter Forschung an. Sie unterstützen Wissenschaftler dabei, potenzielle Risiken ihrer Arbeit zu erkennen und abzuwägen, sowie geeignete Schutzmaßnahmen zu entwickeln.

An der Veranstaltung haben sich Vortragende der Freien Universität Berlin, Leopoldina, Christian-Albrechts-Universität zu Kiel, Hochschule Neu-Ulm, Philipps-Universität Marburg und vom Mercator Institute for China Studies (MERICS) beteiligt.

Kernaussagen aus den folgenden Vorträgen der Veranstaltungsreihe wurden von den Referentinnen und Referenten bereitgestellt.

Dr. Julia Dietrich, Freie Universität Berlin | Einführung in die Forschungsethik oder: Risiken und Chancen von KEFs

Kommissionen zur Ethik sicherheitsrelevanter Forschung (KEFs) sind 1) im Kontext einer Ethik in den Wissenschaften zu verorten, der 2) mögliche Risiken und 3) Chancen von KEFs deutlich werden lässt.

1) Die Idee einer Ethik in den Wissenschaften geht philosophisch von der Idee einer Handlung aus, die klassischerweise so definiert wird, dass jemand mit Absicht und freiwillig einen Zustand der Welt wählt bzw. verursacht. Diese Definition impliziert zum einen, dass Ethik als theoriegeleitete Bewertung von Handlungen ganz grundlegend mit den Fähigkeiten verbunden ist, sich die Welt anders vorzustellen, als sie ist, und einen möglichen Zustand der Welt begründet als vorzugswürdig auszuweisen. Ethik ist damit im Kern auch ein positiv-bestärkendes Unterfangen (und nicht – wie sie häufig wahrgenommen wird – vorrangig restriktiv). Zum anderen impliziert die Definition aber auch, dass die Möglichkeit, dass Absichten falsch sein oder verfehlt werden können, mit jeder Handlung als solcher verbunden und insofern alltäglich ist. Die entscheidende wissenschaftsphilosophische Weichenstellung, die es ermöglicht, diese Einsicht auch auf die Wissenschaften zu beziehen, ist, Wissenschaft nicht nur als Bestand von Wissen, sondern im Sinne eines Forschungsprozesses überhaupt als etabliertes Handlungsmuster, als Praxis zu betrachten. Aus dieser Perspektive ist Wissenschaft durchgängig ethisch relevant, weil z. B. Wissenschaftsethos, Ziele, Methoden, Folgen, Anwendungen, institutionelle Rahmenbedingungen und die Interaktion mit anderen gesellschaftlichen Praxen stets mit ethischen, Normen und Werte reflektierenden Bewertungsprozessen verbunden sind. (Dass dies häufig nicht bewusst wird, liegt u.a. auch daran, dass diese Bewertungen eben auch affirmativ sein können und dann meistens implizit bleiben, weil sie nicht als ethische erkannt werden.)

Ordnet man nun KEFs in diesen Kontext einer umfassenden Ethik in den Wissenschaften ein, wird deutlich, dass sie nur einen ganz kleinen Teil möglicher ethischer Fragen und insbesondere Probleme herausgreifen, d.h., nur die „Spitze eines Eisbergs“, der auf einer breiten Basis ethisch relevanter Entscheidungen „unter Wasser“ auflagert. Der Fokus der KEFs auf diese zwar erwartbaren, aber doch besonders herausfordernden Situationen ist mit bestimmten Risiken und Chancen verbunden.

2) Das zentrale Risiko, mit dem die Einrichtung von KEFs verbunden ist, besteht darin, den Spezialfall mit dem Ganzen zu identifizieren und die Kommissionsarbeit mit „Forschungsethik“ gleichzusetzen, damit aber die fundierende ethisch relevante Praxis der Wissenschaft unsichtbar zu machen und eine falsche Gegenüberstellung von Wissenschaft und Ethik zu fördern. Die wissenschaftliche Praxis würde dann als ethisch neutral oder als in jedem Fall ethisch legitim vorausgesetzt und „Ethik“ nur dann relevant werden, wenn es um die Verhinderung von weitreichendem externen Schaden geht. Es entstünde ein Zerrbild von „Ethik“ als einem nachträglichen, von außen regulierenden, schadensminimierenden, aber stets zu spät kommenden und letztlich wirkungslosen bürokratischen Akt. Anstatt für die durchgängige ethische Relevanz von wissenschaftlicher Praxis zu sensibilisieren und zu deren Reflexion zu motivieren, könnte von KEFs dann eine Externalisierung, Minimierung und Instrumentalisierung von sog. Ethik ausgehen. Um dies zu verhindern, ist es notwendig, KEFs stets im Kontext einer durchgängigen ethischen Grundbildung und interdisziplinären ethischen Professionalisierung sowie als Impulsgeber für eine kritische Wissenschaftstheorie- und politik zu sehen bzw. zu implementieren.

3) Die zentrale Chance von KEFs besteht darin, dass sie notwendige Strukturen der Übernahme institutioneller (insb. politischer und rechtlicher) Verantwortung „auf der Spitze des Eisbergs“ darstellen. Sie sollten diese Begrenzung der Aufgabenstellung aber sehr klar kommunizieren – und gleichzeitig die Eröffnung von Reflexionsräumen und Strukturen einer Ethik in den Wissenschaften „unter Wasser“ fördern. Die Implementierung von KEFs sollte daher mit Maßnahmen verbunden werden, (wissenschafts-) ethische Grundbildung und ethische Professionalisierung bis hin zu einer Bereichsethik zu ermöglichen. Dies würde bedeuten, Ethik-Veranstaltungen verbindlich in Bachelor-, Master-, Promotions- und Post-Doc-Phasen zu integrieren und interdisziplinäre Kooperationen mit der Philosophie/Ethik und Möglichkeiten fakultativer Vertiefung (ggf. im Rahmen eines Zertifikatssystems) zu fördern. Der Gemeinsame Ausschuss der Leopoldina/DFG hat hierzu entsprechende Empfehlungen formuliert. Ihre Umsetzung setzt Freiräume zur Konzeption solcher Veranstaltungen in Forschung und Lehre und die Etablierung von Strukturen wie z. B. Professuren und Förderungprogrammen voraus. In diesem Kontext könnten auch Open Education Ressources bzw. digitale Tools genutzt werden (vgl. z. B. die Ethik-Lernplattform „Genome Editing am Menschen“, deren Konzeption derzeit mit einer Ethik-Lernplattform zur ethischen Vertretbarkeit von Tierversuchen und zu Alternativmethoden (3R EthicsWeb) weiterentwickelt wird.).

Die vorgestellten Maßnahmen zur Kontextualisierung von KEFs dürfen aber nicht den Blick davon ablenken, dass wesentliche wissenschaftspolitische Prämissen und Mechanismen bislang eher dazu angetan sind, Dual Use Situation i.e.S. zu fördern als zu verhindern. Wenn wissenschaftliche Praxis vorrangig als globaler Wettbewerb verstanden und gefördert wird, darf es kaum überraschen, dass eine umsichtige ethische Reflexion und Anpassung der eigenen Praxis zugunsten der Chance, „der erste“ zu sein, zurückgestellt wird. Es wäre – in utopischer Perspektive – erforderlich, eine antizipative und präventive Ethik in den Wissenschaften als Wettbewerbsvorteil zu entwickeln und zu belohnen, bzw., noch grundsätzlicher, Formen nicht-kompetitiver Wissenschaft zu entwickeln.

Kommissionen für Ethik in der sicherheitsrelevanten Forschung Bedeutung – Aufgaben – Praxisbeispiele

Dr. Anita Krätzner-Ebert, Leopoldina | Gemeinsamer Ausschuss zum Umgang mit sicherheitsrelevanter Forschung von DFG und Leopoldina

Besorgniserregende sicherheitsrelevante Arbeiten (wissenschaftliche Arbeiten, bei denen die Möglichkeit besteht, dass sie Wissen, Produkte oder Technologien hervorbringen, die unmittelbar von Dritten missbraucht werden können, um Menschenwürde, Leben, Gesundheit, Freiheit, Eigentum, Umwelt oder ein friedliches Zusammenleben erheblich zu schädigen) stellen nur seltene Ausnahmen im akademischen Forschungsbetrieb dar. Im komplexen Spannungsfeld zwischen Freiheit und Verantwortung der Forschung geben die KEFs auf Anfrage Forschenden und Forschungseinrichtungen Hilfe durch Beratung und Bewertung ethischer Aspekte von sicherheitsrelevanten Forschungsprojekten. Dazu gehören zum einen Fragen, die das Projekt und dessen mögliche Konsequenzen direkt betreffen, aber auch Fragen zu Kooperationspartnerschaften und Drittmittelgebenden. Darüber hinaus fördern die KEFs innerhalb der Einrichtung die Bewusstseinsbildung für sicherheitsrelevante Aspekte der Forschung und damit eine Kultur der Verantwortung. Je nach konkreter Einbettung der KEFs in der Forschungseinrichtung können sie auch weitere Aufgaben wahrnehmen, beispielsweise zur Klärung der Vereinbarkeit von Forschung mit verfassungsrechtlichen Grundlagen bzw. der Grundordnung oder Richtlinien der jeweiligen Forschungseinrichtung, mit den DFG-Leitlinien zur Sicherung der guten wissenschaftlichen Praxis, mit Erfordernissen für die Datensicherheit und mit dem Außenwirtschaftsrecht (Ausfuhrkontrolle). Zahlreiche KEFs sind gleichzeitig für ethische Fragen der Forschung an Menschen und Tieren zuständig. Das Mandat dieser klassischen Ethikkommissionen wurde in diesen Fällen um die Aufgaben der Beratung sicherheitsrelevanter Forschung erweitert. Die KEFs übernehmen ausschließlich eine beratende Funktion.

Prof. Dr. Dr. Ino Augsberg, Christian-Albrechts-Universität zu Kiel | Die Arbeit der Zentralen Ethikkommission der Christian-Albrechts-Universität zu Kiel

Einleitung
Keine spezielle KEF-Konstellation, sondern allgemeine Aufgabe. In diesem Rahmen enormer Zuwachs der Fallzahlen in den letzten Jahren
Formale Ausgangsbedingungen/Kompetenzabgrenzungen
Schon länger bestehend: spezialisierte Ethikkommission der Medizinischen Fakultät, daneben seit einigen Jahren Zentrale Ethikkommission für die anderen Fakultäten. Daneben: Ethikausschuss als Beratungsorgan für Senat. Letzterer für Grundsatzfragen zuständig, Kommission für Anwendung der Grundsätze auf Einzelfälle
Inhaltlicher Grundansatz
Eigenverantwortlichkeit der Forscherinnen und Forscher als oberster Grundsatz. Ethikkommission daher keine Überwachungs- oder Polizeibehörde, keine Zertifizierung oder gar Genehmigung von Forschungstätigkeit. Sondern: ethische Beurteilung als Serviceleistung, falls von dritter Seite – Journals, Drittmittel-vergebende Institutionen – gefordert. Aber: keine Selbstevaluation durch Fragebögen etc.; einmal versucht, eher schlechte Erfahrungen: führt zu defensiver Haltung
Konkrete Fragestellungen
Überwiegend Fragen aus dem Datenschutz (sicherer Umgang mit persönlichen Daten), typisch zudem Problem der Manipulation menschlicher Probanden. Gelegentlich „exotischere“ Fragestellungen, namentlich mit Bezug auf Forschungsvorhaben im Ausland
Speziell: sicherheitsrelevante Forschung und China-Bezug
Kaum speziell sicherheitsrelevante Fragen bislang, gelegentlich dual-use-Problematik mit Bezug auf Kooperation zwischen CAU-Einrichtungen und Bundeswehr. In Ethikausschuss kontrovers diskutiert, aber keine allg. Zivilklausel, vielmehr Anerkenntnis, dass auch Bundeswehr Institution des demokratischen Rechtsstaats, mit der kooperiert werden darf. China-Bezug durch China-Zentrum, v.a. deren Direktorin A. Messner, abgedeckt; dort spezielle Sprach- und Sachkenntnis, um Probleme – etwa Kooperationsmöglichkeiten, Vertragsschlüsse etc. – überhaupt angemessen beurteilen zu können
Ausblick
Da der Zuwachs der Fallzahlen weitergehen dürfte, für die Zukunft eine stärkere Professionalisierung der Arbeit der Kommission erforderlich. Bislang nur drei Hauptmitglieder, ausschließlich pro bono, d.h. keinerlei Vergütung oder Entlastung in Form von Lehrreduktion o.ä. Keine Infrastruktur durch Sekretariat. Künftig zu ändern und zu verbessern, um qualitativ hochwertige Entscheidungen zu gewährleisten

Dr. Martin Schmieder, Hochschule Neu-Ulm

Vorgehensweise verschiedener Ethikkommissionen: Nach den Schilderungen der Mitglieder verschiedener Ethikkommissionen stellen sich die Prozesse und Entscheidungsgrundlagen unabhängig voneinander im Großen und Ganzen sehr ähnlich dar.
Ethische Reflexion und Bewusstseinsschärfung für (versteckte) Risiken: Ethische Reflexion ist wichtig für die Sensibilisierung für (versteckte) Risiken bei Forschungsvorhaben an den Hochschulen (und anderen Einrichtungen), sowohl bei den Studierenden/Promovierenden/Postdocs als auch bei den Betreuenden. Entsprechende Reflexionsmöglichkeiten bzw. Anlaufstellen und Programme für die ethische Diskussion sind förderlich.
Eigenverantwortung in der Forschung: Die Ethikkommission fördert die Eigenverantwortung der Forschenden für eine verantwortungsbewusste Forschung, insbesondere auch im Sicherheitsrelevanten Bereich.
Konstruktive ethische Bewertung: Eine Ethikkommission sollte stets versuchen, den Forschenden keine Steine in den Weg zu legen, sondern im Sinne der guten wissenschaftlichen Praxis den Antragstellenden konstruktiv zu begegnen und die Forschungsvorhaben mit Empfehlungen ethisch zu begleiten.
Breite (fachübergreifende) Expertise: Eine hinreichend große, ggf. auch (hochschul)übergreifende Ethikkommission kann auf ein breites Spektrum an Fachwissen zurückgreifen, was die interdisziplinäre Sicht auf sicherheitsrelevante Risiken erleichtert und eine unabhängige Bewertung vereinfacht.

Prof. Dr. Ursula Birsl, Philipps-Universität-Marburg

Auslöser und Gründungsgedanke: Medienberichte zu militärnaher Forschung an verschiedenen Universitäten, darunter auch an der Philipps-Universität Marburg 2013. Interne Diskussion rankte um eine Zivilklausel, der Akademische Senat entschied sich für Grundsätze zur Einsetzung einer KEF. Grundsätze und Verfahrensregeln wurden 2014 im Senat verabschiedet und die KEF „Kommission Forschung und Verantwortung“ nahm 2015 ihre Arbeit auf.

Auftrag und Aufgaben der Kommission als unabhängige Senatskommission

„Grundsätze und Verfahrensregeln für den verantwortungsvollen Umgang mit Forschungsfreiheit und Forschungsrisiken an der Philipps-Universität Marburg vom 13.1.2015 “ Hierin bekennt sich die Universität „zur Förderung des friedlichen Zusammenlebens der Völker und somit zu dem Verbot aller Handlungen, die geeignet sind und in der Absicht vorgenommen werden, das friedliche Zusammenleben der Völker zu stören, insbesondere die Führung eines Angriffskrieges vorzubereiten (Artikel 26 Abs. 1 Grundgesetz). Forscherinnen und Forscher müssen sicherstellen, dass ihre Forschung nicht unmittelbar der Vorbereitung oder Führung eines Krieges dient. Sie strebt an, bei den mit ihr verbundenen Forschungsaktivitäten jeweils eine Risikoanalyse und – unter Beachtung des geltenden Rechts und ethischer Grundsätze – eine vorausschauende Forschungsfolgenabschätzung vorzunehmen“.

Ausloten im Spannungsverhältnis zwischen den Grundsätzen und Forschungsfreiheit.
Beratende Funktion: gegenüber Forschenden und Präsidium.
In der Kommission sind alle Statusgruppen vertreten -> innere und äußere, der Gesellschaft gegenüber vertretene Verantwortung.
Enge Zusammenarbeit mit „Exportkontrollbeauftragten an der Philipps-Universität Marburg“, Referat Wissenschaftstransfer und der Stabstelle Recht.
Beratung bei Kooperationsverträgen etwa mit Einrichtungen der Bundeswehr.
Seit längerem steht nach Bafa-Empfehlungen der wissenschaftliche Austausch mit China beziehungsweise der Aufenthalt von Gastwissenschaftlerinnen und Gastwissenschaftler aus China auf der Tagesordnung. Hier hin und wieder: Anfragen einer Begleitung durch die KEF bei Besuchen von wissenschaftlichen Delegationen aus China.
Neues Feld: KI, Online-Tools, Crawler (Stichwort „Forschung über Menschen“), Befragungs-Apps zur Erhebung von Daten etwa in autoritären Regimes -> „Dual Use Research of Concern“.
Problem der KEF-Arbeit: Sensibilität bei Forschenden.
Sensibilisierung in der Praxis ist abhängig von der Verwaltung, hier: Dezernat I – „Strukturentwicklung, Wissenschaftlicher Nachwuchs, Forschung und Transfer“ und durch das Präsidium, wenn es von Forschungsaktivitäten erfährt, die u.U. die Dual-Use-Problematik betreffen könnten.
Aktivitäten: Sensibilisierung durch regelmäßige Berichterstattung im Senat und in der Universitätskonferenz (Konferenz der Dekaninnen und Dekane), Informationsveranstaltungen in Fachbereichsräten, Konzepte für Studium und Lehre sowie für junge Wissenschaftlerinnen und Wissenschaftler (PräDocs, PostDocs) über die MArburg University Research Academy (MARA) der Uni, Handreichung für Neuberufene.

Kommission:

Hat 7 ordentliche und 7 stellvertretende Mitglieder: 4 aus der Professorinnen- und Professorengruppe, 1 Mitglied aus dem wissenschaftlichen und 1 Mitglied aus dem administrativ-technischen Personal, 1 studentisches Mitglied.
Amtszeit: 2 Jahre, für Studierende 1 Jahr. Verlängerung der Amtszeit oder Neuwahl von Mitgliedern durch den Senat.

Dr. Jeroen Groenewegen-Lau, MERICS | Research Ethics in China

China is building a robust research ethics regime that primarily serves its national security and technology self-reliance goals. Since the scandal with gene-edited human babies in 2018, a Central Science and Technology Ethics Commission has been set up, which has increased the responsibility of funders, research institutes, hospitals, publishers and other state-trusted actors to supervise, train, investigate and punish researchers for violating research ethics. "Trial regulations for ethical review", released in September 2023, require more entities to undergo ethical review and report results to the central government.

This top-down approach does not value transparency. For instance, "Guidelines for responsible research", issued December 2023, require researchers obtain official approval from employers before publishing groundbreaking research, so that the flow of information can be controlled. Ethics committee members are selected from a pool vetted by Party institutions and instructed to serve national interests. Although China requires informed consent, its ethics committees have approved projects that involve genomics data collected in Tibet and Xinjiang by military and police researchers.

More generally, China's ethics regime aims to mitigate rather than prevent the risks of its pursuit of technological prowess. For instance “Ethics Guidelines for Brain-Computer Interface Research” from February 2024 encourage exploring non-medical applications, within China's legal boundaries. Although China signed on to the UNESCO pledge for AI ethics in 2021 it continues to use AI for mass surveillance.

Although China has increasingly strict ethics regulations, these often venture from different principles than in Europe. German institutions engaging with Chinese partners in high-risk areas should be clear about their position and boundaries.