Am 20. und 21. November 2024 kamen die Sicherheitsinstitute für Künstliche Intelligenz (KI) aus Australien, Kanada, der Europäischen Kommission, Frankreich, Japan, Kenia, der Republik Korea, Singapur, dem Vereinigten Königreich und der USA in San Francisco zusammen und gründeten offiziell das International Network of AI Safety Institutes. Die Initiative baut auf der Absichtserklärung von Seoul zur internationalen wissenschaftlichen Zusammenarbeit zur KI-Sicherheit auf, die während des AI Safety Summits in Südkorea im Mai 2024 vereinbart wurde.
Das Netzwerk bringt technische Organisationen und Fachleute zusammen und soll als Forum zum Austausch und für die Zusammenarbeit dienen, um gemeinsame Verfahren zur Risikoeinschätzung und -minderung zu etablieren. Bereits im Vorfeld hatten die beteiligten Akteure dazu ein gemeinsames "Mission Statement"vereinbart. Dieses legt Forschung, Testverfahren, Leitlinien und die Einbindung von weiteren Ländern, Partnern und Interessenvertretungen aus aller Welt als vorrangige Ziele der Zusammenarbeit fest.
Im Bereich Forschung wurde eine gemeinsame Agenda mit Prioritäten beschlossen. Zu deren Umsetzung sagten die beteiligten Institute und weitere gemeinnützige Organisationen Fördermittel in Höhe von 11 Millionen USD zu. Zusätzlich wurden erste Erfahrungen aus einer multilateralen Übung der Sicherheitsinstitute der USA, Großbritanniens und Singapurs zu länderübergreifenden Testverfahren als Grundlage für weitere Vorhaben ausgetauscht.
Zusätzlich vereinbarten die EU und Singapur auf bilateraler Ebene die Vertiefung der Zusammenarbeit im Bereich KI-Sicherheit. Die USA gaben zudem im Vorfeld des Treffens auf nationaler Ebene die Einrichtung der "Testing Risks of AI for National Security (TRAINS) Taskforce“ bekannt. Diese bringt verschiedene US-Institutionen und Einrichtungen zusammen, um spezielle Testverfahren für Risiken vom KI-Einsatz für die nationale Sicherheit zu etablieren.
Zum Nachlesen
- Europäische Kommission (20.11.2024): EU and Singapore strengthen cooperation on AI safety
- Europäische Kommission (20.11.2024): First meeting of the International Network of AI Safety Institutes
- National Institute of Standards and Technology (20.11.2024): FACT SHEET: U.S. Department of Commerce & U.S. Department of State Launch the International Network of AI Safety Institutes at Inaugural Convening in San Francisco
- National Institute of Standards and Technology (20.11.2024): U.S. AI Safety Institute Establishes New U.S. Government Taskforce to Collaborate on Research and Testing of AI Models to Manage National Security Capabilities & Risks
