Das Treffen in Seoul fand ein halbes Jahr nach dem ersten internationalen AI Safety Summit statt, zu dem die britische Regierung im November 2023 nach Bletchley Park eingeladen hatte. Ziel des Gipfels in Seoul war es, die in Bletchley vereinbarten globalen Anstrengungen für sichere KI-Anwendungen fortzuführen.
Im Vorfeld des Gipfels veröffentlichte die britische Regierung den „International Scientific Report on the Safety of Advanced AI“. An dem Bericht wirkten Fachleute aus 30 Ländern sowie der EU und den Vereinten Nationen mit. Er gibt einen Überblick zu wissenschaftlichen Erkenntnissen zu Einsatzmöglichkeiten und Risiken von KI. Der Bericht soll politischen Entscheidungsträgern auf der ganzen Welt Orientierung bei der Umsetzung von Maßnahmen für eine sichere Anwendung von KI bieten. Die veröffentlichte Version ist zunächst ein Zwischenbericht. Die finale Version soll auf dem für 2025 geplanten AI Action Summit in Paris vorgestellt werden. Die Erstellung des Berichts ist Teil der im November 2023 vereinbarten „Bletchley Declaration“.
Dar AI Seoul Summit endete ebenfalls mit einer gemeinsamen Erklärung. In dieser haben sich 27 Länder darauf verständigt, gemeinsame Risikogrenzen für die Entwicklung und den Einsatz von KI festzulegen sowie die wissenschaftliche Zusammenarbeit im Bereich KI-Sicherheit zu vertiefen. Dazu zählen Kooperationen bei der Entwicklung und Durchführung von Sicherheitstests sowie Bewertungsrichtlinien. Folgende Staaten unterzeichneten die Erklärung: Australien, Chile, Deutschland, Frankreich, Indien, Indonesien, Israel, Italien, Japan, Kanada, Kenia, Mexiko, die Niederlande, Nigeria, Neuseeland, die Philippinen, die Republik Korea, Ruanda, das Königreich Saudi-Arabien, Singapur, Spanien, die Schweiz, die Türkei, die Ukraine, die Vereinigten Arabischen Emirate, das Vereinigte Königreich und die USA sowie die Europäische Union.
Zehn Länder und die EU unterzeichneten zur Umsetzung der Erklärung ein Abkommen zum Aufbau eines internationalen Netzwerks öffentlich geförderter KI-Sicherheitsinstitute. Dieses soll ein gemeinsames Verständnis und Vorgehen in den Bereichen Forschung, Normen und Testverfahren sicherstellen und die Schaffung eines internationalen Rahmens für sichere KI-Anwendungen beschleunigen. Unterzeichnet wurde die Vereinbarung von Australien, Kanada, der Europäischen Union, Frankreich, Deutschland, Italien, Japan, der Republik Korea, der Republik Singapur, den USA und dem Vereinigten Königreich. Die britische Regierung gab zudem bekannt, dass ihr AI Safety Institute im Sommer eine Außenstelle in San Francisco eröffnen wird und die Zusammenarbeit mit Kanada intensiviert werden soll.
16 weltweit führende Tech-Unternehmen – unter anderem aus den USA, China und den Vereinigten Arabischen Emiraten – haben sich zu den „Frontier AI Safety Commitments“ bekannt. Damit verpflichten sich die unterzeichnenden Unternehmen, keine KI-Modelle zu entwickeln oder einzusetzen, mit denen nicht minderbare, gravierende Risiken einhergehen, und rechenschaftspflichtige Strukturen und Transparenz in Bezug auf ihre KI-Sicherheitskonzepte zu schaffen.
Zum Nachlesen
- GOV.UK (17.05.2024): Safety of advanced AI under the spotlight in first ever independent, international scientific report
- GOV.UK (22.05.2024): New commitment to deepen work on severe AI risks concludes AI Seoul Summit
- GOV.UK (21.05.2024): Global leaders agree to launch first international network of AI Safety Institutes to boost cooperation of AI
- GOV.UK (20.05.2024): Government's trailblazing Institute for AI Safety to open doors in San Francisco
- GOV.UK (21.05.2024): Historic first as companies spanning North America, Asia, Europe and Middle East agree safety commitments on development of AI
- GOV.UK (21.05.2024): Seoul Declaration for safe, innovative and inclusive AI: AI Seoul Summit 2024
- Korean Ministry of Science and ICT (28.05.2024): Korea Aims to Become One of the Top Three AI Powerhouses by Establishing a National AI Research Hub
