ZÜRICH – Viele Forschende und führende Technologieexpert:innen haben in den letzten Jahren vor künstlicher Intelligenz gewarnt, wie man es seit dem Beginn des Atomzeitalters nicht mehr gehört hat. Elon Musk beispielsweise sagte, dass «KI weitaus gefährlicher ist als Atombomben», was ihn dazu veranlasste, eine wichtige Frage zu stellen: «Warum haben wir keine regulatorische Aufsicht? Das ist Wahnsinn.»
Der verstorbene Stephen Hawking äußerte sich ähnlich: «Wenn wir nicht lernen, uns auf die potenziellen Risiken vorzubereiten und sie zu vermeiden, könnte KI das schlimmste Ereignis in der Geschichte unserer Zivilisation sein. Sie birgt Gefahren, wie mächtige autonome Waffen oder neue Möglichkeiten für die Wenigen, die Vielen zu unterdrücken.»
Angesichts der potenziell katastrophalen Folgen unkontrollierter KI besteht ein klarer Bedarf an internationalen Leitplanken, um sicherzustellen, dass diese aufkommende Technologie – passender bezeichnet als datenbasierte Systeme – dem Gemeinwohl dient. Konkret bedeutet dies, dass die Menschenrechte weltweit, auch online, gewahrt werden müssen.
Zu diesem Zweck sollten Regierungen rechtlich verbindliche Regulierungen einführen, die datenbasierte Systeme fördern, welche die Machtlosen vor den Mächtigen schützen, indem sie sicherstellen, dass die Menschenrechte während des gesamten Lebenszyklus solcher Systeme, einschliesslich Design, Entwicklung, Produktion, Vertrieb und Nutzung, respektiert, geschützt, implementiert und umgesetzt werden.
Ebenso wichtig ist, dass die UNO dringend eine Internationale Agentur für datenbasierte Systeme (IDA) einrichtet, eine globale KI-Aufsichtsbehörde, welche die sichere, nachhaltige und friedliche Nutzung dieser Technologien fördert, die Einhaltung der Menschenrechte sicherstellt und die Zusammenarbeit in diesem Bereich unterstützt. Die IDA würde auch über Regulierungsbefugnisse verfügen, um dabei zu helfen, die Marktzulassung von KI-Produkten zu steuern. Angesichts der Ähnlichkeiten zwischen datenbasierten Systemen und Nukleartechnologien wäre die Internationale Atomenergie-Organisation (IAEA) das beste Modell für eine solche Einrichtung, nicht zuletzt, weil sie eine der wenigen UNO-Organisationen «mit Zähnen» ist.
Der Erfolg der IAEA hat gezeigt, dass wir in der Lage sind, Vorsicht walten zu lassen und das blinde Streben nach technologischem Fortschritt zu unterbinden, wenn die Zukunft der Menschheit und des Planeten auf dem Spiel steht. Nachdem die Bombardierung von Hiroshima und Nagasaki die verheerenden humanitären Folgen eines Atomkriegs aufgezeigt hatte, wurden Forschung und Entwicklung im Bereich der Kerntechnik eingeschränkt, um noch schlimmere Folgen zu verhindern. Ermöglicht wurde dies durch ein internationales Regime – die IAEA – mit starken Durchsetzungsmechanismen.
Secure your copy of PS Quarterly: The Year Ahead 2025
Our annual flagship magazine, PS Quarterly: The Year Ahead 2025, is almost here. To gain digital access to all of the magazine’s content, and receive your print copy, subscribe to PS Premium now.
Subscribe Now
Eine wachsende Zahl von Wissenschaftler:innen aus der ganzen Welt hat die Einrichtung einer IDA gefordert und die Schaffung datenbasierter Systeme auf der Grundlage der Achtung der Menschenrechte unterstützt. «The Elders», eine von Nelson Mandela gegründete unabhängige Gruppe führender Persönlichkeiten aus aller Welt, haben die enormen Risiken der KI und die Notwendigkeit einer internationalen Agentur wie der IAEA erkannt, «um diese mächtigen Technologien im Rahmen robuster Sicherheitsprotokolle zu verwalten» und sicherzustellen, dass sie «in einer Weise genutzt werden, die mit dem Völkerrecht und den Menschenrechtsverträgen vereinbar ist». Folglich ermutigen sie die Länder, bei der UNO-Generalversammlung einen Antrag an die Völkerrechtskommission zu stellen, einen internationalen Vertrag zur Einrichtung einer neuen UNO-Agentur für KI-Sicherheit auszuarbeiten.
Zu den einflussreichen Befürwortern eines rechtsverbindlichen Rechtsrahmens für KI gehört Sam Altman, der CEO von OpenAI, dessen öffentliche Veröffentlichung von ChatGPT Ende 2022 das KI-Wettrüsten in Gang setzte. Letztes Jahr forderte Altman eine internationale Behörde, die u. a. «Systeme inspizieren, Audits verlangen, die Einhaltung von Sicherheitsstandards prüfen [und] Beschränkungen für den Einsatzgrad und das Sicherheitsniveau auferlegen» kann. Sogar Papst Franziskus hat die Notwendigkeit betont, eine multilaterale Institution einzurichten, welche die ethischen Fragen, die sich aus der KI ergeben, untersucht und ihre Entwicklung und Nutzung durch «einen verbindlichen internationalen Vertrag» regelt.
Die UNO hat ihrerseits die Bedeutung der Förderung und des Schutzes der Menschenrechte in datenbasierten Systemen hervorgehoben. Im Juli 2023 nahm der UNO-Menschenrechtsrat einstimmig eine Resolution zum Thema «Neue und aufkommende digitale Technologien und Menschenrechte» an, in der festgestellt wird, dass es diesen Technologien «möglicherweise an einer angemessenen Regulierung mangelt» und die Notwendigkeit «wirksamer Massnahmen zur Verhinderung, Milderung und Behebung negativer Auswirkungen solcher Technologien auf die Menschenrechte» betont wird. Zu diesem Zweck fordert die Resolution die Schaffung eines Rahmens für Folgenabschätzungen, für die Ausübung der Sorgfaltspflicht und für die Gewährleistung wirksamer Abhilfemassnahmen sowie menschlicher Aufsicht und rechtlicher Rechenschaftspflicht.
Kürzlich, im März, hat die UNO-Generalversammlung einstimmig eine Resolution zur «Nutzung der Chancen sicherer und vertrauenswürdiger Systeme der künstlichen Intelligenz für eine nachhaltige Entwicklung» verabschiedet. In dieser bahnbrechenden Resolution wird anerkannt, dass «dieselben Rechte, die Menschen offline haben, auch online geschützt werden müssen, auch während des gesamten Lebenszyklus von Systemen der künstlichen Intelligenz.»
Da die internationale Gemeinschaft nun die Notwendigkeit des Schutzes der Menschenrechte in datenbasierten Systemen erkannt hat, liegt der nächste Schritt auf der Hand. Die UNO muss jetzt diesen globalen Konsens in die Tat umsetzen und eine IDA einrichten.
To have unlimited access to our content including in-depth commentaries, book reviews, exclusive interviews, PS OnPoint and PS The Big Picture, please subscribe
Over time, as American democracy has increasingly fallen short of delivering on its core promises, the Democratic Party has contributed to the problem by catering to a narrow, privileged elite. To restore its own prospects and America’s signature form of governance, it must return to its working-class roots.
is not surprised that so many voters ignored warnings about the threat Donald Trump poses to US institutions.
Enrique Krauze
considers the responsibility of the state to guarantee freedom, heralds the demise of Mexico’s democracy, highlights flaws in higher-education systems, and more.
Log in/Register
Please log in or register to continue. Registration is free and requires only your email address.
ZÜRICH – Viele Forschende und führende Technologieexpert:innen haben in den letzten Jahren vor künstlicher Intelligenz gewarnt, wie man es seit dem Beginn des Atomzeitalters nicht mehr gehört hat. Elon Musk beispielsweise sagte, dass «KI weitaus gefährlicher ist als Atombomben», was ihn dazu veranlasste, eine wichtige Frage zu stellen: «Warum haben wir keine regulatorische Aufsicht? Das ist Wahnsinn.»
Der verstorbene Stephen Hawking äußerte sich ähnlich: «Wenn wir nicht lernen, uns auf die potenziellen Risiken vorzubereiten und sie zu vermeiden, könnte KI das schlimmste Ereignis in der Geschichte unserer Zivilisation sein. Sie birgt Gefahren, wie mächtige autonome Waffen oder neue Möglichkeiten für die Wenigen, die Vielen zu unterdrücken.»
Angesichts der potenziell katastrophalen Folgen unkontrollierter KI besteht ein klarer Bedarf an internationalen Leitplanken, um sicherzustellen, dass diese aufkommende Technologie – passender bezeichnet als datenbasierte Systeme – dem Gemeinwohl dient. Konkret bedeutet dies, dass die Menschenrechte weltweit, auch online, gewahrt werden müssen.
Zu diesem Zweck sollten Regierungen rechtlich verbindliche Regulierungen einführen, die datenbasierte Systeme fördern, welche die Machtlosen vor den Mächtigen schützen, indem sie sicherstellen, dass die Menschenrechte während des gesamten Lebenszyklus solcher Systeme, einschliesslich Design, Entwicklung, Produktion, Vertrieb und Nutzung, respektiert, geschützt, implementiert und umgesetzt werden.
Ebenso wichtig ist, dass die UNO dringend eine Internationale Agentur für datenbasierte Systeme (IDA) einrichtet, eine globale KI-Aufsichtsbehörde, welche die sichere, nachhaltige und friedliche Nutzung dieser Technologien fördert, die Einhaltung der Menschenrechte sicherstellt und die Zusammenarbeit in diesem Bereich unterstützt. Die IDA würde auch über Regulierungsbefugnisse verfügen, um dabei zu helfen, die Marktzulassung von KI-Produkten zu steuern. Angesichts der Ähnlichkeiten zwischen datenbasierten Systemen und Nukleartechnologien wäre die Internationale Atomenergie-Organisation (IAEA) das beste Modell für eine solche Einrichtung, nicht zuletzt, weil sie eine der wenigen UNO-Organisationen «mit Zähnen» ist.
Der Erfolg der IAEA hat gezeigt, dass wir in der Lage sind, Vorsicht walten zu lassen und das blinde Streben nach technologischem Fortschritt zu unterbinden, wenn die Zukunft der Menschheit und des Planeten auf dem Spiel steht. Nachdem die Bombardierung von Hiroshima und Nagasaki die verheerenden humanitären Folgen eines Atomkriegs aufgezeigt hatte, wurden Forschung und Entwicklung im Bereich der Kerntechnik eingeschränkt, um noch schlimmere Folgen zu verhindern. Ermöglicht wurde dies durch ein internationales Regime – die IAEA – mit starken Durchsetzungsmechanismen.
Secure your copy of PS Quarterly: The Year Ahead 2025
Our annual flagship magazine, PS Quarterly: The Year Ahead 2025, is almost here. To gain digital access to all of the magazine’s content, and receive your print copy, subscribe to PS Premium now.
Subscribe Now
Eine wachsende Zahl von Wissenschaftler:innen aus der ganzen Welt hat die Einrichtung einer IDA gefordert und die Schaffung datenbasierter Systeme auf der Grundlage der Achtung der Menschenrechte unterstützt. «The Elders», eine von Nelson Mandela gegründete unabhängige Gruppe führender Persönlichkeiten aus aller Welt, haben die enormen Risiken der KI und die Notwendigkeit einer internationalen Agentur wie der IAEA erkannt, «um diese mächtigen Technologien im Rahmen robuster Sicherheitsprotokolle zu verwalten» und sicherzustellen, dass sie «in einer Weise genutzt werden, die mit dem Völkerrecht und den Menschenrechtsverträgen vereinbar ist». Folglich ermutigen sie die Länder, bei der UNO-Generalversammlung einen Antrag an die Völkerrechtskommission zu stellen, einen internationalen Vertrag zur Einrichtung einer neuen UNO-Agentur für KI-Sicherheit auszuarbeiten.
Zu den einflussreichen Befürwortern eines rechtsverbindlichen Rechtsrahmens für KI gehört Sam Altman, der CEO von OpenAI, dessen öffentliche Veröffentlichung von ChatGPT Ende 2022 das KI-Wettrüsten in Gang setzte. Letztes Jahr forderte Altman eine internationale Behörde, die u. a. «Systeme inspizieren, Audits verlangen, die Einhaltung von Sicherheitsstandards prüfen [und] Beschränkungen für den Einsatzgrad und das Sicherheitsniveau auferlegen» kann. Sogar Papst Franziskus hat die Notwendigkeit betont, eine multilaterale Institution einzurichten, welche die ethischen Fragen, die sich aus der KI ergeben, untersucht und ihre Entwicklung und Nutzung durch «einen verbindlichen internationalen Vertrag» regelt.
Die UNO hat ihrerseits die Bedeutung der Förderung und des Schutzes der Menschenrechte in datenbasierten Systemen hervorgehoben. Im Juli 2023 nahm der UNO-Menschenrechtsrat einstimmig eine Resolution zum Thema «Neue und aufkommende digitale Technologien und Menschenrechte» an, in der festgestellt wird, dass es diesen Technologien «möglicherweise an einer angemessenen Regulierung mangelt» und die Notwendigkeit «wirksamer Massnahmen zur Verhinderung, Milderung und Behebung negativer Auswirkungen solcher Technologien auf die Menschenrechte» betont wird. Zu diesem Zweck fordert die Resolution die Schaffung eines Rahmens für Folgenabschätzungen, für die Ausübung der Sorgfaltspflicht und für die Gewährleistung wirksamer Abhilfemassnahmen sowie menschlicher Aufsicht und rechtlicher Rechenschaftspflicht.
Kürzlich, im März, hat die UNO-Generalversammlung einstimmig eine Resolution zur «Nutzung der Chancen sicherer und vertrauenswürdiger Systeme der künstlichen Intelligenz für eine nachhaltige Entwicklung» verabschiedet. In dieser bahnbrechenden Resolution wird anerkannt, dass «dieselben Rechte, die Menschen offline haben, auch online geschützt werden müssen, auch während des gesamten Lebenszyklus von Systemen der künstlichen Intelligenz.»
Da die internationale Gemeinschaft nun die Notwendigkeit des Schutzes der Menschenrechte in datenbasierten Systemen erkannt hat, liegt der nächste Schritt auf der Hand. Die UNO muss jetzt diesen globalen Konsens in die Tat umsetzen und eine IDA einrichten.