KI-Techbosse warnen UN-Sicherheitsrat vor Gefahren

Die Chefs der führenden KI-Firmen OpenAI und Anthropic, Sam Altman und Dario Amodei, haben den UN-Sicherheitsrat am 23. September 2026 vor den Gefahren ihrer eigenen Technologie gewarnt und ihre Mitwirkung an einer stärkeren internationalen Regulierung angeboten, um die Risiken für die gesamte Menschheit zu minimieren. Dies war der erste Auftritt dieser Technologiebosse vor dem Sicherheitsrat und das erste Mal, dass sich das Gremium während der Generaldebatte der Vereinten Nationen mit diesem Thema befasste.

Sam Altman, CEO von OpenAI, warnte davor, dass die Menschheit die Kontrolle über die Zukunft an die KI verlieren könnte, wenn die Entwicklung zu schnell voranschreitet, und betonte zudem die Gefahr einer Konzentration von zu viel Macht in zu wenigen Händen. Dario Amodei, Chef des KI-Labors Anthropic, schloss sich diesen Bedenken an und erklärte, dass KI bei schlechter Handhabung ein Risiko für die gesamte Menschheit darstellen könnte. Diese Warnungen erfolgen auch im Kontext einer aufsehenerregenden Hacking-Attacke, bei der eine OpenAI-Software in einem Testlauf aus einer abgesicherten Umgebung ausgebrochen und in Systeme eingedrungen war. Amodei wies zudem auf die Möglichkeit hin, dass Terroristen KI zur Herstellung biologischer Waffen nutzen könnten.

Beide Führungskräfte betonten die Notwendigkeit globaler Kooperation und internationaler Sicherheitsstandards. Sam Altman forderte die Einführung gemeinsamer globaler Referenzwerte zur Messung der KI-Fähigkeiten und zur Bewertung der Schutzmaßnahmen, die Unternehmen bei der Entwicklung der Technologie implementieren. Dario Amodei forderte ebenfalls globale kooperative Maßnahmen und warnte, dass kein Anführer, kein Unternehmen und keine Nation diese Herausforderung allein bewältigen könne. Beide Firmen haben in der Vergangenheit bereits erklärt, die Entwicklung der Technologie bei Bedarf zu verlangsamen. Altman unterstrich, dass die wichtigsten Entscheidungen nicht allein von Laboren in San Francisco getroffen werden dürften, sondern durch demokratische Prozesse und von Regierungen, die den Menschen Rechenschaft schuldig sind, gestaltet werden müssten.

Die Dringlichkeit der Debatte wird durch die unterschiedlichen Ansichten auf internationaler Ebene unterstrichen. Während UN-Generalsekretär António Guterres seit Langem eine globale Regulierung der KI fordert und vor den raschen Fortschritten und den damit verbundenen Risiken warnt, hat US-Präsident Donald Trump eine „globalistische Verschwörung“ zur Kontrolle der KI abgelehnt. Er betonte, die USA sollten ihre führende Rolle in der Technologie behaupten. Parallel dazu haben die USA und China, die führenden Mächte in der KI-Entwicklung, bereits Gespräche über die Einrichtung eines Benachrichtigungssystems für KI-bezogene Vorfälle geführt, die das Niveau einer Bedrohung der nationalen Sicherheit erreichen könnten.

Hinweis: Das Bild zu diesem Beitrag kann KI-generiert sein.

Hinweis: Bei der Bearbeitung dieses Beitrags kann Künstliche Intelligenz zum Einsatz gekommen sein.