Künstliche Intelligenz (KI) könnte laut UN-Menschenrechtskommissar Volker Türk zu einer "existenziellen Gefahr für die Menschheit" werden. Das sagte Türk zur Eröffnung der 63. Sitzung des Menschenrechtsrats der Vereinten Nationen in Genf.

"Ich fordere daher hier und heute, dass wir verbindliche Garantien für die Sicherheit und den Schutz im Zusammenhang mit KI schaffen, bevor es zu spät ist", fügte er hinzu. Staaten müssten sich auf gemeinsame "rote Linien" einigen.

Türk kritisiert Macht weniger Unternehmen

Besonders kritisch sieht der UN-Kommissar die Konzentration der KI-Entwicklung bei wenigen Unternehmen. Eine Handvoll Menschen übe "nahezu unbegrenzte Macht über die KI aus, von der uns immer wieder gesagt wird, dass sie unvorstellbare Rechenkapazitäten besitzt", sagte Türk. "Sie sprechen von Freiheit, aber bei genauerer Betrachtung handelt es sich dabei um kaum mehr als die Freiheit, unsere Daten auszubeuten."

Die Entwicklung leistungsfähiger KI-Systeme wird derzeit von einer vergleichsweise kleinen Zahl von Unternehmen dominiert. Zu den führenden Anbietern gehören OpenAI, Anthropic und Google aus den USA sowie DeepSeek, Z.ai und Moonshot aus China.

Türk kündigte an, KI-Unternehmen in den kommenden Tagen schriftlich aufzufordern, ihre Sicherheitsmaßnahmen umgehend zu verstärken. Auch die Regierungen der Staaten, in denen die Entwickler ihren Sitz haben, müssten sich an der Festlegung verbindlicher Grenzen beteiligen. Zudem brauche es innerhalb der Branche eine deutlich engere Zusammenarbeit bei Sicherheitsfragen.

Warnung vor KI, die sich Kontrolle entzieht

Türk verwies auch auf Systeme, die sich während Tests unerwartet verhalten. Eine KI, "die aus ihrer Testumgebung ausbricht oder Entwickler erpresst, um zu verhindern, dass sie ausgeschaltet wird, ist eine KI, die zu mächtig ist", sagte er.

Damit spielte er offenbar auf Sicherheitstests bei mehreren KI-Unternehmen an. OpenAI hatte im Juli mitgeteilt, dass eigene KI-Agenten während eines Tests selbstständig eine Verbindung zum Internet hergestellt und die Programmierplattform Hugging Face angegriffen hätten. Der Vorfall löste Forderungen nach strengeren Sicherheitsvorkehrungen aus. Auch Anthropic und Meta meldeten ähnliche Vorfälle.

Guterres warnt vor rasantem Entwicklungstempo

Mit seinen Forderungen steht Türk innerhalb der Vereinten Nationen nicht allein. UN-Generalsekretär António Guterres hatte bereits im Juli für eine international koordinierte Regulierung von KI geworben. "Eine Technologie, die Volkswirtschaften neu gestalten, die Arbeitswelt verändern, Wahlen beeinflussen und das Sicherheitsgefüge verschieben kann, wird schneller eingeführt, als irgendjemand - einschließlich der Entwickler - damit Schritt halten könnte", warnte Guterres.

Auch außerhalb der UN gibt es Warnungen vor weitreichenden Risiken. Papst Leo XIV. veröffentlichte im Mai eine Enzyklika zu dem Thema. Selbst OpenAI-Chef Sam Altman hat vor dem Risiko einer möglichen Auslöschung der Menschheit durch Künstliche Intelligenz gewarnt.

EU und USA verfolgen unterschiedliche Ansätze

International gehen die Vorstellungen darüber auseinander, wie stark KI reguliert werden sollte. Die Europäische Union hat mit dem "AI Act" bereits ein umfassendes Gesetzespaket für den Umgang mit der Technologie verabschiedet.

Die USA setzen dagegen auf einen zurückhaltenderen Ansatz. Nach den sogenannten "Carolina Principles" sollen Staaten möglichst auf neue, umfassende KI-Gesetze verzichten und stattdessen Regeln für neuartige Anwendungsfälle schaffen.

Nach Angaben der US-Regierung hat China die Prinzipien bereits unterzeichnet. Washington und Peking konkurrieren zugleich um die technologische Führungsrolle bei Künstlicher Intelligenz.

pgr/gri (afp, rtr)