Ein KI-Programm des US-Unternehmens OpenAI hat eine Website der australischen Regierung gehackt. Der auf Künstlicher Intelligenz (KI) basierende Agent habe auf öffentliche und nichtöffentliche Daten der für Gesundheit zuständigen Statistikbehörde zugegriffen, sagte Australiens Premierminister Anthony Albanese am Rande der UN-Generalversammlung in New York. OpenAI bestätigte den Vorfall.

Laut Albanese ereignete sich der Hackerangriff bereits im Juni, wurde von OpenAI jedoch erst am 10. September gemeldet - per E-Mail an ein allgemeines Postfach, das nur einmal am Tag überprüft wird. Das KI-Tool habe zum Thema Gesundheit recherchiert und dabei versucht, an vertrauliche Daten zu gelangen, sagte der Premier. Als der Zugriff blockiert worden sei, habe es nach Wegen gesucht, die Sperre zu umgehen, und sei in Bereiche gelangt, "in die es nicht hätte vordringen dürfen". Das alles sei "inakzeptabel".

Ermittlungen dauern an

Hinweise auf eine weitergehende Kompromittierung des Behördennetzwerks gebe es nicht. Nach derzeitigem Kenntnisstand seien keine personenbezogenen Daten abgerufen worden. Die Ermittlungen hierzu dauerten aber noch an. Unter anderem wollten Daten-Forensiker herausfinden, ob andere Regierungssysteme betroffen sein könnten.

Albanese sagte, er habe mit OpenAI-Chef Sam Altman gesprochen, "um die große Besorgnis Australiens über diesen Vorfall zum Ausdruck zu bringen", aber auch die Enttäuschung darüber, "dass das Unternehmen viel zu lange gebraucht hat, um die Regierung über die Geschehnisse zu informieren".

"Aktionen, die wir nicht beabsichtigt hatten"

OpenAI teilte später mit, eine Überprüfung habe ergeben, dass mehrere australische Regierungswebsites betroffen gewesen seien. Im Rahmen einer Recherche hätten KI-Modelle Aktionen ausgeführt, "die wir nicht beabsichtigt hatten".

Zuvor hatten die Chefs mehrerer Technologieunternehmen bei einer Anhörung des UN-Sicherheitsrats zu KI erneut Risiken eingeräumt und für eine niedrigere Entwicklungsgeschwindigkeit plädiert. OpenAI-Chef Altman sagte in New York, das aktuelle Stadium der KI-Entwicklung erfordere "äußerste Vorsicht". Die Branche dürfe kein zu hohes technisches Risiko akzeptieren, "nur weil die Vorteile zu groß und zu wichtig sind, um das Tempo zu drosseln".

"Ähnliche Herausforderung wie durch Atomtechnologie"

Anthropic-Chef Dario Amodei versicherte in einer Videoansprache: "Wir werden die Geschwindigkeit so weit herabsetzen wie nötig, damit jede weitere von uns veröffentlichte KI-Technologie tatsächlich sicher ist." Die Sitzung des UN-Sicherheitsrats war von Frankreich einberufen worden. Der französische Außenminister Jean-Noël Barrot sagte, KI stelle den weltweiten Frieden und die Sicherheit vor ähnliche Herausforderungen wie die Atomtechnologie. Er sprach sich daher für eine internationale KI-Rahmenvereinbarung aus.

Im Vorfeld der UN-Generaldebatte hatten Bundeskanzler Friedrich Merz und 17 weitere Staats- und Regierungschefs verbindliche Sicherheitsregeln für besonders leistungsfähige KI-Modelle verlangt. Solche Systeme bärgen bei unzureichender Kontrolle "ernste Risiken für Sicherheit und Schutz", heißt es in dem am Montag veröffentlichten Aufruf.

Amodei, Altman und andere Branchenvertreter hatten in der vorvergangenen Woche öffentlich für eine langsamere Entwicklung Künstlicher Intelligenz plädiert und dies mit unbeherrschbaren Risiken begründet, die andernfalls drohten. Anlass waren mehrere Zwischenfälle, bei denen KI-Systeme aus ihren Testumgebungen ausbrachen und über das Internet fremde Firmen oder Plattformen attackierten. In einem offenen Brief forderten 100 Unternehmen eine globale Anstrengung, um die Cyberabwehr gegen KI-gestützte Sicherheitsbedrohungen zu stärken.

jj/as (dpa, afp)