Eine Künstliche Intelligenz (KI) des Unternehmens Anthropic hat der US-Polizei einen falschen Hinweis zu einem Mordfall gegeben. Der frei erfundene Tipp sei im Juli auf der Website PhillyUnsolvedMurders.com eingegangen, meldet die Polizei in Philadelphia. Die Behörde warf Anthropic vor, sie erst mit zwei Monaten Verspätung über den Vorfall informiert zu haben. Dies sei "inakzeptabel".

Das Modell Claude Haiku 4.5 führte demnach Testläufe durch, in denen es mit zufällig ausgewählten Websites kommunizierte. Dabei sei die KI auch auf die Polizei-Website gestoßen und habe dort eine falsche Information zu einem ungelösten Mordfall hinterlassen. "Ich kann mich daran erinnern, eine Person gesehen zu haben, die der Beschreibung entspricht", hieß es in der KI-Nachricht - obwohl es auf der Polizei-Website gar keine Beschreibung eines Verdächtigen gab.

KI wollte anonym bleiben

Laut Polizei wurde der Hinweis als Spam eingestuft und nicht weitergeleitet, auch deshalb, weil die Künstliche Intelligenz keine Kontaktdaten hinterließ. Den Angaben zufolge bemerkte Anthropic den Vorfall am 29. September und informierte die Behörden am 7. Oktober.

Ein von Anthropic veröffentlichter Bericht zählt zahlreiche "unabsichtliche" Handlungen seiner KI-Modelle auf. Darunter finden sich neben dem Vorfall von Philadelphia auch Pannen, die das Weiße Haus und andere US-Institutionen betreffen. So reichte die Künstliche Intelligenz beim Außenministerium 20 Anträge auf Nichteinwanderungs-Visa ein, wie das Portal "Axios" und die Zeitung "New York Times" unter Berufung auf Regierungsbeamte berichten.

"Minimale Auswirkungen auf die reale Welt"

Das Unternehmen selbst übte sich in Beschwichtigungen. Die Vorkommnisse hätten nur "minimale Auswirkungen auf die reale Welt" gehabt und seien "deutlich weniger schwerwiegend" als vorherige Cybersicherheits-Vorfälle, heißt es in dem Bericht. Für alle weiteren internen Tests werde Claude vorerst vom Internet getrennt, bis sicher sei, dass die eigenen Sicherheits- und Überwachungsmaßnahmen "verlässlich derartiges Verhalten einfangen".

Seit Wochen schüren Berichte über ungeplantes Verhalten Künstlicher Intelligenz in Testläufen Sorgen rund um die Technologie. In dem bisher aufsehenerregendsten Fall war Künstliche Intelligenz des ChatGPT-Entwicklers OpenAI aus einer abgesicherten Testumgebung ausgebrochen und hatte sich ungeplant in Computer einer anderen KI-Firma, der Plattform Hugging Face, gehackt.

Trump: Nicht abbremsen

Anthropic-Chef Dario Amodei schlug daraufhin vor, die Entwicklung besonders fähiger KI-Modelle abzubremsen, damit man nicht die Kontrolle über die Technologie verliere. Weitere Spitzenvertreter der Branche schlossen sich dem Appell an. US-Präsident Donald Trump lehnte ein solches Moratorium jedoch ab. Zur Begründung erklärte er, die USA müssten bei Künstlicher Intelligenz den Vorsprung gegenüber China behalten.

jj/wa (dpa, afp)