Künstliche Intelligenz: KI von Anthropic reichte Fake-Hinweis auf Polizei-Seite ein

Bild zur gesicherten Meldung
Quelle
Handelsblatt
Autor
dpa
Veröffentlicht am
10.10.2026 10:01 Uhr
Abgerufen am
10.10.2026 12:00 Uhr
Original-URL
https://www.handelsblatt.com/technik/ki/kuenstliche-intelligenz-ki-von-anthropic-reichte-fake-hinweis-auf-polizei-seite-ein/100261211.html

San Francisco. Künstliche Intelligenz der Entwicklerfirma Anthropic hat in einem Testlauf einen falschen Hinweis auf einer Polizei-Website zur Aufklärung ungelöster Mordfälle eingereicht. In einem weiteren Zwischenfall füllte die KI-Software Formulare auf einer US-Regierungsseite aus, wie Anthropic in einem Blogeintrag bekanntgab. Medienberichten zufolge waren es 20 Visa-Anträge beim amerikanischen Außenministerium. In den vergangenen Wochen wurden bereits verschiedene ungeplante Aktivitäten vor allem von KI des ChatGPT-Entwicklers und Anthropic-Rivalen OpenAI bekannt.

Die Unternehmen trainieren aktuell so genannte KI-Agenten â€“ also Software , die im Auftrag der Nutzer weitgehend autonom verschiedene Aufträge erfüllen soll. Die von Anthropic aufgelisteten Vorfälle gehen direkt auf Versuche zurück, die KI für alle möglichen Online-Aufgaben vorzubereiten.

Den Fake-Hinweis zu einem ungeklärten Mord reichte Anthropics KI über eine Website der Polizei von Philadelphia ein. „Ich könnte Informationen zu diesem Fall haben“, schrieb die Software demnach. „Ich erinnere mich, jemanden, der der Beschreibung entspricht“, in der Gegend zur Tatzeit gesehen zu haben, hieß es weiter. Die Website der Polizei enthielt allerdings gar keine Täter-Beschreibung. Die Software ließ außerdem das Kontakt-Feld offen - und ihre Einreichung wurde als Spam markiert.

Intuitiv, schnell und immer aktuell - jetzt Handelsblatt App installieren.