San Francisco. Microsoft-Chef Satya Nadella hat aus Sorge vor einem Kontrollverlust eine Art âNotbremseâ in Künstlicher Intelligenz gefordert. Ein Mensch müsse immer in der Lage sein, ein KI-Modell mitten in einer Aufgabe zu stoppen oder abzuschalten, schrieb Nadella in einem Beitrag auf der Online-Plattform X . Hochentwickelte Modelle würden dafür auch fortgeschrittene Mechanismen zur Eindämmung erfordern, betonte der Chef des Software-Konzerns, der selbst in groÃem Stil auf KI setzt.
In den vergangenen Monaten hatten eigenständige Hacking-Attacken durch KI-Software in Tests Ãngste vor Risiken der Technologie befeuert. In dem bisher aufsehenerregendsten Fall war Künstliche Intelligenz des ChatGPT-Entwicklers aus einer abgesicherten Testumgebung ausgebrochen und hatte sich ungeplant in Computer einer anderen KI-Firma gehackt, der Plattform Hugging Face. Einige Brancheninsider sprachen danach davon, dass man nicht ganz ausschlieÃen könne, dass auÃer Kontrolle gerate Künstliche Intelligenz die Menschheit vernichte. Solche extremen Warnungen sind allerdings umstritten.
Nadella betonte auch, dass alle Aktionen Künstlicher Intelligenz für Menschen nachvollziehbar sein müssten. âEtwas, was man nicht überwachen kann, kann man nicht vertrauenâ, schrieb er. AuÃerdem dürfe kein KI-Modell die Kontrolle über die Daten haben, mit denen man sein Verhalten bewerte. Man müsse bei jedem KI-Modell zur Sicherheit von Beginn an davon ausgehen, dass es âkompromittiertâ sei und Eindämmungs-Mechanismen einrichten.
Intuitiv, schnell und immer aktuell - jetzt Handelsblatt App installieren.