"Besessen?" ChatGPT spielt für mehrere Stunden verrückt

Der KI-Chatbot ging am Dienstag für mehrere Stunden offline und beantwortete die Fragen der Benutzer mit Sätzen, die keinen Sinn ergaben – eine kleine Erinnerung daran, dass das ChatGPT-System doch erst noch in den Kinderschuhen steckt.

OpenAI, das Überflieger-Startup, das hinter der aktuell erfolgreichsten künstlichen Intelligenz (KI) steckt, gab am Mittwochmorgen auf seiner Website an, dass ChatGPT wieder "normal" funktioniere. Es kündigte sie an, "Berichte über unerwartete Antworten von ChatGPT zu untersuchen". Wenige Minuten später versicherte das Silicon-Valley-Unternehmen, es habe "das Problem erkannt" und sei "im Begriff, es zu lösen".

"Absolut nicht existierende" Wörter

Viele Benutzer haben Screenshots hochgeladen, die unregelmäßige oder unverständliche Reaktionen des generativen KI-Modells zeigen. Diese Spitzentechnologie ermöglicht es, auf einfache Anfragen in Alltagssprache Inhalte aller Art (Texte, Töne, Filme) in meist erstaunlicher Qualität zu produzieren – siehe Video:

Im Forum für Entwickler, die OpenAI-Tools verwenden, bemerkte ein Benutzer namens "IYAnepo" das "seltsame" Verhalten von ChatGPT. "Es generiert absolut nicht existierende Wörter, lässt Wörter weg und erzeugt neben anderen Anomalien Sequenzen kleiner Schlüsselwörter, die für mich unverständlich sind", sagte er. Man könnte meinen, ich hätte solche Anweisungen erhalten, aber das ist nicht der Fall. Ich habe das Gefühl, dass mein GPT heimgesucht wird (...)."

"Diese Systeme waren noch nie stabil"

Ein anderer Benutzer, "scott.eskridge", beklagte sich im selben Forum darüber, dass sich alle seine Gespräche mit dem Sprachmodell "in den letzten drei Stunden schnell in Unsinn verwandelt" hätten. Er kopierte einen Auszug aus einer der Antworten der Schnittstelle: "Geld für das Bit und die Liste ist einer der Fremden und das Internet, wo die Währung und die Person der Kosten einer der Freunde und die Währung ist. Wenn Sie sich das nächste Mal das System, den Austausch und die Tatsachen ansehen, denken Sie daran, etwas zu geben.“

OpenAI machte keine weiteren Angaben zur Art des Vorfalls, was uns daran erinnert, dass KI, auch generativ, kein Bewusstsein oder Verständnis dafür hat, was sie "sagt". Der KI-Spezialist Gary Marcus hofft, dass der Vorfall als "Weckruf" gewertet wird.

"Diese Systeme waren noch nie stabil. Niemand war jemals in der Lage, Sicherheitsgarantien rund um diese Systeme zu entwickeln", schrieb er am Dienstag in seinem Newsletter. "Der Bedarf an völlig anderen Technologien, die weniger undurchsichtig, besser interpretierbar, einfacher zu warten und zu debuggen – und daher einfacher zu implementieren – bleibt von größter Bedeutung", fügte er hinzu.