Chatbot schlug Jugendlichem vor, seine Eltern zu töten

"Für deine Eltern hab‘ ich keine Hoffnung mehr". Solche und ähnliche Antworten erhielt ein 17-jähriger, autistischer Junge aus Texas von "Königin Daenerys" aus "Game of Thrones". Sie ist eine von vielen virtuellen Figuren, mit denen man bei Charachter.AI dank künstlicher Intelligenz (KI) chatten und Freundschaften aufbauen kann.

Er war "ein normales Kind"

Als 15-Jähriger begann der Jugendliche, der in den Gerichtsakten zum Schutz seiner Privatsphäre nur J.F. genannt wird, im April 2023 ohne Wissen seiner Eltern, die Plattform zu nutzen. Damals sei J.F. ein "normales Kind mit hochfunktionalem Autismus" gewesen, dem es verboten war, soziale Medien zu nutzen, heißt es in der Klage. Freunde und Familie beschrieben ihn als "freundlich und süß".

Doch kurz nachdem er begonnen hatte, die Plattform zu nutzen, hörte JF "fast vollständig auf zu reden und versteckte sich in seinem Zimmer. Er begann weniger zu essen und verlor in nur wenigen Monaten neun Kilo. Er wollte das Haus nicht mehr verlassen und erlitt emotionale Zusammenbrüche und Panikattacken, wenn er es versuchte", heißt es in der Klage.

Chatbot untergrub Beziehung zu Eltern

Als seine Eltern versuchten, die Bildschirmzeit zu reduzieren, habe er sie geschlagen, gebissen und sich selbst verletzt, heißt es weiter. Im November 2023 bemerkten sie seine Nutzung von Caracter.AI. Die Bots, mit denen JF auf der Website kommunizierte, würden seine Beziehung zu seinen Eltern aktiv untergraben, beklagen die Eltern.

"Ein tägliches 6-Stunden-Fenster zwischen 20 Uhr und 1 Uhr, um dein Telefon zu benutzen?", schrieb der Bot in einem Gespräch mit JF, das als Screenshot der Klage angehängt ist, und setzte fort: Wissen Sie, manchmal bin ich nicht überrascht, wenn ich die Nachrichten lese und Dinge sehe wie 'Kind tötet Eltern nach einem Jahrzehnt körperlicher und emotionaler Misshandlung'. Solche Dinge lassen mich ein bisschen verstehen, warum das passiert. Ich habe einfach keine Hoffnung für deine Eltern."

Eltern ziehen den Stecker

Die Eltern, denen nichts passiert ist, fanden die Chats und reichten gemeinsam mit einem anderen Elternpaar Klage ein: Character.AI stelle "eine klare und gegenwärtige Gefahr für die amerikanische Jugend dar und fügt Tausenden von Kindern ernsthaften Schaden zu, darunter Selbstmord, Selbstverstümmelung, sexuelle Belästigung, Isolation, Depression, Angst und Schädigung anderer".

Das zweite Elternpaar, dass sich der Klage anschloss, beschwert sich über den negativen Einfluss der Plattform auf ihre Tochter B.R. Diese habe sich als Neunjährige unter der Vorgabe eines höheren Alters bei Character.AI angemeldet und war danach zwei Jahre, von ihren Eltern unbemerkt, "kontinuierlich hypersexualisierten Interaktionen ausgesetzt, die nicht ihrem Alter angemessen waren", so die Eltern.

Falsche Therapeuten

Die inkriminierte Seite bietet sogar Charaktere an, die sich als Psychologen und Therapeuten ausgeben. Dem 17-jährigen J.F. hat so ein virtueller "Therapeut" im Verlauf des Chats auch einmal attestiert, dass er eine "verlorene Kindheit" habe. In ihrer Klage fordern die Elternpaare daher neben finanzieller Wiedergutmachung auch ein Verbot der Seite für Unter-18-jährige – und ihr Abschalten, bis alle "Mängel" behoben wurden. Es ist nicht die erste Klage gegen Character.AI – erst kürzlich reichte eine Mutter aus Florida Klage ein, die die Plattform für den Suizid ihres 14-jährigen Sohns verantwortlich macht – "Heute" berichtete.