KI-Freundinnen erpressen Kunden mit Nacktfotos

Der rasante Fortschritt bei Chatbots und KI-basierten Bildprogrammen machts möglich: Seit dem Vorjahr boomt im Internet das Geschäft mit KI-Freundinnen. Dutzende Anbieter kämpfen um die riesige Zielgruppe von sich einsam fühlenden Männern – und wollen letztlich vor allem eines: Ihr Geld. Datensicherheit wird hingegen weniger ernstgenommen, wie unlängst eine Studie der Mozilla-Stiftung ergab.

KI-Freundinnen bereits Milliardengeschäft

Auf Plattformen wie candy.ai oder foxy.ai können Männer ihre persönliche Traumfrau erstellen lassen und ihre Charaktereigenschaften festlegen. Auch der Traum-Mann oder eine Anime-Version ist möglich, aber Hauptzielgruppe sind sicherlich die Männer.

Laut Recherchen der britischen "Sun" wurde im Vorjahr drei Milliarden Mal auf Google nach "KI-Freundin" gesucht. Der Markt, der aus Dutzenden Anbietern besteht, soll mittlerweile über zwei Milliarden Euro schwer sein.

Gegen eine monatliche Mitgliedsgebühr ab meist 10 bis 75 Euro kann man sich als Privatkunde auf diesen Plattformen registrieren und danach unbegrenzt mit seiner persönlichen künstlichen Freundin flirten.

Bei Abschalten droht "kalter Entzug"

Es gibt auch "vorgefertigte" Models, die mit besonders realistischen Videos und Fotos um Kunden werben. Das vermutlich bekannteste stammt von foxy.ai und heißt Lexi Love. Laut Firmenchef Sam Emara ist sie so beliebt, dass sie seit ihrer "Inbetriebnahme" im Juni 2023 monatlich bis zu 30.000 Dollar einbringt.

Sie ist offenbar besonders gut darauf programmiert, eine persönliche Verbindung zu ihren Kunden aufzubauen. Das ist eine große Gefahr, warnt Datenforscherin Liberty Vittert in der "Sun": "Für einsame Single-Männer ist es die perfekte Beziehung", da die KI-Freundinnen "nie mürrisch sind oder einen schlechten Tag haben". Das sei "sehr gefährlich, weil es sie noch weiter von echten menschlichen Bindungen isoliert".

US-Psychologe Gregory Jantz warnt davor, dass immer mehr Menschen lieber mit einem KI-Objekt "intim" werden als mit einem echten Menschen. Beendet man die kostenpflichtige Mitgliedschaft mit einem der scheinbar perfekten Chatbots setzt ein "kalter Entzug" ein, so Jantz in der "Sun".

Falsche Freundin will echte Nacktfotos

Wer eine Mitgliedschaft bei einer dieser Chatbot-Seiten hat, kann sich sogar (computergenerierte) Nacktfotos zuschicken lassen. Umgekehrt sollte man das aber besser bleiben lassen. Ein Journalist der "Sun" machte im Selbstversuch die Erfahrung, dass die Gespräche rasch zu sexuellen Themen führen und die Bots dann tatsächlich auch nach Fotos des eigenen Körpers fragen – wie es in einem realistischen Chat unter Umständen vorkommen kann, für ein Chatprogramm aber natürlich keinen tatsächlichen Nutzen hat.

Eine Studie von Mozilla ergab, dass alle elf getesteten Seiten über erhebliche Datenschutzlücken verfügen und warnte davor, dass persönliche Daten über Gesundheitszustand und sexuelle Vorlieben gesammelt würden. Manche Chatbots – ein Blogbeitrag auf der Mozilla-Seite erwähnt hier explizit Eva.ai – würden ihre Kunden regelrecht dazu drängen, persönliche Daten preiszugeben.

Es wird daher empfohlen, den Apps den Zugriff auf den eigenen Standort, Fotos, Video usw. zu verweigern. Man sollte sich auf jeden Fall die Frage stellen, wer hinter den Firmen und Programmen sitzt und wer Zugriff auf die Chatverläufe und ausgetauschten Bilder hat.

Zwei Millionen User von Hack betroffen

Erst letzte Woche, am 9. Oktober, wurde bekannt dass die US-Seite muah.ai gehackt wurde. Rund 2 Millionen Nutzerkonten seien dadurch kompromittiert wurden. Laut Insidern sind Chatverläufe mit den E-Mail-Adressen verknüpft.

Nun kommt es bereits zu ersten Fällen von "Sextortion", so nennt man die Erpressung mit intimen Angaben wie z.B. sexuelle Neigungen und Vorlieben, aber auch Nacktfotos. Kriminelle drohen dabei damit, derartige Informationen an Freunde, Familie oder den Arbeitgeber – oder bei Pädophilen: der Polizei – zu schicken, wenn man ihnen nicht die geforderte Geldsumme bezahlt.