Immer mehr Menschen fallen auf täuschend echte Fälschungen herein. Ein besonders erschreckender Fall ereignete sich in Frankreich, wo eine Frau glaubte, mit Brad Pitt zu kommunizieren und ihm finanziell zu helfen – sie verlor dabei 850'000 Dollar an Betrüger.
Prominente wie Steve Harvey, Tom Hanks, Taylor Swift und Scarlett Johansson wehren sich dagegen, dass ihre Stimmen und Bilder ohne ihre Zustimmung für betrügerische Zwecke missbraucht werden.
„Wir müssen den Missbrauch von KI anprangern, unabhängig von ihrer Botschaft. Sonst riskieren wir, den Bezug zur Realität zu verlieren“Scarlett JohanssonSchauspielerin, gegenüber "The Guardian".
Im US-Kongress wird nun intensiv über gesetzliche Regelungen diskutiert. Im Zentrum steht der "No Fakes Act", der von einer parteiübergreifenden Gruppe von Senatoren erarbeitet wird.
Gleichzeitig diskutiert werden im Senat Gesetze, die darauf abzielen, KI-generierte Deepfake-Pornografie zu kriminalisieren. Dabei handelt es sich um den "Take It Down Act", der ebenfalls dem Kongress vorliegt und diese Woche die Unterstützung von First Lady Melania Trump erhielt.
Eine der lautesten Stimmen im Kampf gegen Deepfakes ist der US-TV-Moderator Steve Harvey. Seit Jahren wird sein Name für Betrugsversuche missbraucht, etwa in Videos, in denen eine KI-generierte Stimme vorgibt, Harvey empfehle eine Geldanlage mit garantierten Gewinnen. "Ich sage euch schon seit Monaten, dass ihr diese kostenlosen 6.400 Dollar einfordern sollt", sagt eine Stimme, die wie Harvey klingt, in einem Video.
Die Filmindustrie steht geschlossen hinter den Gesetzesinitiativen: Die Screen Actors Guild, die Motion Picture Association und große Talentagenturen unterstützen die Vorschläge vehement.
Trotz der breiten Unterstützung aus Hollywood gibt es auch kritische Stimmen. Organisationen wie die Electronic Frontier Foundation (EFF) und die American Library Association warnen davor, dass die vorgeschlagenen Gesetze zu weit gehen könnten. Sie befürchten, dass eine Überregulierung die Meinungsfreiheit gefährden und eine Klagewelle auslösen könnte.
Auch die Technologiebranche steht dem Gesetz gespalten gegenüber. Während etablierte Unternehmen wie Microsoft und Google die Regulierung begrüssen und bereits an verbesserten Erkennungssystemen arbeiten, kritisieren Vertreter kleinerer KI-Startups die strengen Vorgaben als innovationshemmend.
Parallel zu den gesetzgeberischen Bemühungen arbeiten Technologie-Unternehmen an Lösungen zur Bekämpfung von Deepfakes. So hat das Start-up Vermillio AI beispielsweise die Plattform "TraceID" entwickelt, die Deepfake-Inhalte automatisch identifizieren und entfernen kann. Das System nutzt digitale Fingerabdrücke, um authentische Inhalte von Fälschungen zu unterscheiden.
