Digital
KI-Chaos! Experten verstehen ihre Programme nicht mehr
Die Entwicklung in der Künstlichen Intelligenz geht aktuell sprunghaft und kaum überschaubar vonstatten. Nun sprechen Tech-Vertreter eine Warnung aus.
Nahezu täglich gelangen Entwicklungsschritte im Bereich der Künstlichen Intelligenz (KI) an die Bildfläche, die verblüffen. Gleichzeitig häufen sich die Sorgen darüber, wohin uns das alles noch führen wird. Nun kommt es zu einem Knalleffekt: Sogar gewichtige Vertreter der Technologie-Branche, allen voran Elon Musk, scheinen zunehmende Skepsis hinsichtlich der aktuellen Entwicklungen in der KI aufzuweisen.
Das zeigt ein am Mittwoch veröffentlichter Brief klar und deutlich. Das Schreiben wurde von der gemeinnützigen Organisation "Future of Life" veröffentlicht, die unter anderem von Musk gegründet wurde. Darin ist von einem "außer Kontrolle geratenen Wettlauf" die Rede. Die aktuelle Entwicklung könne "niemand – nicht einmal ihre Schöpfer – verstehen, vorhersagen oder zuverlässig kontrollieren". Nun wird ein drastischer Schritt gefordert.
Im Notfall: Politik soll Verbot verhängen
Man solle leistungsstarke KI-Systeme erst dann entwickeln "wenn wir sicher sind, dass ihre Auswirkungen positiv und ihre Risiken überschaubar sind", wird in dem auf Twitter veröffentlichten Schreiben gefordert. Das sei aktuell noch nicht der Fall, zu viel läge im Dunklen. Daher wird gefordert, dass die Entwickler der nächsten KI-Generation ihre Arbeit zunächst mindestens sechs Monate lang einstellen.
"Diese Pause sollte öffentlich und überprüfbar sein und alle wichtigen Akteure einbeziehen. Wenn eine solche Pause nicht schnell umgesetzt werden kann, sollten die Regierungen eingreifen und ein Moratorium verhängen", liest es sich in dem Schreiben.
Prominente Unterstützer
Außer Musk unterschrieben mehr als tausend Personen das Manifest: Unter ihnen auch Emad Mostaque, Chef der KI-Firma Stability AI, und mehrere Entwickler von Googles KI-Tochter DeepMind. Des Weiteren werden Apple-Gründer Steve Wozniak, Turing-Preisträger Yoshua Bengio und der Historiker Yuval Noah Harari unter dem Schreiben als Unterstützer der Botschaft angeführt. Gewarnt wird vor "tiefgreifenden Risiken für die Gesellschaft und die Menschheit".
Die Vorstellung und das Anlaufen von ChatGPT im November 2022 hatten einen Wettlauf um die technologische Führerschaft bei KI ausgelöst. Die Unternehmen sehen das große finanzielle Potenzial und stellen daher beinahe wöchentlich neue Anwendungen vor. Vor allem China sieht KI als strategisch wichtig – hier wird Entwicklern erstaunlich viel Raum und Freiheit gegeben.
"Müssen langsamer werden"
Sam Altman, Chef des ChatGPT-Entwicklers OpenAI, hat den Aufruf hingegen nicht unterschrieben. Zwar gehört Musk zu den Mitgründern der Firma, jedoch hat er sich bereits mehrfach kritisch zur Thematik geäußert. Er fordert die staatliche Regulierung des boomenden Wirtschaftssektors.
"Der Wortlaut ist nicht perfekt, aber der Geist ist richtig: Wir müssen langsamer werden, bis wir die Auswirkungen besser verstehen", kommentiert Gary Marcus, ein emeritierter Professor der New York University und Unterzeichner des offenen Briefes das Schreiben. "Die großen Akteure machen immer größere Geheimnisse um ihre Aktivitäten, was es der Gesellschaft erschwert, sich gegen mögliche Gefahren zu wehren."