Und plötzlich gab es Nacktbilder – Wenn KI Chatbots intime Aufnahmen erstellen

Dass KI-Tools genutzt werden, um Nacktbilder von Personen zu erstellen, wird schon länger als Problem diskutiert. Grok, der KI-Chatbot der Plattform X, zeigte zuletzt auch warum: Nutzende generierten mit ihm öffentlich unzählige sexualisierte Aufnahmen von real existierenden Frauen und teilweise auch minderjährigen Personen. Auch inzestuöse und gewalttätige Inhalte sollen darunter gewesen sein.

Warum ist das so problematisch?

Es gibt mehrere Punkte, die hier als problematisch betrachtet werden:

• Die Erstellung und Verbreitung der Inhalte fanden ohne das Einverständnis der betroffenen Personen statt.

• Deepnudes, also KI-generierte sexuelle Darstellungen, sind eine Form der bildbasierten sexualisierten Gewalt. Ob die Bilder ‚echt‘ sind oder nicht: Sie können belastend, erniedrigend und rufschädigend sein. 

• Potenziell kann dabei Kinder- und Jugendpornografie entstanden sein. Dabei gilt auch wenn sie KI-generiert ist: Die Herstellung, der Besitz und die Verbreitung sind strafbar.

• Auch darüber hinaus können strafrechtlich verschiedene Aspekte relevant sein, zum Beispiel das Recht am eigenen Bild, das Recht auf sexuelle Selbstbestimmung oder auch die öffentliche Verbreitung von Pornografie

Hinzu kommt: Grok ist nicht zum ersten Mal negativ aufgefallen. Zuletzt tätigte der Chatbot beispielsweise antisemitische Aussagen. Damit stellt sich bei vielen die Frage nach der Regulierung von KI-Anwendungen und Chatbots.

Werden KI-Chatbots rechtlich reguliert?

Derzeit gibt es noch keine abschließende rechtliche Einordnung oder Bewertung von KI-Diensten. Somit werden im Kontext von KI-generierten Inhalten meist Anknüpfungspunkte im bereits bestehenden Recht herangezogen, wie zum Beispiel Transparenzpflichten, Diskriminierungsverbote oder mögliche Straftatbestände.

Aufsichtsrechtliche Verfahren gegen Anbieter von KI-Diensten gibt es derzeit also noch nicht. Zukünftig ist das aber nicht ausgeschlossen. Zudem soll es neue, an KI angepasste Gesetze geben.

Was kann man tun, wenn Deepnudes von einem erstellt werden?

Bekommt man mit, dass Deepnudes von einem selbst erstellt oder sogar verbreitet werden, kann das eine belastende und beunruhigende Situation sein. Folgendes kann man in einem solchen Fall tun:

• Unterstützung einholen bzw. der betroffenen Person Unterstützung anbieten 

• Beweise sichern 

• Im Fall von Erpressung: Nicht auf Forderungen eingehen 

• Die Deepnudes sowie das Profil dahinter melden und blockieren 

• StopNCII oder Take It Down nutzen 

• Sich an die Polizei wenden und Anzeige erstatten, in einer Polizeiwache in deiner Nähe oder online

Mehr Informationen dazu gibt es hier:

• Was sind Deepnudes? - ZEBRA

• Was kann ich tun, wenn jemand Deepnudes von mir erstellt? - ZEBRA