Screenshot DeepNude (Foto: Screenshot DeepNude)

Lifestyle Apps Nacktscanner-App war zu echt - DeepNude ist offline

Wenn eine App erfolgreich ist und viel heruntergeladen wird, ist das eigentlich ja super für den Entwickler. Bei DeepNude hat der Erfolg jetzt aber dazu geführt, dass der Nacktscanner nicht mehr verfügbar ist.

Über die App "DeepNude", die mit Hilfe einer künstlichen Intelligenz (KI) in Sekundenschnelle realistische Nacktfotos von Frauen erzeugen kann, wurden in der vergangen Woche so viel berichtet, dass sie zu berühmt wurde und jetzt komplett eingestellt und vom Netz genommen wurde.

Was ist passiert?

Sonntag, den 23. Juni 2019 bringen die Entwickler die Nackscanner-App "DeepNude" auf den Markt. Es gab eine kostenlosen Basis-Version, wer aber höher aufgelöste Nacktfotos mit kleinerem Wasserzeichen sehen wollte, musste in die Premium-Variante für etwa 100 US-Dollar im Jahr investieren.

Großes technisches Verständnis brauchte man für die App nicht: Einfach ein Foto einer Frau hochladen - 30 Sekunden später hat der Nacktscanner ein realistisch aussehendes Nacktbild daraus generiert. Für Männerfotos hat die App nicht funktioniert - die KI war nur auf Frauenkörper trainiert. Hochgeladene Bilder von Männern werden von der App auch einfach in Frauen umgewandelt.

Drei Tage nach Veröffentlichung der App wird weltweit viel über sie berichtet - und das ruft einen riesigen Useransturm aus. Die Server kommen nicht hinterher, die App geht am Donnerstag vorrübergehend offline - und bleibt es letzten Endes sogar.

Was war das Problem?

Die App kennzeichnet zwar alle Nacktfotos mit einem Wasserzeichen, was auf einen Fake hinweisen soll. Allerdings ist dieses mit relativ wenigen Handgriffen auch grafisch entfernbar.

Wie bei anderen Deepfake-Programmen oder Apps sind zwar die generierten Nacktbilder auch bei ganz genauem Hingucken als Fake zu erkennen. Ist das Foto allerdings leicht unscharf aufgenommen oder wird nur flüchtig angeschaut, können die Fotos auch schnell als "echt" durchgehen.

Kommen diese Nacktfotos dann in die falschen Hände, ist das natürlich wirklich gefährlich - die Opfer könnten mit den Bildern sehr schnell und einfach beschämt, gemobbt und erpresst werden.

Darum ist die App jetzt nicht mehr verfügbar

In der Nacht zu Freitag posten die Entwickler ein Statement, warum sie den Nacktscanner nicht wieder zum Download bereitstellen werden.

In ihrem Statement schreiben die Entwickler, dass sie die App nur zur Unterhaltung programmiert und mit ein paar Verkäufen im Monat gerechnet haben.

Ehrlich gesagt ist die App nicht so gut. Sie funktioniert nur mit bestimmten Fotos. Wir hätten niemals gedacht, dass das viral gehen könnte und wir die Kontrolle über den Traffic verlieren könnten. Wir haben die Nachfrage sehr unterschätzt.

deepnudeapp auf Twitter

Innerhalb weniger Tage haben über 500 Tausend User die App heruntergeladen.

Auch mit den Sicherheitsmaßnahmen durch Wasserzeichen, ist bei einer Userzahl von 500.000 das Risiko des Missbrauchs zu hoch. So wollen wir kein Geld verdienen.

deepnudeapp auf Twitter

Deswegen haben sie die App offline genommen und bieten Nutzern, die das Premium-Upgrade schon bezahlt haben, aber jetzt nicht nutzen können, eine Rückerstattung.

Der Download unserer Software von anderen Seiten, sowie das Teilen dieser ist verboten - das verstößt gegen die Nutzungsbedingungen.

deepnudeapp auf Twitter

Abschließend stellen die Entwickler in ihrem Statement fest:

Die Welt ist noch nicht bereit für DeepNude.

deepnudeapp auf Twitter

Dem ist wohl nichts hinzuzufügen.