„DeepNude“-App zeigt Frauen hüllenlos – Betroffene sind schockiert

flugzeug-internet

Die App „DeepNude“ machte aus Fotos von ahnungslosen Personen Nacktbilder. Durch maschinelles Lernen war es innerhalb nur weniger Sekunden möglich, eine bekleidete Person auf einem Foto völlig hüllenlos darzustellen. Mittlerweile wurde „DeepNude“ von den Entwicklern wieder eingestellt.

So funktionierte die App

Auf dem Smartphone gespeicherte Bilder konnten von Nutzern ganz einfach in der App hochgeladen werden. Dafür, dass anschließend anstelle der bekleideten Körperbereiche lediglich noch nackte Haut, Brüste und Vagina zu sehen waren, sorgten Algorithmen. Die Fotos waren so täuschend echt, dass vermeintliche Nacktbilder von Personen entstanden, die keinerlei Einwilligung hierfür gegeben hatten. Besonders pikant ist, dass „DeepNude“ lediglich mit Frauenkörpern funktionierte. So wurde selbst dann ein hüllenloser Frauenkörper angezeigt, wenn auf dem zuvor hochgeladenen Foto ein Mann zu sehen war. Mutale Nkonde vom Data & Research Institut äußerte sich wie folgt zu der pikanten App:

Die DeepNude-App belegt unsere schlimmsten Befürchtungen, wie audiovisuelle Werkzeuge zu einer Waffe gegen Frauen werden können„.

Von der App waren sowohl eine kostenlose Version als auch eine Premium-Version für 100 Dollar verfügbar. Die Fotos, die von „DeepNude“ erzeugt wurden, wurden zwar mit einem Wasserzeichen als Fake kenntlich gemacht, das Wasserzeichen ließ sich jedoch mit einigen Tricks leicht verbergen.

Was sind Deepfakes?

Bei „DeepNude“ handelte es sich um eine so genannte Deepfake-App. Als Deepfakes werden täuschend echt wirkende Fotos oder Videos bezeichnet, die mit Hilfe von künstlicher Intelligenz erzeugt wurden. Unter anderem wird diese Technik auch in der Filmbranche verwendet, um Gesichter auszutauschen. Es besteht jedoch ein hohes Missbrauchspotential dieser Technik, wie jüngst die App „DeepNude“ zeigte. Denn Deepfakes sind insbesondere dann gefährlich, wenn sie dazu eingesetzt werden, um anderen Menschen zu schaden oder diese in Verruf zu bringen.

Die App ist nicht mehr verfügbar

Mittlerweile ist die App wieder offline. Die Entwickler von „DeepNude“ begründeten diesen Schritt damit, dass sie von dem großen Interesse an der App überrumpelt worden seien. Die Nachfrage nach der Deepfake-App sei riesig gewesen. Obwohl die App nur wenige Monate online war, sprechen die Hersteller von mehr als 500 000 Nutzern. Durch diese Überlastung kam es, laut Aussage der Entwickler, zu Problemen und Ausfällen. The world is not yet ready for DeepNude.“ (Die Welt ist noch nicht bereit für DeepNude) verkündete das Team vor wenigen Tagen auf Twitter.

Hinterlasse jetzt einen Kommentar

Kommentar hinterlassen

E-Mail Adresse wird nicht veröffentlicht.


*


drei + zwölf =

Die aktuellsten telespiegel Nachrichten
Mehr Verbraucherschutz - Verkürzung von Vertragslaufzeitungen

Mehr Verbraucherschutz

Verkürzung von Vertragslaufzeitungen

Das Justizministerium will Verbraucher in Zukunft besser schützen. Die geplanten Änderungen betreffen unter anderem Vertragslaufzeiten, die deutlich gekürzt werden sollen. Darüber hinaus sollen Verträge, die am Telefon geschlossen werden, in Zukunft schriftlich bestätigt werden müssen. […]

Mobile Connect – handybasiertes Login-Verfahren für mehr Sicherheit

Mobile Connect

handybasiertes Login-Verfahren für mehr Sicherheit

Der Login-Dienst Mobile Connect der drei Mobilfunkanbieter Telekom, Telefónica und Vodafone bietet eine sichere und einfache Authentifizierung, die vor Passwort- oder Identitätsdiebstahl schützt. Durch das handybasierte Login-Verfahren entfällt die Sicherheitslücke „Passwort“. […]

Hass im Netz – jeder fünfte Deutsche war schon einmal betroffen

Hass im Netz

jeder fünfte Deutsche war schon einmal betroffen

Eine Forsa-Umfrage zeigt, dass bei vielen Deutschen Unwissenheit über das Thema Cybermobbing besteht. Aus der Umfrage geht außerdem hervor, dass bereits jeder fünfte Deutsche schon einmal selbst von Mobbing im Internet betroffen war. Am häufigsten werden junge Personen zum Opfer. […]