Die App „DeepNude“ machte aus Fotos von ahnungslosen Personen Nacktbilder. Durch maschinelles Lernen war es innerhalb nur weniger Sekunden möglich, eine bekleidete Person auf einem Foto völlig hüllenlos darzustellen. Mittlerweile wurde „DeepNude“ von den Entwicklern wieder eingestellt.
So funktionierte die App
Auf dem Smartphone gespeicherte Bilder konnten von Nutzern ganz einfach in der App hochgeladen werden. Dafür, dass anschließend anstelle der bekleideten Körperbereiche lediglich noch nackte Haut, Brüste und Vagina zu sehen waren, sorgten Algorithmen. Die Fotos waren so täuschend echt, dass vermeintliche Nacktbilder von Personen entstanden, die keinerlei Einwilligung hierfür gegeben hatten. Besonders pikant ist, dass „DeepNude“ lediglich mit Frauenkörpern funktionierte. So wurde selbst dann ein hüllenloser Frauenkörper angezeigt, wenn auf dem zuvor hochgeladenen Foto ein Mann zu sehen war. Mutale Nkonde vom Data & Research Institut äußerte sich wie folgt zu der pikanten App:
Von der App waren sowohl eine kostenlose Version als auch eine Premium-Version für 100 Dollar verfügbar. Die Fotos, die von „DeepNude“ erzeugt wurden, wurden zwar mit einem Wasserzeichen als Fake kenntlich gemacht, das Wasserzeichen ließ sich jedoch mit einigen Tricks leicht verbergen.
Was sind Deepfakes?
Bei „DeepNude“ handelte es sich um eine so genannte Deepfake-App. Als Deepfakes werden täuschend echt wirkende Fotos oder Videos bezeichnet, die mit Hilfe von künstlicher Intelligenz erzeugt wurden. Unter anderem wird diese Technik auch in der Filmbranche verwendet, um Gesichter auszutauschen. Es besteht jedoch ein hohes Missbrauchspotential dieser Technik, wie jüngst die App „DeepNude“ zeigte. Denn Deepfakes sind insbesondere dann gefährlich, wenn sie dazu eingesetzt werden, um anderen Menschen zu schaden oder diese in Verruf zu bringen.
Die App ist nicht mehr verfügbar
Mittlerweile ist die App wieder offline. Die Entwickler von „DeepNude“ begründeten diesen Schritt damit, dass sie von dem großen Interesse an der App überrumpelt worden seien. Die Nachfrage nach der Deepfake-App sei riesig gewesen. Obwohl die App nur wenige Monate online war, sprechen die Hersteller von mehr als 500 000 Nutzern. Durch diese Überlastung kam es, laut Aussage der Entwickler, zu Problemen und Ausfällen. „The world is not yet ready for DeepNude.“ (Die Welt ist noch nicht bereit für DeepNude) verkündete das Team vor wenigen Tagen auf Twitter.
Hinterlasse jetzt einen Kommentar