Εκατομμύρια ανυποψίαστες γυναίκες έχουν γίνει στόχοι revenge ρorn, σύμφωνα με εμπειρογνώμονες.

Μια αναφορά των Japan Times ισχυρίζεται ότι το deepfake AI εισέρχεται σε μια «επικίνδυνη φάση» και αρκετοί ειδικοί επιβεβαίωσαν αυτές τις ανησυχίες.

Τα revenge ρorn βίντεο πιστεύεται ότι είναι μια από τις πιο κοινές χρήσεις για λογισμικό deepfake. Οι ειδικοί ανησυχούν ότι είναι πλέον τόσο προχωρημένο που είναι δύσκολο να γίνει διάκριση μεταξύ του τι είναι ένα ψεύτικο βίντεο και του τι είναι αληθινό.

Η τεχνολογία Deepfake AI υπάρχει μόνο για περίπου τέσσερα χρόνια και ωστόσο υπάρχουν ήδη πολλές εφαρμογές και ιστότοποι που κάνουν την τεχνολογία εύκολη στη χρήση και προσβάσιμη σχεδόν σε όλους. Είναι βίντεο τα οποία αντικαθιστούν το πρόσωπο ενός ηθοποιού με αυτό ενός άλλου ανθρώπου, με απόλυτη ακρίβεια στην αποτύπωση της εικόνας και της φωνής, για να εξαπατούν το κοινό αφήνοντάς το να πιστεύει ότι πρόκειται για μία αληθινή παρουσίαση του εικονιζόμενου.

Eρευνητής ο οποίος εργάστηκε σε μια έκθεση deepfake είπε στους Japan Times: «Η συντριπτική πλειοψηφία των περιπτώσεων είναι διαδικτυακή έμφυλη βία». Eργάστηκε σε μια μελέτη που έδειξε ότι εκατομμύρια γυναίκες είχαν στοχοποιηθεί από deepfake ποpνό.

Οι ερευνητές εκτιμούν επίσης ότι ο αριθμός των deepfake βίντεο στο διαδίκτυο διπλασιάζεται περίπου κάθε έξι μήνες. Μία από τις εφαρμογές που επισήμαναν οι Japan Times υποσχέθηκε στους χρήστες ότι θα μπορούσε να «φτιάξoυν ρεαλιστικό, ψεύτικο ποpνό σε ένα δευτερόλεπτο» σε μια ανησυχητική διαφήμιση που έκτοτε καταργήθηκε.

Ωστόσο, η εφαρμογή δεν λέγεται ότι αναφέρει πιθανή ποpνογραφική χρήση στην περιγραφή του App Store ή του Google Play Store.

Πολλές πολιτείες των ΗΠΑ έχουν νόμους κατά της εκδικητικής πορνογραφίας, όπως και το Ηνωμένο Βασίλειο. Ο καταστροφικός αντίκτυπος που μπορεί να έχει το πορνό εκδίκησης στα θύματα είναι γνωστός.

Ωστόσο, οι νόμοι των ΗΠΑ και του Ηνωμένου Βασιλείου για την εκδίκηση ποpνό δεν καλύπτουν επί του παρόντος τα deepfakes. Το Reface, μια από τις πιο δημοφιλείς εφαρμογές εναλλαγής προσώπων στον κόσμο, χρησιμοποιεί πλέον φίλτρα και ανθρώπινο έλεγχο για να μετριάσει το περιεχόμενο και να αποτρέψει την κακή χρήση.