Το deepfake porn έχει αναδειχθεί σε μια ανησυχητική μάστιγα στα σχολεία, με εκατοντάδες παιδιά παγκοσμίως να βιώνουν τις οδυνηρές συνέπειες. Σύμφωνα με τον Guardian, ενώ πριν από μια δεκαετία το sexting και οι γυμνές φωτογραφίες αποτελούσαν το κύριο πρόβλημα, η τεχνητή νοημοσύνη (AI) έχει πλέον καταστήσει εξαιρετικά εύκολη τη δημιουργία ψεύτικων γυμνών εικόνων ή βίντεο από τους μαθητές.

Ο όρος deepfake porn αναφέρεται στη δημιουργία ψεύτικων πορνογραφικών εικόνων ή βίντεο, όπου το πρόσωπο ή το σώμα ενός ατόμου «τοποθετείται» ψηφιακά σε πορνογραφικό περιεχόμενο με τη χρήση τεχνητής νοημοσύνης (AI).

Μια διευθύντρια σχολείου περιέγραψε ένα περιστατικό όπου ένας έφηβος συνελήφθη να δημιουργεί deepfake porn μέσα σε ένα λεωφορείο, και όπως ανέφερε, δεν έδειχνε κανένα σημάδι ντροπής για την πράξη του. "Με ανησυχεί το γεγονός ότι αυτό έχει γίνει τόσο φυσιολογικό", δήλωσε στον Guardian. "Προφανώς, δεν το έκρυβε. Δεν ένιωθε ότι ήταν κάτι που δεν έπρεπε να κάνει. Αυτό ήταν το πιο σοκαριστικό".

Σύμφωνα με την ίδια, ο μαθητής είχε επιλέξει μια φωτογραφία ενός κοριτσιού από ένα γειτονικό σχολείο από τα social media και χρησιμοποίησε μια εφαρμογή "nudifying" (αφαίρεσης ρούχων) για να παραποιήσει την εικόνα της. Η διευθύντρια δεν γνωρίζει τους λόγους για τους οποίους επιλέχθηκε συγκεκριμένα αυτό το κορίτσι, δηλαδή αν ο μαθητής την γνώριζε ή αν ήταν εντελώς τυχαία η επιλογή.

Αφού εντοπίστηκε ο μαθητής, ενημερώθηκαν οι γονείς του και κλήθηκε η αστυνομία. Ωστόσο, λόγω του στίγματος και της ντροπής που συνδέονται με την κακοποίηση μέσω της διανομής deepfakes, οι γονείς του θύματος αποφάσισαν να μην ενημερώσουν την κόρη τους.

Το περιστατικό αυτό αποτελεί ένα χαρακτηριστικό παράδειγμα του πώς τα deepfakes και η ευκολία πρόσβασης στην τεχνολογία επηρεάζουν τους μαθητές, συχνά με καταστροφικές συνέπειες. Χαρακτηριστικά είναι τα παραδείγματα από διάφορες χώρες:

* Στην Ισπανία, δεκαπέντε αγόρια καταδικάστηκαν πέρυσι σε αναστολή ενός έτους για τη χρήση AI για τη δημιουργία ψεύτικων γυμνών εικόνων των συμμαθητριών τους, οι οποίες διανεμήθηκαν σε ομάδες στο WhatsApp. Περίπου 20 κορίτσια, κυρίως 14 ετών, επλήγησαν, με τη μικρότερη να είναι μόλις 11 ετών.
* Στην Αυστραλία, περίπου 50 μαθητές λυκείου στο Bacchus Marsh Grammar ανέφεραν ότι οι εικόνες τους είχαν πλαστογραφηθεί και διανεμηθεί. Η μητέρα μιας μαθήτριας δήλωσε ότι η κόρη της υπέστη τόσο μεγάλο σοκ από τις deepfake εικόνες που έκανε εμετό.
* Στις ΗΠΑ, περισσότερες από 30 μαθήτριες στο Westfield High School ανακάλυψαν ότι deepfake πορνογραφικές εικόνες τους είχαν κοινοποιηθεί μεταξύ των συμμαθητών τους στο Snapchat.
* Στη Βρετανία, νέα έρευνα με 4.300 καθηγητές δευτεροβάθμιας εκπαίδευσης αποκάλυψε ότι περίπου ένας στους δέκα γνώριζε περιστατικά μαθητών που δημιούργησαν deepfake βίντεο τον προηγούμενο χρόνο. Τα τρία τέταρτα αυτών των περιστατικών αφορούσαν παιδιά 14 ετών ή μικρότερα, ενώ το 10% αφορούσε 11χρονους και το 3% ακόμη μικρότερους.

Επιπλέον, έρευνα της Girlguiding έδειξε ότι ένα στα τέσσερα άτομα ηλικίας 13-18 ετών είχε δει deepfake φωτογραφία είτε διάσημου, είτε φίλου, είτε καθηγητή, είτε του εαυτού του.

Λίγοι καθηγητές είναι διατεθειμένοι να μιλήσουν ανοιχτά για περιστατικά deepfake. Όσοι μίλησαν στον Guardian, ζήτησαν να διατηρήσουν την ανωνυμία τους.

Η Tanya Horeck, καθηγήτρια σπουδών κινηματογράφου και φεμινιστικών σπουδών στα μέσα ενημέρωσης, διαπίστωσε ότι όλα τα σχολεία είχαν περιστατικά deepfake και θεωρούσαν ότι είναι ένα αναδυόμενο πρόβλημα. Σε μια περίπτωση, μια 15χρονη κοπέλα έγινε στόχος ανδρών μαθητών που δημιούργησαν ένα πορνογραφικό deepfake βίντεο. Η κοπέλα αρχικά αρνήθηκε να πάει στο σχολείο. "Σχεδόν όλα τα παραδείγματα που μου ανέφεραν ήταν αγόρια που δημιουργούσαν deepfakes κοριτσιών", δήλωσε η Horeck.

Η Laura Bates περιγράφει την βαθιά επίδραση των εικόνων deepfake: "Νιώθεις ότι κάποιος σε πήρε και έκανε κάτι σε σένα και δεν μπορείς να κάνεις τίποτα γι' αυτό".

Στα σχολικά περιβάλλοντα, τα κορίτσια νιώθουν ταπεινωμένα και αδυνατούν να παρακολουθήσουν μαθήματα, ενώ τα αγόρια εμπλέκονται σε ποινικά αδικήματα χωρίς να αντιλαμβάνονται τις συνέπειες των πράξεών τους.

Ενώ το 99% των deepfakes με σεξουαλικό περιεχόμενο αφορά γυναίκες, έχουν υπάρξει και περιπτώσεις με θύματα αγόρια.

Σύμφωνα με τον Seth James, υπεύθυνο προστασίας μαθητών, η τεχνολογία deepfake και οι εφαρμογές nudify αποτελούν την "επόμενη μεγάλη πρόκληση" για τα σχολεία.

Η Jessica Ringrose, καθηγήτρια κοινωνιολογίας, τονίζει ότι η χρήση της τεχνολογίας από τους νέους δεν είναι πάντα αρνητική, αλλά υπογραμμίζει την ανάγκη για βελτίωση της ψηφιακής παιδείας.