Το 2026 ξεκίνησε με αντιδράσεις για το Grok, όπως και το 2025, λόγω εικόνων που δημιουργούνται από τεχνητή νοημοσύνη. Το chatbot του Έλον Μασκ βρέθηκε στο επίκεντρο αντιδράσεων την τελευταία εβδομάδα, καθώς στην πλατφόρμα X δημιουργήθηκαν μη συναινετικές, σεξουαλικοποιημένες εικόνες τύπου deepfake, με θύματα ενήλικες και ανηλίκους.

Στιγμιότυπα οθόνης δείχνουν το Grok να ανταποκρίνεται σε αιτήματα χρηστών για να τοποθετεί πραγματικές γυναίκες με εσώρουχα σε σεξουαλικές στάσεις, αλλά και μικρά παιδιά με μπικίνι. Αναφορές για εικόνες που αφαιρέθηκαν εκ των υστέρων κάνουν λόγο για ακόμη πιο σοβαρό και ακραίο περιεχόμενο.

Ένας χρήστης του X επιβεβαίωσε στο The Verge ότι εντόπισε πολλαπλές εικόνες ανηλίκων, στις οποίες εμφανιζόταν αυτό που ο χρήστης που έδωσε την εντολή αποκάλεσε «γλάσο ντόνατ» στα πρόσωπά τους. Σύμφωνα με μία εκτίμηση, σε κάποια χρονική στιγμή το Grok παρήγαγε περίπου μία μη συναινετική σεξουαλικοποιημένη εικόνα ανά λεπτό. Οι όροι χρήσης της πλατφόρμας X απαγορεύουν ρητά «τη σεξουαλικοποίηση ή εκμετάλλευση παιδιών», ενώ το Σάββατο η εταιρεία δήλωσε ότι θα «λάβει μέτρα κατά του παράνομου περιεχομένου στο X, συμπεριλαμβανομένου του Υλικού Σεξουαλικής Κακοποίησης Παιδιών (CSAM)».

Παρότι φαίνεται πως αφαιρέθηκαν ορισμένες από τις πιο σοβαρές περιπτώσεις, η στάση της εταιρείας χαρακτηρίζεται ως υποτονική. Ο Έλον Μασκ έχει δηλώσει ότι «όποιος χρησιμοποιεί το Grok για τη δημιουργία παράνομου περιεχομένου θα υποστεί τις ίδιες συνέπειες σαν να το ανέβαζε ο ίδιος», ωστόσο μέσα από δημόσιες αναρτήσεις του στο X έχει καταστήσει σαφές ότι δεν θεωρεί προβληματικές τις γενικές εντολές «αφαίρεσης ρούχων», ενώ έχει απαντήσει στο ευρύτερο ζήτημα με emojis γέλιου και φωτιάς. Αυτή η στάση έχει προκαλέσει ανησυχία σε ειδικούς που προσπαθούν να αντιμετωπίσουν τη σεξουαλική παρενόχληση και κακοποίηση μέσω τεχνητής νοημοσύνης. Πολλές κυβερνήσεις εξετάζουν την υπόθεση, ωστόσο παραμένει ασαφές πώς μπορεί να ασκηθεί αποτελεσματικός έλεγχος τόσο στην πλατφόρμα όσο και στο ίδιο το chatbot.

Η xAI, δημιουργός του Grok, δεν απάντησε σε αίτημα για σχόλιο, ενώ ούτε η Apple ούτε η Google ανταποκρίθηκαν όταν ρωτήθηκαν αν οι σχετικές αναφορές παραβιάζουν τις πολιτικές των δικών τους καταστημάτων εφαρμογών. Το Grok επέτρεπε ανέκαθεν τη δημιουργία έντονα σεξουαλικοποιημένων εικόνων. Την τελευταία εβδομάδα, όμως, η δυνατότητα επεξεργασίας εικόνων μέσω ενός νέου κουμπιού, που επιτρέπει αλλαγές χωρίς την άδεια του αρχικού δημιουργού, έγινε viral κυρίως για την «αφαίρεση ρούχων» από γυναίκες και ανηλίκους. Οι μηχανισμοί ασφαλείας εφαρμόζονται αποσπασματικά, ενώ πολλές από τις απαντήσεις της X προέρχονται από το ίδιο το Grok, γεγονός που σημαίνει ότι δημιουργούνται επιτόπου. Μεταξύ αυτών περιλαμβάνονται δηλώσεις ότι ορισμένες δημιουργίες «παραβίασαν τις κατευθυντήριες γραμμές μας για αποκλειστικά φανταστικό περιεχόμενο», καθώς και μια «συγγνώμη» που εκδόθηκε κατόπιν αιτήματος χρήστη, χωρίς ωστόσο να φαίνεται ότι προήλθε επίσημα από την xAI.

Ένα από τα βασικά ερωτήματα αφορά το κατά πόσο οι εικόνες παραβιάζουν τη νομοθεσία περί Υλικού Σεξουαλικής Κακοποίησης Παιδιών και μη συναινετικών προσωπικών εικόνων ενηλίκων, ειδικά στις Ηνωμένες Πολιτείες όπου εδρεύει η X. Το υπουργείο Δικαιοσύνης των ΗΠΑ απαγορεύει «ψηφιακές ή υπολογιστικά παραγόμενες εικόνες που είναι δυσδιάκριτες από πραγματικό ανήλικο» όταν περιλαμβάνουν σεξουαλική δραστηριότητα ή υπονοούμενη γυμνότητα. Παράλληλα, ο νόμος Take It Down Act, απαγορεύει τη μη συναινετική δημιουργία «οικείων οπτικών απεικονίσεων» μέσω τεχνητής νοημοσύνης και υποχρεώνει ορισμένες πλατφόρμες να τις αφαιρούν άμεσα.

Διάσημοι και influencers έχουν περιγράψει το αίσθημα παραβίασης που βιώνουν από σεξουαλικοποιημένες εικόνες τεχνητής νοημοσύνης. Σύμφωνα με στιγμιότυπα οθόνης, το Grok έχει δημιουργήσει εικόνες της τραγουδίστριας Μόμο από το συγκρότημα TWICE, της ηθοποιού Μίλι Μπόμπι Μπράουν, του ηθοποιού Φιν Γούλφχαρντ και πολλών άλλων. Επίσης, εικόνες που δημιουργούνται από το Grok χρησιμοποιούνται και ως εργαλείο επίθεσης κατά γυναικών με πολιτική εξουσία. «Είναι ένα εργαλείο που εκφράζει τον υποβόσκοντα μισογυνισμό που διαπερνά κάθε γωνιά της αμερικανικής κοινωνίας και πολλές κοινωνίες παγκοσμίως», δήλωσε στο The Verge η Ριάνα Φέφερκορν, συνεργάτιδα πολιτικής στο Ινστιτούτο Τεχνητής Νοημοσύνης με Επίκεντρο τον Άνθρωπο του Πανεπιστημίου Στάνφορντ. Όπως τόνισε, πρόκειται για παραβίαση ιδιωτικότητας, συναίνεσης και ορίων, μια εξαιρετικά παρεμβατική πρακτική που συνιστά μορφή έμφυλης βίας, ενώ τα ρητά σεξουαλικά απεικονισμένα ανήλικα πρόσωπα αποτελούν αυξανόμενο πρόβλημα για τις διωκτικές αρχές.

Τη Δευτέρα, η Ομοσπονδία Καταναλωτών της Αμερικής, ζήτησε δημόσια δράση κατά της xAI για «τη δημιουργία και διανομή Υλικού Σεξουαλικής Κακοποίησης Παιδιών και άλλων μη συναινετικών προσωπικών εικόνων μέσω γενετικής τεχνητής νοημοσύνης». Η έκκληση συνοδεύτηκε από επιστολή προς την Ομοσπονδιακή Επιτροπή Εμπορίου και γενικούς εισαγγελείς πολιτειών των ΗΠΑ. Ωστόσο, τα όρια του τι απαγορεύεται από τη νομοθεσία παραμένουν «αρκετά θολά». Η Μέρι Αν Φρανκς, καθηγήτρια δικαίου στο Πανεπιστήμιο Τζορτζ Ουάσινγκτον, δήλωσε ότι δεν είναι πάντα ξεκάθαρο αν τέτοιες εικόνες «ξεπερνούν τη γραμμή προς την πραγματική γυμνότητα και τις σεξουαλικές καταστάσεις».

Σύμφωνα με ειδικούς, η χρήση τεχνητής νοημοσύνης για τη δημιουργία εικόνας αναγνωρίσιμου ανήλικου με μπικίνι ή ακόμη και γυμνού, αν και αναμφίβολα ανήθικη, ενδέχεται να μην είναι παράνομη με βάση την ισχύουσα νομοθεσία στις ΗΠΑ. Παρ’ όλα αυτά, εικόνες που φαίνεται να περιλαμβάνουν σπέρμα ενδέχεται να παραβιάζουν τόσο την υφιστάμενη νομοθεσία περί CSAM όσο και τον νόμο Take It Down Act. Η Φρανκς εκτιμά ότι αυτά πιθανότατα δεν είναι τα χειρότερα παραδείγματα, σημειώνοντας πως «ό,τι φτάνει στα mainstream μέσα, πιθανότατα συνοδεύεται από ένα εκατομμύριο χειρότερες περιπτώσεις που επίσης παράγονται». Η επιβολή απαγορεύσεων σε σεξουαλικό περιεχόμενο που δημιουργείται από AI παραμένει εξαιρετικά δύσκολη, ενώ ακόμη πιο ασαφής είναι η ευθύνη των ίδιων των πλατφορμών.

Ο Τζον Λάνγκφορντ, επισκέπτης καθηγητής νομικής στο Πανεπιστήμιο Γέιλ, ανέφερε ότι το μωσαϊκό απαγορεύσεων για σεξουαλικά deepfakes δεν έχει δοκιμαστεί επαρκώς στα δικαστήρια. Παρ’ όλα αυτά, για τις περιπτώσεις δημιουργιών του Grok που απεικονίζουν αναγνωρίσιμους ανηλίκους, υπάρχει πλέον προηγούμενο ότι «κάθε υπολογιστικά παραγόμενη σεξουαλικά ρητή εικόνα πραγματικού παιδιού είναι παράνομη», σύμφωνα με τον Ντρου Ντέιβις από το SafeBAE. Όπως προσθέτουν οι ειδικοί, υπάρχουν ήδη ομοσπονδιακές και δεκάδες πολιτειακές διώξεις για τη δημιουργία ή κατοχή τροποποιημένων εικόνων πραγματικών παιδιών μέσω AI, ωστόσο το ερώτημα της ευθύνης των εταιρειών παραμένει αχαρτογράφητο έδαφος.

Η κατάσταση περιπλέκεται από το γεγονός ότι η περίοδος χάριτος για την εφαρμογή του σκέλους «αφαίρεσης περιεχομένου» του νόμου Take It Down Act ισχύει έως τον Μάιο, αλλά και από το άρθρο 230, που προστατεύει τις εταιρείες από ευθύνη για περιεχόμενο που αναρτούν τρίτοι. Καθώς όμως οι εταιρείες επιτρέπουν στους χρήστες να δημιουργούν εικόνες μέσω bots όπως το Grok, το ζήτημα της νομικής ευθύνης παραμένει ανοικτό. Παράλληλα, οι στενές σχέσεις του Έλον Μασκ και της X με την τρέχουσα αμερικανική κυβέρνηση, καθώς και οι διεθνείς πιέσεις που ασκούνται μέσω εμπορικών διαπραγματεύσεων, δυσχεραίνουν την επιβολή κυρώσεων, ενώ διεθνείς αντιδράσεις εντείνονται, με τη Γαλλία, την Ινδία και τη Μαλαισία να ανακοινώνουν έρευνες.

Το Grok έχει επανειλημμένα ξεφύγει από κάθε έλεγχο, με τους ειδικούς να εκφράζουν ανησυχίες για τα ελλιπή μέτρα ασφαλείας. Χωρίς εξωτερική πίεση, το πρόβλημα των deepfakes φαίνεται απίθανο να επιλυθεί σύντομα, επισημαίνει η Ριάνα Φέφερκορν, προσθέτοντας ότι το πιο ανησυχητικό στοιχείο είναι η έλλειψη ανησυχίας για το πόσο κοντά βρίσκεται το όριο δημιουργίας δυνητικού CSAM.