Στόχος δριμείας κριτικής έγινε ο Σαμ Άλτμαν, διευθύνων σύμβουλος της OpenAI, για την απόφασή του να επιτρέψει τη χρήση του ChatGPT για συνομιλίες με ερωτικό περιεχόμενο.

Η Χέιλι Μακναμάρα, εκπρόσωπος του Εθνικού Κέντρου κατά της Σεξουαλικής Εκμετάλλευσης, υποστήριξε ότι "οι διάλογοι ερωτικού περιεχομένου με chatbot τεχνητής νοημοσύνης εγκυμονούν κινδύνους. Οι ψηφιακοί σύντροφοι ενδέχεται να προκαλέσουν πραγματικές βλάβες στον τομέα της ψυχικής υγείας λόγω της αοριστίας στους κανονισμούς ασφαλείας αυτής της βιομηχανίας". Το εν λόγω κέντρο είναι μια μη κυβερνητική οργάνωση με έδρα την Ουάσιγκτον, η οποία δραστηριοποιείται κατά της σεξουαλικής εκμετάλλευσης.

Ο Σαμ Άλτμαν ανακοίνωσε την Τρίτη ότι η εταιρεία του θα επιτρέψει, από τον Δεκέμβριο, τη λειτουργία του ChatGPT σε συνομιλίες ερωτικού περιεχομένου. Το ChatGPT χρησιμοποιείται ευρέως από νέους ανθρώπους για εργασίες, αναζήτηση πληροφοριών και επικοινωνία.

Η ανακοίνωση προκάλεσε έκπληξη, καθώς τον Αύγουστο ο Άλτμαν εμφανιζόταν "υπερήφανος" που δεν επέτρεψε στην εταιρεία του να δημιουργήσει "ένα σεξουαλικό ρομπότ". Δικαιολόγησε τη στροφή του υποστηρίζοντας ότι η OpenAI δημιούργησε εργαλεία που διασφαλίζουν ότι μόνο "εξακριβωμένα ενήλικοι" θα μπορούν να εμπλέκονται σε τέτοιες συνομιλίες. Αναλυτές σημειώνουν ότι οι εταιρείες ΑΙ πιέζονται να προσφύγουν σε ελκυστικές προσφορές, καθώς τα ρομπότ λεκτικής επικοινωνίας δεν έχουν φέρει κέρδη.

Ο Μαρκ Κούμπαν εκτίμησε ότι η κίνηση του Άλτμαν "θα γυρίσει μπούμερανγκ, και μάλιστα πολύ οδυνηρό". Θεωρεί ότι γονείς και σχολεία θα γίνουν πιο επιφυλακτικοί απέναντι στα chatbots, καθώς δεν θα πεισθούν ότι οι δικλίδες ασφαλείας είναι αρκετές για την προστασία των ανηλίκων. "Δεν μιλάω μόνο για την πορνογραφία. Το θέμα είναι πολύ ευρύτερο. Αφορά τι είδους επαφή μπορεί να αποκαταστήσει ένα παιδί και με ποιες συνέπειες, χρησιμοποιώντας τους κωδικούς του μεγαλύτερου αδελφού του", τόνισε.

Ο Κούμπαν, ιδρυτής της φαρμακοβιομηχανίας Cost Plus Drugs, υποστηρίζει τη χρήση των εργαλείων ΑΙ από νέους ανθρώπους, αλλά επιμένει ότι πρέπει να υπάρχουν ασφαλιστικές δικλίδες και αντιδρά στην εμπορευματοποίηση του χώρου. Ο ίδιος έγινε στόχος κριτικής όταν χρησιμοποίησε τη νέα πλατφόρμα ΑΙ, Sora, για να δημιουργήσει βίντεο και ήχο, φιλοδοξώντας να ανταγωνιστεί το TikTok.

Πριν από την OpenAI, η Grok του Έλον Μασκ και η MetaAI του Μαρκ Ζούκερμπεργκ είχαν ανοίξει τον δρόμο στην πορνογραφία υψηλής νοημοσύνης. Τον Σεπτέμβριο, η Ομοσπονδιακή Επιτροπή Εμπορίου των ΗΠΑ ξεκίνησε έρευνα για την OpenAI και άλλες εταιρείες υψηλής τεχνολογίας προκειμένου να διερευνηθούν οι δυνητικές αρνητικές συνέπειες των chatbots στα παιδιά και στους εφήβους. Έρευνα έδειξε ότι ένας στους πέντε μαθητές είχε ή γνώριζε κάποιον άλλον μαθητή που είχε "ρομαντική σχέση" με chatbot. Ο Σαμ Άλτμαν απαντά στους επικριτές του: "Εννοούμε να αντιμετωπίζουμε τους ενηλίκους ως ενηλίκους. Επιτέλους, δεν είμαστε η εκλεγμένη αστυνομία ηθών της ανθρωπότητας".