Ένας νεαρός ερευνητής, ο Kevin Zhu, ισχυρίζεται ότι έχει συγγράψει 113 ακαδημαϊκές εργασίες για την τεχνητή νοημοσύνη φέτος. Οι 89 από αυτές θα παρουσιαστούν σε κορυφαίο συνέδριο, γεγονός που έχει προκαλέσει έντονες αντιδράσεις στην επιστημονική κοινότητα.

Ο Zhu, απόφοιτος του Πανεπιστημίου της Καλιφόρνια στο Μπέρκλεϋ, διευθύνει την Algoverse. Πρόκειται για μια εταιρεία που παρέχει έρευνα και καθοδήγηση στην τεχνητή νοημοσύνη σε μαθητές λυκείου, οι οποίοι συχνά είναι και συν-συγγραφείς στις εργασίες του. Ο ίδιος ο Zhu αποφοίτησε από το λύκειο το 2018.

Οι εργασίες του Zhu, που δημοσιεύτηκαν τα τελευταία δύο χρόνια, καλύπτουν ευρύ φάσμα θεμάτων. Από τη χρήση της τεχνητής νοημοσύνης για τον εντοπισμό νομάδων κτηνοτρόφων στην υποσαχάρια Αφρική, μέχρι την αξιολόγηση δερματικών βλαβών και τη μετάφραση ινδονησιακών διαλέκτων. Στο LinkedIn του, ο Zhu διαφημίζει τη δημοσίευση «100+ κορυφαίων ανακοινώσεων σε συνέδρια τον περασμένο χρόνο», οι οποίες έχουν «αναφερθεί από το OpenAI, τη Microsoft, την Google, το Stanford, το MIT, την Οξφόρδη και άλλα».

Ωστόσο, ο Hany Farid, καθηγητής επιστήμης υπολογιστών στο Berkeley, χαρακτηρίζει τις εργασίες του Zhu ως «καταστροφή». Σε συνέντευξή του, δήλωσε: «Είμαι αρκετά πεπεισμένος ότι το όλο θέμα είναι απλώς η κωδικοποίηση vibe», αναφερόμενος στην πρακτική της χρήσης AI για τη δημιουργία λογισμικού. Αυτή η κριτική πυροδότησε μια ευρύτερη συζήτηση μεταξύ των ερευνητών τεχνητής νοημοσύνης.

Σύμφωνα με τους ερευνητές, η δημοφιλία της τεχνητής νοημοσύνης έχει οδηγήσει σε έναν «κατακλυσμό» ερευνητικών άρθρων χαμηλής ποιότητας. Αυτό οφείλεται στις ακαδημαϊκές πιέσεις και, σε ορισμένες περιπτώσεις, στη χρήση εργαλείων AI.

Απαντώντας στις κριτικές, ο Zhu δήλωσε ότι επιβλέπει τις 131 εργασίες και ότι πρόκειται για «ομαδικές προσπάθειες» που διαχειρίζεται η Algoverse. Η εταιρεία του χρεώνει 3.325 δολάρια σε μαθητές λυκείου και προπτυχιακούς φοιτητές για ένα πρόγραμμα καθοδήγησης 12 εβδομάδων, το οποίο περιλαμβάνει βοήθεια για την υποβολή εργασιών σε συνέδρια.

Ο Zhu υποστηρίζει ότι βοηθά στην αναθεώρηση της μεθοδολογίας και του πειραματικού σχεδιασμού στις προτάσεις, καθώς και σχολιάζει τα προσχέδια πριν από την υποβολή. Επιπλέον, τονίζει ότι έργα σε εξειδικευμένους τομείς περιλαμβάνουν «κύριους ερευνητές ή μέντορες με σχετική τεχνογνωσία». Οι ομάδες χρησιμοποιούν «τυποποιημένα εργαλεία παραγωγικότητας, όπως διαχειριστές αναφοράς, ορθογραφικό έλεγχο και μερικές φορές μοντέλα γλώσσας για επεξεργασία αντιγραφής ή βελτίωση της σαφήνειας».

Στον τομέα της τεχνητής νοημοσύνης, τα πρότυπα αναθεώρησης διαφέρουν σε σχέση με άλλους επιστημονικούς κλάδους. Οι εργασίες συχνά παρουσιάζονται σε συνέδρια, όπως το NeurIPS – ένα από τα κορυφαία παγκοσμίως στη μηχανική μάθηση και την τεχνητή νοημοσύνη. Ο Zhu πρόκειται να παρουσιάσει εκεί το έργο του.

Ο Farid επισημαίνει ότι η περίπτωση του Zhu αναδεικνύει ένα ευρύτερο πρόβλημα στην έρευνα της τεχνητής νοημοσύνης. Τα συνέδρια κατακλύζονται από έναν αυξανόμενο αριθμό υποβολών. Για παράδειγμα, το NeurIPS παρουσίασε 21.575 εργασίες φέτος, σε σύγκριση με λιγότερες από 10.000 το 2020. Το Διεθνές Συνέδριο για τις Αναπαραστάσεις Μάθησης (ICLR) ανέφερε αύξηση 70% στις ετήσιες υποβολές εργασιών.

Το κινεζικό τεχνολογικό ιστολόγιο 36Kr έθεσε το ερώτημα: «Γιατί αυτή η ακαδημαϊκή γιορτή έχει χάσει τη γεύση της;», παρατηρώντας ότι η μέση βαθμολογία των εργασιών έχει μειωθεί.

Οι φοιτητές και οι ακαδημαϊκοί αντιμετωπίζουν αυξανόμενη πίεση να συγκεντρώσουν δημοσιεύσεις και να συμβαδίσουν με τους συνομηλίκους τους. Πολλοί επισημαίνουν ότι είναι ασυνήθιστο να παράγεται μεγάλος αριθμός ακαδημαϊκών εργασιών υψηλής ποιότητας σε έναν χρόνο. Ο Farid αναφέρει ότι οι μαθητές του έχουν «κωδικοποιημένα» έγγραφα για να αυξήσουν τον αριθμό των δημοσιεύσεών τους: «Τόσοι πολλοί νέοι θέλουν να μπουν στην AI. Υπάρχει μια φρενίτιδα αυτή τη στιγμή».

Το NeurIPS εξετάζει τις εργασίες που του υποβάλλονται, αλλά η διαδικασία είναι γρήγορη και λιγότερο ενδελεχής από την τυπική επιστημονική αξιολόγηση. Ο Jeffrey Walling, αναπληρωτής καθηγητής στο Virginia Tech, δήλωσε ότι φέτος το συνέδριο χρησιμοποίησε μεγάλους αριθμούς διδακτορικών φοιτητών για την εξέταση των εργασιών, γεγονός που θέτει σε κίνδυνο τη διαδικασία.

Ο Farid συμβουλεύει πλέον τους μαθητές να μην ασχοληθούν με την έρευνα τεχνητής νοημοσύνης, λόγω της «φρενίτιδας» στον τομέα και του μεγάλου όγκου εργασιών χαμηλής ποιότητας. «Είναι απλά ένα χάος. Δεν μπορείς να συμβαδίσεις, δεν μπορείς να δημοσιεύσεις, δεν μπορείς να κάνεις καλή δουλειά, δεν μπορείς να είσαι στοχαστικός», τονίζει.

Οι διοργανωτές του NeurIPS αναγνωρίζουν την πίεση που υφίσταται το συνέδριο. Ένας εκπρόσωπος δήλωσε ότι η ανάπτυξη της τεχνητής νοημοσύνης είχε επιφέρει «σημαντική αύξηση στις υποβολές εγγράφων και αυξημένη αξία στην αποδοχή από ομοτίμους στο NeurIPS», ασκώντας «σημαντική πίεση στο σύστημα αναθεώρησής μας».

Η ICLR χρησιμοποίησε την τεχνητή νοημοσύνη για να εξετάσει μεγάλο όγκο εργασιών, με αποτέλεσμα σχόλια που ήταν «πολύ πεζά σε πολλά σημεία», σύμφωνα με ένα άρθρο στο Nature.

Η κατάσταση είναι τόσο σοβαρή που η εξεύρεση λύσης στην κρίση έχει καταστεί αντικείμενο έρευνας. Εν τω μεταξύ, μεγάλες εταιρείες τεχνολογίας και μικροί οργανισμοί ασφάλειας τεχνητής νοημοσύνης δημοσιεύουν πλέον εργασίες στον arXiv, έναν ιστότοπο που προοριζόταν για προεκτυπώσεις μαθηματικών και φυσικής. Αυτό έχει ως αποτέλεσμα την παρουσίαση εργασιών στο διαδίκτυο που εμφανίζονται ως επιστημονικές, αλλά δεν υπόκεινται σε πρότυπα ελέγχου.

Ο Farid εξηγεί ότι είναι σχεδόν αδύνατο να γνωρίζουμε τι πραγματικά συμβαίνει στην τεχνητή νοημοσύνη. «Δεν έχετε καμία πιθανότητα ως μέσος αναγνώστης να προσπαθήσετε να κατανοήσετε τι συμβαίνει στην επιστημονική βιβλιογραφία. Δεν μπορώ να πάω σε αυτά τα συνέδρια και να καταλάβω τι στο καλό συμβαίνει!», τονίζει.

«Αυτό που λέω στους φοιτητές είναι πως, αν αυτό που προσπαθείτε να βελτιστοποιήσετε είναι τη δημοσίευση των εγγράφων, ξέρετε, ειλικρινά δεν είναι τόσο δύσκολο να το κάνετε. Απλώς, κάντε πραγματικά μια άθλια εργασία, χαμηλής ποιότητας και βομβαρδίστε με αυτό συνέδρια!», σημειώνει ενώ καταλήγει: «Αλλά αν θέλετε να κάνετε πραγματικά προσεκτική δουλειά, βρίσκεστε σε μειονεκτική θέση, επειδή ουσιαστικά είστε μονομερώς αφοπλισμένοι».