Η ανθρώπινη φωνή ήταν ανέκαθεν το απόλυτο τεκμήριο ταυτότητας.

Από την πρώτη στιγμή της γέννησης, η φωνή της μητέρας ηρεμεί το βρέφος. Στην ενήλικη ζωή, η χροιά ενός αγαπημένου προσώπου πυροδοτεί συναισθήματα ασφάλειας.

Όμως, η τεχνολογική επανάσταση απειλεί αυτόν τον θεμελιώδη δεσμό.

Ο Νίκος Βασιλάκος, ειδικός κυβερνοασφάλειας, εξηγεί στο iefimerida τι είναι το voice cloning: Η ραγδαία εξέλιξη της Τεχνητής Νοημοσύνης έχει εισαγάγει την ανθρωπότητα σε μια νέα εποχή όπου η ακουστική πραγματικότητα δεν είναι πλέον αξιόπιστη.

Σε μια εποχή όπου οι «ψηφιακές σειρήνες» ηχούν πειστικά, η γνώση είναι ασπίδα προστασίας για την περιουσία και την ψυχική υγεία των πολιτών.

Η κλωνοποίηση φωνής, γνωστή και ως σύνθεση ομιλίας βάσει AI, δημιουργεί ένα ψηφιακό μοντέλο που αναπαράγει τα βιομετρικά χαρακτηριστικά μιας φωνής με ακρίβεια. Τα σύγχρονα συστήματα χρησιμοποιούν Νευρωνικά Δίκτυα Βαθιάς Μάθησης για να μιμηθούν τον τονισμό, τον ρυθμό, την οξύτητα, ακόμα και τις ανάσες που κάνουν μια φωνή ανθρώπινη.

Αυτή η επανάσταση προέκυψε από την πρόοδο στα Γενετικά Αντιπαλικά Δίκτυα (GANs). Δύο νευρωνικά δίκτυα ανταγωνίζονται: ο «Γεννήτορας» δημιουργεί ένα τεχνητό δείγμα φωνής, ενώ ο «Διαχωριστής» προσπαθεί να διακρίνει αν είναι αληθινό ή ψεύτικο.

Μέσα από εκατομμύρια κύκλους εκπαίδευσης, το σύστημα βελτιώνεται. Το πιο ανησυχητικό είναι η μείωση των απαιτήσεων δεδομένων: σήμερα αρκούν δείγματα ήχου διάρκειας τριών δευτερολέπτων για να επιτευχθεί μια πειστική μίμηση.

Ένα κεντρικό ζήτημα είναι η ευκολία πρόσβασης σε αυτές τις τεχνολογίες. Λογισμικά κλωνοποίησης φωνής είναι ευρέως διαθέσιμα στο διαδίκτυο, συχνά με τη μορφή φθηνών συνδρομητικών υπηρεσιών ή δωρεάν δοκιμαστικών εκδόσεων. Αυτός ο «εκδημοκρατισμός» επιτρέπει σε εγκληματίες να εκμεταλλευτούν εργαλεία AI για επιθέσεις κοινωνικής μηχανικής.

Αυτές οι πλατφόρμες, σχεδιασμένες για θεμιτούς σκοπούς (audiobooks, βοήθεια σε άτομα με απώλεια φωνής, μεταγλώττιση ταινιών), έχουν μετατραπεί σε όπλα. Οι εγκληματίες μπορούν να «αλιεύσουν» φωνητικά δεδομένα από βίντεο στα μέσα κοινωνικής δικτύωσης (TikTok, Instagram, Facebook), φωνητικά μηνύματα, ή τηλεφωνικές κλήσεις, δημιουργώντας έτσι «πρώτη ύλη» για τις απάτες τους.

Η κατανόηση του τρόπου λειτουργίας απαιτεί ανάλυση της μεθοδολογίας των δραστών. Η απάτη είναι μια αλυσίδα προμελετημένων ενεργειών που συνδυάζουν τεχνολογία και ψυχολογική χειραγώγηση.

Η επίθεση εξελίσσεται συνήθως σε τέσσερα στάδια:

Η ευρηματικότητα των εγκληματιών δημιουργεί διάφορα σενάρια.

Το πιο σκληρό σενάριο: το θύμα ακούει τη φωνή του παιδιού του να ουρλιάζει βοήθεια, ότι το έχουν απαγάγει και ότι κινδυνεύει η ζωή του. Στη συνέχεια, ένας «απαγωγέας» απαιτεί λύτρα. Η κλωνοποιημένη φωνή λειτουργεί ως «σοκ» που παραλύει την κριτική σκέψη. Χαρακτηριστικό παράδειγμα είναι η περίπτωση της Jennifer DeStefano, η οποία άκουσε την κόρη της να κλαίει, ενώ στην πραγματικότητα το παιδί ήταν ασφαλές σε σχολική εκδρομή. Οι απατεώνες ζητούσαν 1 εκατομμύριο δολάρια.

Σε άλλη παραλλαγή, η κλωνοποιημένη φωνή (συχνά εγγονιού ή παιδιού που ζει μακριά) αναφέρει ότι ενεπλάκη σε σοβαρό τροχαίο ατύχημα και ζητείται άμεση αποστολή χρημάτων για εγγύηση ή για να αποφευχθεί η φυλάκιση.

Οι απάτες επεκτείνονται και σε επιχειρήσεις. Οι εγκληματίες κλωνοποιούν τη φωνή υψηλόβαθμων στελεχών και καλούν υπαλλήλους του λογιστηρίου ζητώντας επείγουσες μεταφορές χρημάτων για δήθεν μυστικές εξαγορές. Ένα τέτοιο περιστατικό οδήγησε σε απώλεια 25 εκατομμυρίων δολαρίων στο Χονγκ Κονγκ.

Γιατί αυτές οι απάτες είναι αποτελεσματικές; Η απάντηση βρίσκεται στη βιολογία του ανθρώπινου εγκεφάλου.

Ο εγκέφαλος αντιδρά άμεσα σε ακουστικά ερεθίσματα κινδύνου, ειδικά όταν προέρχονται από μέλη της οικογένειας. Όταν ακούμε τη φωνή του παιδιού μας να κλαίει, ο εγκέφαλος παρακάμπτει τα κέντρα λογικής επεξεργασίας και περνά σε κατάσταση συναγερμού. Αυτό ονομάζεται «Override Effect»: η βιολογική βεβαιότητα ότι «αυτή είναι η φωνή του γιου μου» υπερισχύει της λογικής πιθανότητας ότι πρόκειται για απάτη.

Οι απατεώνες εκμεταλλεύονται τον μηχανισμό «μάχης ή φυγής». Δημιουργώντας μια κατάσταση ακραίου επείγοντος, προκαλούν «Απαγωγή της Αμυγδαλής». Η αμυγδαλή, το κέντρο του φόβου, αναλαμβάνει τον έλεγχο και απενεργοποιεί τον προμετωπιαίο φλοιό. Σε αυτή την κατάσταση, το θύμα είναι ανίκανο να σκεφτεί καθαρά.

Έρευνες δείχνουν ότι η επισήμανση περιεχομένου ως «δημιουργημένου από AI» μπορεί να αυξήσει την εμπιστοσύνη στο μη επισημασμένο περιεχόμενο (Authenticity Reversal). Επιπλέον, άνθρωποι που έχουν υψηλή αυτοπεποίθηση ότι μπορούν να αναγνωρίσουν μια απάτη, συχνά πέφτουν πιο εύκολα θύματα.

Η Ελλάδα, ως κοινωνία με ισχυρούς οικογενειακούς δεσμούς και αυξανόμενη ψηφιακή διείσδυση, αποτελεί γόνιμο έδαφος για τέτοιες απάτες. Τα σύγχρονα μοντέλα AI είναι πλέον πολυγλωσσικά και ικανά στην εκμάθηση της ελληνικής προφοράς και τονικότητας.

Σύμφωνα με στοιχεία της Διεύθυνσης Δίωξης Ηλεκτρονικού Εγκλήματος, το 2023 το τηλεφωνικό κέντρο καταγγελιών 11188 δέχθηκε περίπου 100.000 κλήσεις. Από αυτές, περίπου 5.000 αφορούσαν καταγγελίες για τετελεσμένες απάτες ή απόπειρες εξαπάτησης μέσω διαδικτύου και τηλεφώνου.

Αν και ο ακριβής διαχωρισμός των περιστατικών που αφορούν αποκλειστικά AI Voice Cloning δεν είναι πάντα σαφής στις στατιστικές, η τάση είναι αυξητική. Η αστυνομία προειδοποιεί ότι οι δράστες χρησιμοποιούν πλέον εφαρμογές τεχνητής νοημοσύνης για να κλωνοποιήσουν φωνές οικείων προσώπων, έχοντας στην κατοχή τους ελάχιστα δευτερόλεπτα ηχογραφημένης ομιλίας. Το φαινόμενο αυτό εντάσσεται στην ευρύτερη κατηγορία του vishing (voice phishing), το οποίο εξελίσσεται από τις μαζικές κλήσεις σε στοχευμένες επιθέσεις.

Η δομή της ελληνικής κοινωνίας ενισχύει την αποτελεσματικότητα αυτών των επιθέσεων:

Απαιτείται μια ενεργητική στρατηγική που συνδυάζει τεχνικά μέτρα με αλλαγή νοοτροπίας. Ακολουθεί ένας αναλυτικός οδηγός για γονείς, ιδιώτες και επιχειρήσεις.

Η δημιουργία μιας οικογενειακής «Λέξης Ασφαλείας» (Safe Word) ή μιας «Φράσης Κλειδί» είναι επιβεβλημένη.

Τι είναι: Μια λέξη που γνωρίζουν μόνο τα στενά μέλη της οικογένειας και δεν μοιράζεται ποτέ σε ψηφιακά μέσα.

Πώς λειτουργεί: Αν λάβετε μια κλήση από το «παιδί» σας που ζητά βοήθεια, ρωτήστε: «Ποια είναι η λέξη ασφαλείας;». Η τεχνητή νοημοσύνη μπορεί να κλωνοποιήσει τη φωνή, αλλά όχι μια πληροφορία που υπάρχει μόνο στη μνήμη των ανθρώπων.

Χαρακτηριστικά: Η λέξη πρέπει να είναι ασυνήθιστη.

Η πιο κρίσιμη ενέργεια είναι η διακοπή της ροής του σεναρίου του απατεώνα.

Διακόψτε την κλήση: Μην αφήσετε το συναίσθημα να σας παρασύρει. Κλείστε το τηλέφωνο αμέσως.

Επαληθεύστε: Καλέστε αμέσως το πρόσωπο που υποτίθεται ότι σας κάλεσε, χρησιμοποιώντας τον αριθμό που έχετε αποθηκευμένο στις επαφές σας.

Εναλλακτική Επικοινωνία: Αν το πρόσωπο δεν απαντά, καλέστε κάποιον που είναι μαζί του ή έναν κοινό φίλο.

Η πρόληψη ξεκινά από τον περιορισμό των δεδομένων που τροφοδοτούν την AI.

Παρά την εξέλιξη της τεχνολογίας, υπάρχουν ακόμα σημάδια που προδίδουν την απάτη:

Η βιομηχανία ασφάλειας και οι ρυθμιστικές αρχές αναπτύσσουν εργαλεία για την αντιμετώπιση του φαινομένου.

Ωστόσο, η αποτελεσματικότητα αυτών των μέτρων αμφισβητείται. Μελέτες δείχνουν ότι τα υδατογραφήματα μπορούν συχνά να αφαιρεθούν ή να αλλοιωθούν.

Στην Ευρώπη, η Πράξη για την Τεχνητή Νοημοσύνη (EU AI Act) θέτει αυστηρούς κανόνες για τη διαφάνεια των συστημάτων που παράγουν deepfakes, απαιτώντας τη σήμανση του περιεχομένου. Στην Ελλάδα, η Δίωξη Ηλεκτρονικού Εγκλήματος αντιμετωπίζει το πρόβλημα βάσει των διατάξεων για απάτη και εκβίαση, αλλά η απόδειξη της χρήσης AI και ο εντοπισμός των δραστών παραμένει εξαιρετικά δύσκολη υπόθεση.

Η εμφάνιση της κλωνοποίησης φωνής σηματοδοτεί το τέλος της εποχής όπου μπορούσαμε να πιστεύουμε στα αυτιά μας. Σε έναν κόσμο όπου η ψηφιακή πραγματικότητα είναι εύπλαστη, η εμπιστοσύνη δεν μπορεί πλέον να βασίζεται αποκλειστικά στις αισθήσεις.

Η προστασία της ελληνικής οικογένειας και επιχείρησης δεν θα έρθει από κάποιο μαγικό λογισμικό, αλλά από την αλλαγή κουλτούρας. Η υιοθέτηση μιας νοοτροπίας «Μηδενικής Εμπιστοσύνης» (Zero Trust) δεν σημαίνει παράνοια, αλλά προσαρμογή στη νέα πραγματικότητα. Η εκπαίδευση, η συζήτηση με τα παιδιά και τους ηλικιωμένους γονείς, και η καθιέρωση πρωτοκόλλων επαλήθευσης (όπως η Λέξη Ασφαλείας) είναι οι σύγχρονες ζώνες ασφαλείας στον ψηφιακό αυτοκινητόδρομο.

Όπως επισημαίνει η εμπειρία, η τεχνολογία μπορεί να κλωνοποιήσει τη φωνή μας, αλλά όχι τη μυστική γνώση και τους δεσμούς που ενώνουν τους ανθρώπους – αρκεί να θυμόμαστε να τους χρησιμοποιούμε ως δικλείδες ασφαλείας την κρίσιμη στιγμή.

Για την άμεση αναφορά περιστατικών και λήψη οδηγιών στην Ελλάδα: