Η ταχεία εξάπλωση των deepfake καθιστά ολοένα δυσκολότερο να διακρίνει κανείς τι είναι πραγματικό στο διαδίκτυο. Ωστόσο, νέα έρευνα του Εθνικού Πανεπιστημίου της Αυστραλίας (ANU) δείχνει ότι οι άνθρωποι μπορούν να εκπαιδευτούν ώστε να αναγνωρίζουν αποτελεσματικότερα τα πρόσωπα που έχουν δημιουργηθεί με τεχνητή νοημοσύνη, σε μια περίοδο κατά την οποία η ψηφιακή πλαστοπροσωπία και η απάτη κλιμακώνονται.
Ερευνητές του Εργαστηρίου Συναισθημάτων και Προσώπων (Emotions and Faces Lab) του ANU διαπίστωσαν ότι η στοχευμένη εκπαίδευση βελτιώνει σημαντικά την ικανότητα διάκρισης πραγματικών και παραγόμενων από τεχνητή νοημοσύνη προσώπων, με ορισμένους συμμετέχοντες να επιτυγχάνουν σχεδόν απόλυτη ακρίβεια.
Τα ευρήματα δημοσιεύονται σε μια περίοδο κατά την οποία η τεχνολογία των deepfake γίνεται ολοένα πιο ρεαλιστική και χρησιμοποιείται όλο και συχνότερα σε απάτες, κλοπή ταυτότητας και εκστρατείες παραπληροφόρησης, ενώ ειδικοί προειδοποιούν ότι η οπτική «απόδειξη» της ταυτότητας καθίσταται ολοένα λιγότερο αξιόπιστη.
Τα deepfake — παραποιημένο οπτικοακουστικό υλικό που δημιουργείται με τεχνητή νοημοσύνη — χρησιμοποιούνται ολοένα περισσότερο σε οικονομικές απάτες, κλοπή ταυτότητας και διαδικτυακή πλαστοπροσωπία. Πρόσφατες έρευνες επισημαίνουν ότι οι τεχνολογίες αυτές αξιοποιούνται πλέον συστηματικά σε δόλια επενδυτικά σχήματα, απάτες με συνθετική κλωνοποίηση φωνής και ψευδείς διαφημιστικές προωθήσεις διασημοτήτων, με στόχο να εξαπατηθούν οι χρήστες ώστε να μεταφέρουν χρήματα ή να αποκαλύψουν προσωπικά δεδομένα.
Οι αναλυτές ασφάλειας προειδοποιούν ότι το πρόβλημα δεν είναι πλέον υποθετικό. Οι απάτες που βασίζονται σε τεχνολογία deepfake έχουν συνδεθεί με ζημίες δισεκατομμυρίων δολαρίων παγκοσμίως, καθώς οι δράστες χρησιμοποιούν βίντεο και ηχητικό υλικό που έχει δημιουργηθεί με τεχνητή νοημοσύνη για να υποδύονται πρόσωπα εμπιστοσύνης, μεταξύ των οποίων ανώτατα στελέχη επιχειρήσεων, δημόσια πρόσωπα και ακόμη και μέλη οικογενειών.
Σύμφωνα με τη βάση δεδομένων AI Incident Database, ένα συλλογικό αποθετήριο δημοσιευμάτων για περιστατικά κακόβουλης χρήσης της τεχνητής νοημοσύνης, οι αναφορές περιστατικών που σχετίζονται με την τεχνητή νοημοσύνη αυξήθηκαν κατά 50% σε ετήσια βάση την περίοδο 2022-2024, ενώ μέσα στους πρώτους δέκα μήνες έως τον Οκτώβριο του 2025 είχαν ήδη ξεπεράσει το σύνολο των περιστατικών που καταγράφηκαν το 2024.
Την ίδια στιγμή, οι ερευνητές σημειώνουν ότι τα αυτοματοποιημένα εργαλεία ανίχνευσης δυσκολεύονται να συμβαδίσουν με τις εξελίξεις. Πολλά συστήματα αποδίδουν καλά σε ελεγχόμενες συνθήκες, αλλά αδυνατούν να εντοπίσουν με συνέπεια το παραποιημένο περιεχόμενο σε πραγματικές συνθήκες, ιδίως στις πλατφόρμες κοινωνικής δικτύωσης όπου διακινείται η πλειονότητα των deepfake. Το αποτέλεσμα είναι αυτό που οι ειδικοί περιγράφουν ως ένα διευρυνόμενο «χάσμα εμπιστοσύνης»: οι χρήστες δεν μπορούν πλέον να θεωρούν ότι η εικόνα ή η φωνή κάποιου στο διαδίκτυο αποτελεί απόδειξη της γνησιότητάς του.
Εκπαίδευση στην αναγνώριση deepfake
Μέσα σε αυτό το πλαίσιο, η μελέτη του ANU εξέτασε κατά πόσο οι άνθρωποι μπορούν να εκπαιδευτούν ώστε να αναγνωρίζουν με μεγαλύτερη αξιοπιστία τα πρόσωπα που έχουν δημιουργηθεί με τεχνητή νοημοσύνη. Οι συμμετέχοντες εκπαιδεύτηκαν να εστιάζουν όχι σε εμφανή οπτικά σφάλματα —όπως παραμορφωμένα χέρια ή ασύμμετρα σκουλαρίκια— αλλά σε πιο λεπτές διαφοροποιήσεις στη δομή του προσώπου.
Σύμφωνα με την επικεφαλής της έρευνας, αναπληρώτρια καθηγήτρια Έιμι Ντόουελ [Amy Dawel], οι παραδοσιακές προσεγγίσεις που βασίζονται στον εντοπισμό προφανών ατελειών γίνονται ολοένα λιγότερο αποτελεσματικές όσο βελτιώνονται τα συστήματα παραγωγικής τεχνητής νοημοσύνης. Τα πρόσωπα που δημιουργούνται με τεχνητή νοημοσύνη τείνουν να είναι πιο συμμετρικά, πιο αναλογικά και πιο ελκυστικά, όμως χωρίς την κατάλληλη εκπαίδευση οι άνθρωποι συχνά εκλαμβάνουν αυτά τα χαρακτηριστικά ως ενδείξεις ότι πρόκειται για πραγματικά ανθρώπινα πρόσωπα.
Η εκπαίδευση επικεντρώθηκε σε έξι αντιληπτικά χαρακτηριστικά: τη διακριτότητα, την ευκολία απομνημόνευσης, την αναλογικότητα, τη συμμετρία, την ελκυστικότητα και την εκφραστικότητα. Μετά την εκπαίδευση, οι συμμετέχοντες βελτίωσαν σημαντικά την ακρίβεια των εκτιμήσεών τους, ενώ όσοι είχαν τις καλύτερες επιδόσεις πέτυχαν σχεδόν απόλυτη ακρίβεια στην αναγνώριση προσώπων που είχαν δημιουργηθεί από προηγμένα συστήματα, όπως το StyleGAN.
Η ίδια χαρακτήρισε εντυπωσιακή τη θεαματική βελτίωση της ικανότητας των ανθρώπων να αναγνωρίζουν πρόσωπα που έχουν δημιουργηθεί με τεχνητή νοημοσύνη.
Του Rex Widerstrom
