Ανάλυση ειδήσεων
Οι ειδικοί στην κυβερνοασφάλεια προειδοποιούν εδώ και χρόνια ότι ενδέχεται η τεχνητή νοημοσύνη να καταστήσει το κακόβουλο λογισμικό πιο επικίνδυνο. Μια πρόσφατη πειραματική επίδειξη που ανέπτυξαν ερευνητές του Πανεπιστημίου του Τορόντο προσφέρει μια εικόνα τού πώς θα μπορούσε να εκδηλωθεί αυτή η απειλή.
Οι ερευνητές κατασκεύασαν και δοκίμασαν σε ελεγχόμενο περιβάλλον ένα κακόβουλο πρόγραμμα αυτόματης εξάπλωσης («σκουλήκι» υπολογιστών) με δυνατότητες τεχνητής νοημοσύνης, προκειμένου να κατανοήσουν καλύτερα πώς μελλοντικοί κυβερνοεισβολείς θα μπορούσαν να αξιοποιήσουν τις εξελίξεις στον τομέα και πώς οι πιθανοί στόχοι τους θα μπορούσαν να προετοιμαστούν για αυτούς τους κινδύνους.
Το πείραμα έδειξε πώς ένα τέτοιο πρόγραμμα θα μπορούσε να μετακινείται μέσα σε ένα δίκτυο, να εκμεταλλεύεται γνωστά τρωτά σημεία, να συντονίζει τη δραστηριότητα πολλαπλών αντιγράφων του εαυτού του και να προσαρμόζει τη συμπεριφορά του καθώς μεταβάλλονται οι συνθήκες.
Σημαντικότερο από οποιαδήποτε επιμέρους δυνατότητα που επέδειξε το πρόγραμμα είναι αυτό που υποδηλώνει η έρευνα για το μέλλον της κυβερνοασφάλειας. Το πείραμα εγείρει ερωτήματα σχετικά με το πόσο αποτελεσματικά θα ήταν τα σημερινά εργαλεία κυβερνοασφάλειας απέναντι σε κακόβουλο λογισμικό που μπορεί να προσαρμόζεται και να λαμβάνει αποφάσεις χωρίς άμεση ανθρώπινη καθοδήγηση.
Τα «σκουλήκια» των υπολογιστών υπάρχουν εδώ και δεκαετίες. Το 1988, το Morris Worm μόλυνε έως και το 10% όλων των υπολογιστών που ήταν συνδεδεμένοι στο διαδίκτυο. Αυτοί οι κακόβουλοι κώδικες αντιγράφουν τον εαυτό τους από τη μία συσκευή στην άλλη μέσω ενός δικτύου, χωρίς καμία καθοδήγηση από τον δημιουργό τους.
Σε αντίθεση με τους ιούς, οι οποίοι πρέπει να προσκολληθούν σε ένα ήδη υπάρχον αρχείο ή πρόγραμμα για να εξαπλωθούν, ένα «σκουλήκι» μετακινείται ανεξάρτητα, εκμεταλλευόμενο λογισμικό που δεν έχει ενημερωθεί με διορθώσεις ασφαλείας ή εσφαλμένα διαμορφωμένες ρυθμίσεις ασφαλείας.
Τα παραδοσιακά «σκουλήκια» λειτουργούν βάσει ενός προκαθορισμένου σεναρίου, στοχεύοντας ένα συγκεκριμένο τρωτό σημείο και εκμεταλλευόμενα το με τον ίδιο τρόπο σε κάθε μηχάνημα. Όταν συναντούν ένα σύστημα που βρίσκεται εκτός του προγραμματισμού τους, σταματούν. Αυτή η προβλεψιμότητα αποτελεί και τον περιορισμό τους, και ακριβώς αυτό έχουν σχεδιαστεί να αντιμετωπίζουν οι ενημερώσεις ασφαλείας και τα προγράμματα προστασίας από κακόβουλο λογισμικό.
Στις 2 Ιουνίου, ομάδα ερευνητών του Πανεπιστημίου του Τορόντο ανακοίνωσε ότι ανέπτυξε μια νέα κατηγορία κακόβουλου λογισμικού τύπου «σκουληκιού». Στόχος της ήταν να βρεθεί σε καλύτερη θέση ώστε να αναπτύξει τα απαραίτητα αντίμετρα για τον εντοπισμό και την άμυνα απέναντι σε αυτού του είδους την απειλή.
Οι ερευνητές προειδοποίησαν ότι κάθε συσκευή συνδεδεμένη στο διαδίκτυο αποτελεί πιθανό στόχο και ότι οι σημερινές κυβερνοάμυνες δεν είναι ακόμη έτοιμες να αντιμετωπίσουν αυτή την απειλή. Το πρόγραμμα αναπτύχθηκε σε ένα «ασφαλές, κλειστό σύστημα», με εκτεταμένα μέτρα προφύλαξης. Στη συνέχεια δημοσιεύθηκε μια απόδειξη εφικτότητας υπό τη μορφή προδημοσίευσης επιστημονικής εργασίας και όχι πραγματικού κώδικα που θα μπορούσε να χρησιμοποιηθεί από κυβερνοεισβολείς.
Οι ερευνητές υποστηρίζουν ότι η δημοσιοποίηση των ευρημάτων τους θα βοηθήσει τους αμυνόμενους να προετοιμαστούν. Ωστόσο, η εργασία τους επαναφέρει ένα γνώριμο ζήτημα για τους ειδικούς της κυβερνοασφάλειας: η δημόσια επίδειξη μιας νέας δυνατότητας μπορεί να προσελκύσει το ενδιαφέρον και κακόβουλων παραγόντων.
Το κόστος των επιθέσεων
Ο σημαντικότερος αποτρεπτικός παράγοντας για τη χρήση της τεχνητής νοημοσύνης από κυβερνοεγκληματίες ήταν έως σήμερα το κόστος της υπολογιστικής υποδομής που απαιτείται για τη λειτουργία μεγάλων γλωσσικών μοντέλων. Το εμπόδιο αυτό έχει αναγκάσει εγκληματικές ομάδες να βασίζονται στην υποστήριξη μεγάλων οργανισμών.
Η έρευνα, ωστόσο, παρουσιάζει μια πιθανή λύση σε αυτό το πρόβλημα: ένα πρόγραμμα που θα μπορούσε να αξιοποιεί το ίδιο το υλικό του θύματος. Αν τέτοιες τεχνικές καταστούν πρακτικές σε πραγματικές επιθέσεις, θα μπορούσαν να αποτελέσουν σημαντικό πλεονέκτημα για τους κυβερνοεγκληματίες.
Και αυτή είναι μόνο μία από τις δυνατότητες που ανέδειξε το πείραμα.
Το πρόγραμμα δεν απαιτεί την ικανότητα ανακάλυψης νέων, άγνωστων έως τώρα ευπαθειών λογισμικού, αλλά μόνο ένα μοντέλο τεχνητής νοημοσύνης αρκετά ικανό ώστε να αξιοποιεί γνωστές ευπάθειες στην πράξη. Με άλλα λόγια, χρησιμοποιεί γνωστά αλλά μη διορθωμένα ελαττώματα λογισμικού, αδύναμους κωδικούς πρόσβασης και λανθασμένες ρυθμίσεις — στοιχεία ιδιαίτερα συνηθισμένα — για να διεισδύει σε συστήματα.
Οι εταιρείες και οι ερευνητές ασφαλείας δημοσιοποιούν τακτικά ευπάθειες λογισμικού ως προληπτικό μέτρο προστασίας. Ένα πρόγραμμα που θα διάβαζε αυτές τις ανακοινώσεις θα ήταν σε θέση να αξιοποιεί τις πληροφορίες πολύ ταχύτερα από όσο οι ομάδες πληροφορικής θα μπορούσαν να εγκαταστήσουν τις απαραίτητες διορθώσεις.
Συντονισμένη δράση πολλαπλών αντιγράφων
Όταν πολλαπλά αντίγραφα του προγράμματος είναι ενεργά ταυτόχρονα, σχηματίζουν ένα συντονισμένο «σμήνος», ανταλλάσσοντας πληροφορίες και μοιράζοντας εργασίες σε πραγματικό χρόνο. Ένα αντίγραφο αναλαμβάνει μια συσκευή μέσω ενός κοινού συστήματος συντονισμού, επιτρέποντας στα υπόλοιπα να την προσπεράσουν. Όταν παραβιάζεται ένας κωδικός πρόσβασης, η πληροφορία γίνεται αμέσως διαθέσιμη σε όλα τα υπόλοιπα αντίγραφα.
Τα υπολογιστικά φορτία κατανέμονται επίσης δυναμικά. Αντίγραφα που δεν διαθέτουν επαρκή επεξεργαστική ισχύ μπορούν να μεταφέρουν εργασίες σε ισχυρότερα μηχανήματα αλλού στο δίκτυο ώστε να μην καθυστερούν, ενώ αν ένα μηχάνημα τεθεί εκτός λειτουργίας, το φορτίο μεταφέρεται αυτόματα σε άλλα συστήματα.
Η απενεργοποίηση ενός μολυσμένου μηχανήματος ή ακόμη και μιας ομάδας τέτοιων μηχανημάτων δεν θα σταματούσε το πρόγραμμα. Τα υπόλοιπα αντίγραφα θα μπορούσαν να συνεχίσουν να λειτουργούν και να ανακατανέμουν το υπολογιστικό φορτίο μεταξύ τους. Μηχανήματα που έχουν ήδη καθαριστεί θα μπορούσαν να αποτελέσουν ξανά στόχο εφόσον άλλα αντίγραφα παραμένουν ενεργά στο δίκτυο. Για έναν αμυνόμενο, η αφαίρεση του προγράμματος από μία συσκευή ή ακόμη και από δέκα δεν επιτυγχάνει τίποτα εάν παραμένουν ενεργά αντίγραφα οπουδήποτε αλλού στο δίκτυο.
Κώδικας που εξελίσσεται
Οι περισσότερες αναφορές στο πείραμα εστιάζουν στην προσαρμοστική φύση του προγράμματος, όμως λίγες αποτυπώνουν τον βαθμό της αυτονομίας του. Η προδημοσίευση περιγράφει αρκετές περιπτώσεις στις οποίες ο παράγοντας τεχνητής νοημοσύνης υιοθέτησε νέες στρατηγικές που δεν είχε σχεδιαστεί να εκτελεί, ενώ η προσαρμοστικότητά του επεκτεινόταν ακόμη και στον δικό του κώδικα.
Οι ερευνητές σημείωσαν ότι, επειδή μπορεί να τροποποιεί τον πηγαίο κώδικά του αφού παραβιάσει ένα σύστημα, τα αρχεία καταγραφής που παράγει δεν μπορούν να θεωρηθούν αξιόπιστα αποδεικτικά στοιχεία της εξάπλωσής του. Με άλλα λόγια, οι αμυνόμενοι δεν θα μπορούσαν κατ’ ανάγκην να εμπιστεύονται τα ίδια τα αρχεία καταγραφής του προγράμματος. Αυτή η μετάβαση από προγραμματισμένα εκ των προτέρων εργαλεία σε παράγοντες που επανεγγράφουν τον δικό τους κώδικα ενδέχεται να δημιουργήσει νέες προκλήσεις για τους επαγγελματίες της κυβερνοασφάλειας.
Μάλιστα, οι ερευνητές επισημαίνουν ότι οποιοσδήποτε μηχανισμός προστασίας βρίσκεται εντός του πεδίου ελέγχου του παράγοντα — όπως ένας διακόπτης απενεργοποίησης μέσω λογισμικού, ένα τείχος προστασίας εγκατεστημένο μέσα στην εικονική μηχανή ή μια υπηρεσία παρακολούθησης — μπορεί να απενεργοποιηθεί από τον ίδιο. Αυτό περιλαμβάνει ακόμη και τον δικό του διακόπτη απενεργοποίησης.
Στον κώδικά του είχε ενσωματωθεί ένας μηχανισμός ασφαλείας που θα τον απενεργοποιούσε εάν αντιλαμβανόταν ότι βρισκόταν σε λάθος περιβάλλον, όπως εκτός του εργαστηρίου. Ωστόσο, οι ερευνητές παρατήρησαν ότι το αρχικό αντίγραφο διέγραφε αυτόν τον έλεγχο από νέα αντίγραφα όταν δεν λάμβανε την επιθυμητή απόκριση και στη συνέχεια τα ενεργοποιούσε με επιτυχία.
Οι ερευνητές διευκρινίζουν πάντως ότι αυτός ο διακόπτης απενεργοποίησης δεν αποτελούσε τον κύριο μηχανισμό περιορισμού. Ο πραγματικός περιορισμός λειτουργούσε εκτός της εμβέλειας του προγράμματος.
Το κατά πόσο τα κακόβουλα προγράμματα αυτόματης εξάπλωσης με δυνατότητες τεχνητής νοημοσύνης θα εξελιχθούν σε ευρέως διαδεδομένη απειλή μένει να φανεί. Ωστόσο, η έρευνα στρέφει την προσοχή στην ταχύτητα με την οποία παρόμοιες δυνατότητες θα μπορούσαν να υιοθετηθούν από κακόβουλους παράγοντες, τώρα που έχουν παρουσιαστεί δημόσια.
Του Adam H. Douglas
