Ερευνητές της εταιρείας τεχνητής νοημοσύνης (ΑΙ) Anthropic ανέφεραν στις 13 Νοεμβρίου ότι εντόπισαν την πρώτη περίπτωση χρήσης ΑΙ σε κυβερνοεπίθεση από ξένη κρατική οντότητα.
Η Anthropic, η εταιρεία του Σαν Φρανσίσκο που αναπτύσσει την εφαρμογή Claude, σημείωσε σε ανάρτηση στο ιστολόγιό της ότι είχε υψηλή βεβαιότητα πως κρατικά υποστηριζόμενοι Κινέζοι κυβερνοεισβολείς χρησιμοποίησαν το εργαλείο Claude Code για να δημιουργήσουν ένα πλαίσιο επίθεσης το οποίο, μόλις ενεργοποιήθηκε, απαιτούσε ελάχιστη ανθρώπινη παρέμβαση.
Σύμφωνα με την εταιρεία, οι επιτιθέμενοι χειραγώγησαν το λογισμικό ΑΙ της Anthropic για να στοχοποιήσουν 30 οργανισμούς παγκοσμίως, μεταξύ των οποίων κυβερνητικές υπηρεσίες, εταιρείες τεχνολογίας και χρηματοοικονομικών υπηρεσιών, καθώς και χημικές βιομηχανίες. Μικρός αριθμός επιθέσεων κατέληξε επιτυχώς. Τα ευρήματα ανακοινώθηκαν και σε ανάρτηση της Anthropic στην πλατφόρμα X.
Οι επιθέσεις πολλαπλών σταδίων εντοπίστηκαν για πρώτη φορά στα μέσα Σεπτεμβρίου, και μέσα σε δέκα ημέρες οι ερευνητές της Anthropic κατάφεραν να χαρτογραφήσουν την έκταση της επιχείρησης, να ειδοποιήσουν τους οργανισμούς που επηρεάστηκαν και να συνεργαστούν με τις αρμόδιες περιφερειακές αρχές. Η εταιρεία σημείωσε ότι οι επιθέσεις έγιναν εφικτές λόγω της ραγδαίας εξέλιξης των τεχνολογιών ΑΙ, δυνατότητες που δεν υπήρχαν πριν από έναν χρόνο.
Στο πρώτο στάδιο, οι κυβερνοεισβολείς επέλεξαν τους στόχους τους και χρησιμοποίησαν το Claude Code ως αυτοματοποιημένο εργαλείο εκτέλεσης. Παρέκαμψαν τα εσωτερικά συστήματα ασφαλείας του εργαλείου, παρουσιάζοντας τους εαυτούς τους ως υπαλλήλους κυβερνοασφάλειας, και πέτυχαν να το ενεργοποιήσουν τεμαχίζοντας την επίθεση σε μικρές, φαινομενικά αθώες εντολές που δεν προκάλεσαν συναγερμό.
Αφού απέκτησε πρόσβαση, το Claude Code άρχισε να αναζητά βάσεις δεδομένων υψηλής αξίας και τρωτά σημεία στα συστήματα κυβερνοασφάλειας των οργανισμών. Η εφαρμογή έγραψε μόνο του κώδικα εκμετάλλευσης, συνέλεξε ονόματα χρήστη και κωδικούς πρόσβασης, απέσπασε δεδομένα σχεδόν χωρίς ανθρώπινη συμμετοχή και στη συνέχεια παρήγαγε λεπτομερείς αναφορές για τις ενέργειές του —συμπεριλαμβανομένων των συστημάτων που παραβιάστηκαν, των διαπιστευτηρίων που χρησιμοποίησε και των «κρυφών ψηφιακών εισόδων» που δημιουργήθηκαν.
Η Anthropic εκτιμά ότι η ΑΙ πραγματοποίησε 80% έως 90% της συνολικής εργασίας στις κυβερνοεπιθέσεις.
Η ισχύς και η ταχύτητα του αυτοματοποιημένου συστήματος
Η Anthropic ανέφερε στο ιστολόγιό της ότι ο όγκος της εργασίας που εκτελέστηκε από η ΑΙ θα απαιτούσε τεράστια χρονικά περιθώρια για μια ανθρώπινη ομάδα.
Κατά την περιγραφή της εταιρείας, σημειωνόταν ότι την περίοδο μέγιστης δραστηριότητας η ΑΙ πραγματοποίησε χιλιάδες αιτήματα, συχνά πολλαπλά ανά δευτερόλεπτο —ρυθμός επίθεσης αδύνατον να επιτευχθεί από ανθρώπινους κυβερνοεισβολείς.
Η εταιρεία υπογράμμισε ότι, για να μπορέσει να συμβαδίσει με αυτή την ταχέως εξελισσόμενη απειλή, επέκτεινε τις δυνατότητες ανίχνευσης και ανέπτυξε πιο αποτελεσματικούς ταξινομητές που εντοπίζουν ύποπτη δραστηριότητα. Προσθέτει επίσης ότι εργάζεται διαρκώς σε νέες μεθόδους διερεύνησης και εντοπισμού επιθέσεων μεγάλης κλίμακας και κατανεμημένων συστημάτων.
Στις αρχές Οκτωβρίου, η Anthropic είχε επισημάνει ότι τα μοντέλα ΑΙ είχαν ωριμάσει σε τέτοιο βαθμό ώστε όχι μόνο να αναπαράγουν κυβερνοεπιθέσεις αλλά και να ξεπερνούν σε αποτελεσματικότητα ορισμένες ανθρώπινες ομάδες κυβερνοάμυνας. Η εταιρεία συμβουλεύει τους δημιουργούς συστημάτων ΑΙ να ενισχύσουν τα μέτρα ασφαλείας τους, καθώς παρόμοιες επιθέσεις είναι πιθανό να επαναληφθούν στο μέλλον.
Ο Κρις Κρεμπς, πρώην διευθυντής της Υπηρεσίας Κυβερνοασφάλειας και Ασφάλειας Υποδομών του υπουργείου Εσωτερικής Ασφάλειας των ΗΠΑ, ανέφερε σε πρωινή συνέντευξή του στο CBS ότι η επίθεση αποτελεί πιθανό προμήνυμα για όσα θα ακολουθήσουν.
Σύμφωνα με τον Κρεμπς, επί σχεδόν μία δεκαετία γίνονταν συζητήσεις για τέτοιου είδους συμβάντα και το γεγονός ότι αυτά πλέον λαμβάνουν χώρα στην πράξη είναι ανησυχητικό, προσθέτοντας ότι απαιτείται εκτενής προσπάθεια στο άμεσο μέλλον για να περιοριστεί ο κίνδυνος.
Του Rob Sabo
