Τα προηγμένα μοντέλα τεχνητής νοημοσύνης ενδέχεται μέσα στους επόμενους μήνες να αποκτήσουν τη δυνατότητα να παραβιάζουν και να υπερνικούν τις άμυνες κυβερνήσεων και επιχειρήσεων σε όλο τον κόσμο στον τομέα της κυβερνοασφάλειας, προειδοποίησε στις 22 Ιουνίου συμμαχία υπηρεσιών πληροφοριών των χωρών Five Eyes.
Το Συμβούλιο Εποπτείας και Ελέγχου Πληροφοριών των Five Eyes (Five Eyes Intelligence Oversight and Review Council – FIORC), στο οποίο συμμετέχουν υπηρεσίες πληροφοριών και ασφάλειας των Ηνωμένων Πολιτειών, του Ηνωμένου Βασιλείου, του Καναδά, της Αυστραλίας και της Νέας Ζηλανδίας, εξέδωσε κοινή ανακοίνωση εκφράζοντας ανησυχία για τις απειλές που ενδέχεται να προκύψουν από τα πλέον προηγμένα μοντέλα τεχνητής νοημοσύνης.
Σύμφωνα με το FIORC, τα μοντέλα αυτά αναμένεται να ξεπεράσουν τις σημερινές προσδοκίες της βιομηχανίας και να μεταμορφώσουν θεμελιωδώς τόσο τις επιθετικές όσο και τις αμυντικές δυνατότητες στον κυβερνοχώρο. Όπως επισημαίνεται χαρακτηριστικά, το σχετικό χρονικό πλαίσιο δεν μετριέται πλέον σε χρόνια αλλά σε μήνες.
Η συμμαχία κάλεσε κυβερνήσεις και επιχειρήσεις να αξιολογήσουν άμεσα τους κινδύνους που συνδέονται με τα προηγμένα μοντέλα τεχνητής νοημοσύνης, ώστε να μπορέσουν να αντιδράσουν έγκαιρα και να αποτρέψουν την εκμετάλλευση παραβίασης λογισμικού από «κακόβουλους παράγοντες», οι οποίες θα μπορούσαν να επηρεάσουν ακόμη και την εθνική άμυνα.
Στην ανακοίνωση τονίζεται επίσης ότι τα διοικητικά συμβούλια και τα ανώτερα στελέχη οργανισμών πρέπει να διασφαλίσουν ότι οι οργανισμοί τους μπορούν να αντέξουν και να αντιμετωπίσουν αποτελεσματικά σοβαρά περιστατικά κυβερνοασφάλειας. Δεν αρκεί η ύπαρξη ελέγχων ασφαλείας, αναφέρει το FIORC, καθώς οι ηγέτες πρέπει να είναι βέβαιοι ότι οι δικλίδες αυτές θα αποδώσουν σε πραγματικές συνθήκες ενός περιστατικού ασφαλείας. Παράλληλα, υπογραμμίζεται ότι απαιτείται επανεξέταση μακροχρόνιων συμβιβασμών και σκόπιμη αξιοποίηση της τεχνητής νοημοσύνης για την ενίσχυση της άμυνας και όχι αποκλειστικά για τη βελτίωση της αποδοτικότητας.
Αν και η ανακοίνωση, που δημοσιοποιήθηκε τη Δευτέρα, δεν κατονομάζει κάποια συγκεκριμένη εταιρεία, η πρόσφατη συζήτηση στον κλάδο έχει επικεντρωθεί στα προηγμένα μοντέλα Mythos 5 και Fable 5 της Anthropic.
Η ασυνήθιστη κοινή παρέμβαση του FIORC έγινε λίγο περισσότερο από μία εβδομάδα μετά από την απαίτηση της κυβέρνησης Τραμπ προς την Anthropic να αποκλείσει την πρόσβαση ξένων υπηκόων στα μοντέλα Claude Fable 5 και Mythos 5. Επειδή ήταν δύσκολο να καθοριστεί ποιοι χρήστες θα εντάσσονταν σε αυτή την ευρεία κατηγορία, η εταιρεία διέκοψε λίγο αργότερα την πρόσβαση για όλους τους χρήστες.
Η Anthropic ανέφερε ακόμη ότι η ομοσπονδιακή κυβέρνηση των ΗΠΑ θεωρούσε πως κάποιος είχε βρει τον τρόπο να παρακάμψει τους μηχανισμούς ασφαλείας του Fable 5, αφαιρώντας ουσιαστικά τις δικλίδες που εμποδίζουν το μοντέλο να αποκτήσει δυνατότητες αντίστοιχες με εκείνες του Mythos 5.
Όταν η εταιρεία ανακοίνωσε τον Απρίλιο περιορισμένη διάθεση του Mythos σε επιλεγμένους δοκιμαστές κυβερνοασφάλειας ανά τον κόσμο, είχε προειδοποιήσει ότι κακόβουλοι παράγοντες θα μπορούσαν να χρησιμοποιήσουν το μοντέλο για να εντοπίσουν ευπάθειες σε λειτουργικά συστήματα, τράπεζες και άλλες κρίσιμες υποδομές.
Μέχρι τη διακοπή πρόσβασης και στα δύο μοντέλα στις 12 Ιουνίου, το Mythos 5 εξακολουθούσε να διατίθεται πιλοτικά σε επιλεγμένες εταιρείες, επιχειρήσεις και δοκιμαστές κυβερνοασφάλειας.
Λίγες ημέρες αργότερα, ο Τραμπ δήλωσε στο Axios ότι δεν θεωρούσε πλέον την Anthropic απειλή για την εθνική ασφάλεια, επικαλούμενος την ταχύτητα με την οποία η εταιρεία ανταποκρίθηκε στα αιτήματά του. Σύμφωνα με τον Αμερικανό πρόεδρο, εργαζόμενος σε μία από τις ανταγωνίστριες εταιρείες της Anthropic στον κλάδο της τεχνητής νοημοσύνης είχε εκφράσει ανησυχίες για τα νέα μοντέλα και είχε ενημερώσει σχετικά τις αρχές.
Πριν από την αρχική διάθεση των μοντέλων αυτόν τον μήνα, η Anthropic είχε καλέσει τους ηγέτες της παγκόσμιας βιομηχανίας τεχνητής νοημοσύνης να επιβραδύνουν τον ρυθμό ανάπτυξης της τεχνολογίας, εκφράζοντας τον φόβο ότι σύντομα θα μπορούσε να αρχίσει να εξελίσσεται πέρα από τον ανθρώπινο έλεγχο.
Η εταιρεία είχε προειδοποιήσει ότι οι επιχειρήσεις χρησιμοποιούν ήδη τεχνητή νοημοσύνη για τον σχεδιασμό, την ανάπτυξη και τη βελτίωση των μοντέλων τους, κάτι που θα μπορούσε σύντομα να οδηγήσει στη δημιουργία ενός «συστήματος τεχνητής νοημοσύνης ικανού να σχεδιάζει και να αναπτύσσει αυτόνομα τον ίδιο του τον διάδοχο».
