Ερευνητές απέδειξαν ότι ένας ηλεκτρονικός ιός που αξιοποιεί την τεχνητή νοημοσύνη μπορεί να λειτουργεί χωρίς ανθρώπινη καθοδήγηση και να εξαπλώνεται αυτόνομα σε ένα δίκτυο εντοπίζοντας και εκμεταλλευόμενος ευπάθειες σε διαφορετικές συσκευές. Το επίτευγμα αυτό εντείνει τις ανησυχίες για το πώς η τεχνητή νοημοσύνη θα μπορούσε να αλλάξει το μέλλον των κυβερνοεπιθέσεων.
Το πειραματικό κακόβουλο λογισμικό αναπτύχθηκε από ερευνητές του Πανεπιστημίου του Τορόντο και της εταιρείας κυβερνοασφάλειας CleverHans. Όπως αναφέρεται στο Live Science συνδυάζει ένα μεγάλο γλωσσικό μοντέλο (LLM) που εκτελείται τοπικά με έναν αυτόνομο λογισμικό πράκτορα ο οποίος μπορεί να σαρώνει δίκτυα, να αξιολογεί πιθανές διαδρομές επίθεσης και να αποφασίζει πώς θα παραβιάσει νέους στόχους χωρίς ανθρώπινη παρέμβαση.
Σύμφωνα με τους ερευνητές η εργασία τους δείχνει ότι η τεχνητή νοημοσύνη μπορεί να επιτρέψει σε ένα κακόβουλο πρόγραμμα να προσαρμόζεται σε άγνωστα περιβάλλοντα αντί να βασίζεται σε μία μόνο προγραμματισμένη μέθοδο επίθεσης.
Στα πειράματα που περιγράφονται σε μελέτη ο ιός δοκιμάστηκε σε ένα προσομοιωμένο εταιρικό δίκτυο με 33 συστήματα, μεταξύ των οποίων διακομιστές Linux, υπολογιστές με Windows και άλλες συνδεδεμένες στο Διαδίκτυο συσκευές (IoT). Οι ερευνητές διαπίστωσαν ότι το σύστημα εντόπιζε ευπάθειες, παραβίαζε νέα μηχανήματα και αναπαραγόταν, εξαπλώνοντας τον εαυτό του σε περίπου το 62% του δικτύου μέσα σε μία εβδομάδα.
Ο Μάικλ Έιτζι, επίκουρος καθηγητής Πληροφορικής στο Πανεπιστήμιο Trinity Washington ο οποίος δεν συμμετείχε στην έρευνα λέει ότι το σημαντικότερο εύρημα είναι πως ένα τέτοιο σύστημα μπορεί να κάνει πολύ περισσότερα από το να εκτελεί μια προκαθορισμένη επίθεση. Όπως εξηγεί μπορεί να εξετάζει το περιβάλλον του στόχου, να αξιολογεί πιθανές ευπάθειες, να χρησιμοποιεί εργαλεία για την πραγματοποίηση επιθέσεων και, μόλις επιτύχει την παραβίαση, να αναπαράγεται αυτόματα.
Πώς λειτουργεί ο αυτόνομος ιός
Η βασική αρχιτεκτονική του συστήματος ήταν σχετικά απλή. Οι ερευνητές χρησιμοποίησαν ένα ανοικτού κώδικα μεγάλο γλωσσικό μοντέλο το οποίο εκτελούνταν σε τοπικό υπολογιστή και το συνέδεσαν με ένα λογισμικό πλαίσιο που μπορούσε να σαρώνει δίκτυα, να συλλέγει πληροφορίες για τους στόχους και να εκτελεί επιθέσεις.Ο ρόλος της τεχνητής νοημοσύνης δεν ήταν να «χακάρει» από μόνη της τα συστήματα, αλλά να ερμηνεύει τις πληροφορίες που συγκέντρωνε και να αποφασίζει ποιο θα ήταν το επόμενο βήμα.
«Το κομμάτι της επίθεσης που βασίζεται στην τεχνητή νοημοσύνη αφορά κυρίως τη λογική και τη λήψη αποφάσεωn. Το γλωσσικό μοντέλο δεν αποκτά μαγικά πρόσβαση στα συστήματα. Χρησιμοποιείται για να αξιολογεί τι σημαίνουν τα δεδομένα που συλλέγει, να προτείνει πιθανές στρατηγικές επίθεσης, να επιλέγει το κατάλληλο εργαλείο και να προσαρμόζει την τακτική του όταν μια προσπάθεια αποτυγχάνει» εξηγεί ο Έιτζι.
Με άλλα λόγια ο ιός δεν ανακαλύπτει νέες ευπάθειες. Χρησιμοποιεί πληροφορίες για ένα σύστημα, τις αντιπαραβάλλει με ήδη γνωστά κενά ασφαλείας και αποφασίζει ποια διαδρομή έχει τις περισσότερες πιθανότητες επιτυχίας.
Ο Μπομπ Χάτσινς, καθηγητής στρατηγικής τεχνητής νοημοσύνης στο Πανεπιστήμιο Lipscomb τόνισε ότι η καινοτομία βρίσκεται στην ικανότητα του συστήματος να προσαρμόζεται. Οι παραδοσιακοί ιοί ακολουθούν ένα προκαθορισμένο σενάριο: μόλις εντοπίσουν μια ευπάθεια αναπαράγονται.
Αντίθετα στη συγκεκριμένη περίπτωση ένα εύκολα διαθέσιμο μοντέλο τεχνητής νοημοσύνης χρησιμοποιείται ως μηχανισμός λήψης αποφάσεων. Το κακόβουλο λογισμικό αναλύει κάθε συσκευή που συναντά και επιλέγει την αποτελεσματικότερη στρατηγική για να την παραβιάσει.
Τι διαφοροποιεί αυτόν τον ιό από το συμβατικό κακόβουλο λογισμικό
Οι ερευνητές σχεδίασαν επίσης το σύστημα ώστε να λειτουργεί σε συσκευές με διαφορετικές υπολογιστικές δυνατότητες. Οι ισχυρότεροι υπολογιστές που είχαν ήδη παραβιαστεί και διέθεταν μονάδες επεξεργασίας γραφικών (GPU) μπορούσαν να παρέχουν τις δυνατότητες λογικής ανάλυσης σε μικρότερους πράκτορες που λειτουργούσαν σε ασθενέστερες συσκευές όπως συσκευές του Διαδικτύου των Πραγμάτων.
Ο καθηγητής τεχνητής νοημοσύνης και κυβερνοασφάλειας Τομ Βάζνταρ χαρακτήρισε ιδιαίτερα επικίνδυνη αυτή τη διαστρωματωμένη αρχιτεκτονική. Όπως ανέφερε μια απλή κάμερα ασφαλείας δεν αποτελεί πλέον μόνο ένα ακόμη σημείο εισόδου σε ένα δίκτυο αλλά μπορεί να μετατραπεί σε ενεργό κόμβο που συμμετέχει στη λήψη αποφάσεων της επίθεσης.
Η σημασία της χρήσης μικρών μοντέλων τεχνητής νοημοσύνης
Η μελέτη δεν έχει ακόμη αξιολογηθεί από ανεξάρτητους επιστήμονες. Δημοσιεύθηκε όμως σε μια περίοδο κατά την οποία κυβερνήσεις, ειδικοί στην κυβερνοασφάλεια και εταιρείες τεχνητής νοημοσύνης συζητούν κατά πόσο η παραγωγική τεχνητή νοημοσύνη θα διευκολύνει την πραγματοποίηση σύνθετων κυβερνοεπιθέσεων. Ιδιαίτερο ενδιαφέρον προκάλεσε το γεγονός ότι οι ερευνητές δεν χρησιμοποίησαν κάποιο προηγμένο εμπορικό μοντέλο, όπως το ChatGPT της OpenAI ή το Claude της Anthropic.
Αντίθετα βασίστηκαν σε ένα πολύ μικρότερο ανοικτού κώδικα μοντέλο το οποίο μπορεί να κατεβεί από το διαδίκτυο και να λειτουργήσει χωρίς σύνδεση ακόμη και σε έναν συνηθισμένο υπολογιστή. Σύμφωνα με τον Χάτσινς, αυτό αμφισβητεί την έως τώρα αντίληψη ότι μόνο τα πιο ισχυρά μοντέλα τεχνητής νοημοσύνης εγκυμονούν σοβαρούς κινδύνους κακής χρήσης.
Ο Βάζνταρ εκτιμά ότι η συγκεκριμένη έρευνα δείχνει πως οι κυβερνοεγκληματίες θα μπορούν ολοένα και περισσότερο να αυτοματοποιούν εργασίες που σήμερα απαιτούν έμπειρους χειριστές. Όπως χαρακτηριστικά ανέφερε, το κόστος μιας επίθεσης μειώνεται σχεδόν στο μηδέν και η απλή διόρθωση μιας ευπάθειας δεν αρκεί πλέον, καθώς το σύστημα μπορεί να εντοπίζει συνεχώς νέες εναλλακτικές διαδρομές επίθεσης.
Μπορεί να χρησιμοποιηθεί στην πραγματικότητα;
Δεν συμμερίζονται όλοι οι ειδικοί αυτή την απαισιόδοξη εκτίμηση. Ο Μάικλ Έιτζι επισήμανε ότι πρόκειται για μια εργαστηριακή επίδειξη σε ένα περιβάλλον ειδικά σχεδιασμένο για την παρουσίαση της ιδέας.
Το δοκιμαστικό δίκτυο περιείχε πολλές σκόπιμα ευάλωτες συσκευές και δεν διέθετε σύγχρονες άμυνες προστασίας. Κατά συνέπεια, η μελέτη αποδεικνύει ότι η προσέγγιση είναι εφικτή όχι όμως ότι θα λειτουργούσε με την ίδια αποτελεσματικότητα σε ένα πραγματικό εταιρικό δίκτυο με βασικά μέτρα ασφαλείας.
Επιπλέον ο ιός παρήγαγε δραστηριότητες που θα μπορούσαν να εντοπιστούν από τα συστήματα παρακολούθησης ασφαλείας, όπως σαρώσεις δικτύου, επαναλαμβανόμενες προσπάθειες εκμετάλλευσης ευπαθειών και απόπειρες απόκτησης αυξημένων δικαιωμάτων πρόσβασης.
Ακόμη και ένα στοιχειώδες σύστημα παρακολούθησης θα μπορούσε να ανιχνεύσει μέρος αυτής της συμπεριφοράς. Ο Χάτσινς προειδοποίησε επίσης ότι δεν πρέπει να υπερβάλλουμε ως προς τα συμπεράσματα. Όπως σημείωσε, οποιαδήποτε συσκευή συνδεδεμένη στο διαδίκτυο που χρησιμοποιεί ευάλωτο λογισμικό είναι θεωρητικά δυνατό να παραβιαστεί με παρόμοιο τρόπο. Αυτό αποτελεί γνωστή πραγματικότητα στον χώρο του κακόβουλου λογισμικού εδώ και δεκαετίες.
Οι οργανισμοί εξακολουθούν να μπορούν να προστατευθούν εφαρμόζοντας τα ίδια μέτρα που συνιστώνται εδώ και χρόνια απέναντι στις κυβερνοεπιθέσεις: άμεση εγκατάσταση ενημερώσεων ασφαλείας, χρήση ισχυρών κωδικών πρόσβασης και πολυπαραγοντικό έλεγχο ταυτότητας.
Παρ’ όλα αυτά, οι περισσότεροι ειδικοί συμφωνούν ότι η μελέτη σηματοδοτεί μια πιθανή αλλαγή στον τρόπο λειτουργίας του κακόβουλου λογισμικού στο μέλλον. Αντί να βασίζεται αποκλειστικά σε προκαθορισμένες οδηγίες που έχουν γράψει άνθρωποι το λογισμικό θα μπορεί να λαμβάνει μόνο του πολλές τακτικές αποφάσεις κατά τη διάρκεια μιας επίθεσης.
Όπως τόνισε ο Έιτζι η σημασία της έρευνας βρίσκεται στο ότι αποδεικνύει πως ένας πράκτορας βασισμένος σε μεγάλο γλωσσικό μοντέλο μπορεί να αναλύει διαφορετικούς στόχους και να προσαρμόζει δυναμικά τη στρατηγική του.
Για τον Χάτσινς η μελέτη αποτελεί ακριβώς το είδος της έρευνας που πρέπει να πραγματοποιείται στα πανεπιστήμια: να εξετάζονται πραγματικές απειλές σε ελεγχόμενο περιβάλλον πριν οι κακόβουλοι χρήστες αναπτύξουν αντίστοιχες τεχνολογίες στον πραγματικό κόσμο.
Το αν οι κυβερνοεγκληματίες θα υιοθετήσουν τελικά παρόμοιες τεχνικές μένει να αποδειχθεί. Εκείνο που έδειξε η έρευνα είναι ότι ακόμη και ένα σχετικά μικρό μοντέλο τεχνητής νοημοσύνης μπορεί ήδη να διαδραματίσει ουσιαστικό ρόλο στον σχεδιασμό και τον συντονισμό μιας κυβερνοεπίθεσης.
