Προσθέστε το pentapostagma.gr ως προτιμώμενη πηγή στα αποτελέσματα αναζήτησης στην Google. Μια λανθασμένη αναφορά πληροφοριών που δημιουργήθηκε με τη βοήθεια Τεχνητής Νοημοσύνης παραλίγο να οδηγήσει τον αμερικανικό στρατό σε επιχείρηση εναντίον κινεζικού πλοίου στη Μέση Ανατολή, προκαλώντας μια κρίση που θα μπορούσε να κλιμακωθεί σε άμεση αντιπαράθεση μεταξύ Ουάσινγκτον και Πεκίνου, σύμφωνα με αποκάλυψη του CNN.
Η αναφορά που κυκλοφόρησε στις αμερικανικές ένοπλες δυνάμεις την άνοιξη, εν μέσω του πολέμου με το Ιράν, σήμανε συναγερμό. Υποστήριζε ότι ένα κινεζικό πλοίο στη Μέση Ανατολή μετέφερε εξαρτήματα που συνδέονταν με πρόγραμμα ανάπτυξης πυρηνικών όπλων. Οι αμερικανικές στρατιωτικές υπηρεσίες αντέδρασαν άμεσα, καταρτίζοντας σχέδια για την αναχαίτιση του πλοίου. Σύμφωνα με πηγές που μίλησαν στο CNN, ένοπλες ομάδες προετοιμάζονταν ακόμη και για επιβίβαση στο σκάφος, ενώ αμερικανικά στρατιωτικά αεροσκάφη είχαν ήδη απογειωθεί.
Ωστόσο, λίγο πριν ξεκινήσει η επιχείρηση, αξιωματούχοι έριξαν μια προσεκτικότερη ματιά στην αναφορά και διαπίστωσαν ότι είχε συνταχθεί με τη βοήθεια εργαλείου Τεχνητής Νοημοσύνης, το οποίο είχε κάνει λανθασμένη αναγνώριση του φορτίου του πλοίου.
Σύμφωνα με το CNN, δεν έχει γίνει γνωστό ποιο ήταν το πραγματικό φορτίο που παρερμηνεύθηκε από το σύστημα AI. Όπως αναφέρει πάντως μία από τις πηγές, η αναφορά ήταν «εντελώς ψευδής», αλλά «σχεδόν ξεκίνησε έναν πόλεμο», καθώς οποιαδήποτε αμερικανική επιχείρηση εναντίον κινεζικού πλοίου θα μπορούσε να προκαλέσει σοβαρή στρατιωτική κλιμάκωση.
Πώς το AI δημιούργησε την κρίση
Το περιστατικό ανέδειξε τους κινδύνους από την ταχεία ενσωμάτωση της Τεχνητής Νοημοσύνης στις στρατιωτικές και υπηρεσίες πληροφοριών των ΗΠΑ. Στη συγκεκριμένη περίπτωση, ένας αναλυτής χρησιμοποίησε chatbot για να επεξεργαστεί πληροφορίες σχετικά με το φορτίο του πλοίου που προέρχονταν από τη Διοίκηση Ειδικών Επιχειρήσεων του Ειρηνικού (US Special Operations Command Pacific), με έδρα τη Χαβάη.
Το σύστημα συνδύασε δεδομένα από ανοιχτές πηγές με απόρρητες πληροφορίες σημάτων που υπήρχαν στις βάσεις δεδομένων της αμερικανικής κυβέρνησης και κατέληξε σε εσφαλμένο συμπέρασμα για τη φύση του φορτίου. Στη συνέχεια, ο αναλυτής χρησιμοποίησε ξανά την Τεχνητή Νοημοσύνη για να δημιουργήσει μια τυπική αναφορά πληροφοριών, η οποία διακινήθηκε σε στρατιωτικούς αξιωματούχους σαν επαληθευμένη ανάλυση.
Δεν έγινε σαφές αν το chatbot που χρησιμοποιήθηκε ήταν ένα εμπορικά διαθέσιμο εργαλείο Τεχνητής Νοημοσύνης ή ένα σύστημα που είχε αναπτυχθεί από την αμερικανική κυβέρνηση. «Τα εσωτερικά εργαλεία είναι σε μεγάλο βαθμό απλώς αντίγραφα των εμπορικών εφαρμογών, με ένα πιο “γυαλισμένο” περιτύλιγμα», εξηγεί πρώην ανώτερος αξιωματούχος των ΗΠΑ, ο οποίος γνωρίζει τα συστήματα AI που χρησιμοποιούνται από αναλυτές των στρατιωτικών και των υπηρεσιών πληροφοριών.
Το Πεντάγωνο και η Διοίκηση Ειδικών Επιχειρήσεων του Ειρηνικού δεν σχολίασαν το περιστατικό.
Η πίεση για γρήγορη υιοθέτηση της AI στον στρατό και οι φόβοι για μοιραία λάθη
Οι αμερικανικές ένοπλες δυνάμεις επενδύουν ολοένα και περισσότερο στην Τεχνητή Νοημοσύνη, με στόχο να επιταχύνουν τη λήψη αποφάσεων στο πεδίο της μάχης, από την επιλογή στόχων μέχρι τη διαχείριση στρατιωτικών πόρων, εφοδιαστικών αλυσίδων και προϋπολογισμών.
Η αμερικανική κυβέρνηση υποστηρίζει ότι η χώρα δεν μπορεί να μείνει πίσω στην ανάπτυξη στρατιωτικής AI, ιδιαίτερα απέναντι σε αντιπάλους όπως η Κίνα. Τον Ιανουάριο, ο υπουργός Άμυνας Πιτ Χέγκσεθ παρουσίασε τη στρατηγική του Πενταγώνου για την επιτάχυνση της χρήσης Τεχνητής Νοημοσύνης, τονίζοντας ότι οι ΗΠΑ πρέπει να ενισχύσουν τις δυνατότητές τους στον συγκεκριμένο τομέα. «Θα απελευθερώσουμε τον πειραματισμό, θα εξαλείψουμε τα γραφειοκρατικά εμπόδια και θα επικεντρώσουμε τις επενδύσεις μας ώστε να διασφαλίσουμε ότι θα ηγηθούμε στην τεχνολογία της στρατιωτικής AI», είχε δηλώσει.
Ωστόσο, αξιωματούχοι που γνωρίζουν τον τρόπο λειτουργίας των συστημάτων υποστηρίζουν ότι η εφαρμογή τους γίνεται χωρίς ενιαίο πλαίσιο ασφαλείας. Διαφορετικές υπηρεσίες χρησιμοποιούν διαφορετικά εργαλεία, με διαφορετικούς κανόνες ελέγχου και διαφορετικά επίπεδα αξιοπιστίας.
Το περιστατικό με το κινεζικό πλοίο δεν αποτελεί, σύμφωνα με πηγές του CNN, μεμονωμένο παράδειγμα. Οι λεγόμενες «παραισθήσεις» της AI, δηλαδή η δημιουργία πειστικών αλλά ανακριβών πληροφοριών, έχουν εμφανιστεί και σε άλλες περιπτώσεις μέσα στην αμερικανική κοινότητα πληροφοριών.
Ιδιαίτερη ανησυχία προκαλεί η χρήση της AI σε επιχειρήσεις στοχοποίησης, όπου ένα λάθος μπορεί να έχει άμεσες ανθρώπινες συνέπειες. «Η AI στη στοχοποίηση σίγουρα αυξάνεται και δεν υπάρχει πραγματική καθοδήγηση για το πώς η παρουσία ανθρώπου στη διαδικασία θα αποτρέψει απώλειες αμάχων ή φίλια πυρά», ανέφερε στο αμερικανικό πρακτορείο πηγή με γνώση των σημερινών στρατιωτικών πολιτικών.
Παράλληλα, ορισμένοι παλαιότεροι αξιωματούχοι των υπηρεσιών πληροφοριών εκφράζουν ανησυχίες ότι η πίεση για ταχύτερη παραγωγή αναλύσεων μπορεί να οδηγήσει σε περισσότερα λάθη, ειδικά όταν νεότεροι αναλυτές εμπιστεύονται υπερβολικά τα εργαλεία AI. Όπως χαρακτηριστικά ανέφερε μία από τις πηγές που μίλησαν στο CNN: «Η AI σού επιτρέπει να φτάσεις σε μια κακή ιδέα πιο γρήγορα».
