CNN: Το λάθος της AI που έφερε ΗΠΑ και Κίνα κοντά σε σύγκρουση
Λανθασμένη αναφορά για κινεζικό πλοίο προκάλεσε αμερικανικό στρατιωτικό συναγερμό…
Μια λανθασμένη αναφορά πληροφοριών, η οποία συντάχθηκε με τη βοήθεια Τεχνητής Νοημοσύνης, λίγο έλειψε να οδηγήσει τις αμερικανικές ένοπλες δυνάμεις σε επιχείρηση αναχαίτισης και επιβίβασης σε κινεζικό πλοίο στη Μέση Ανατολή, σύμφωνα με αποκάλυψη του CNN.
Το περιστατικό σημειώθηκε την άνοιξη, εν μέσω του πολέμου με το Ιράν. Η αναφορά υποστήριζε ότι το κινεζικό πλοίο μετέφερε εξαρτήματα που συνδέονταν με πρόγραμμα ανάπτυξης πυρηνικών όπλων. Η πληροφορία προκάλεσε άμεση κινητοποίηση του αμερικανικού στρατού, με σχέδια για την αναχαίτιση του πλοίου.
Σύμφωνα με τέσσερις πηγές που επικαλείται το CNN, δύο από τις οποίες γνώριζαν ότι προετοιμαζόταν επιβίβαση, ένοπλοι Αμερικανοί στρατιωτικοί ήταν έτοιμοι να ανέβουν στο πλοίο, ενώ στρατιωτικά αεροσκάφη είχαν ήδη απογειωθεί.
Μόνο λίγο πριν από την έναρξη της επιχείρησης, αξιωματούχοι εξέτασαν λεπτομερέστερα τα στοιχεία στα οποία βασιζόταν η αναφορά. Τότε διαπιστώθηκε ότι είχε συνταχθεί με τη βοήθεια AI και ότι το chatbot που χρησιμοποιήθηκε είχε αναγνωρίσει λανθασμένα το φορτίο του πλοίου. Το CNN αναφέρει ότι δεν κατάφερε να εξακριβώσει ποιο ήταν το πραγματικό φορτίο.
Μία από τις πηγές χαρακτήρισε την αναφορά «εντελώς ψευδή» και υποστήριξε ότι το περιστατικό «παραλίγο να ξεκινήσει έναν πόλεμο». Το CNN σημειώνει ότι οποιαδήποτε αμερικανική στρατιωτική επιχείρηση εναντίον κινεζικού πλοίου θα μπορούσε να οδηγήσει σε σοβαρή κλιμάκωση μεταξύ Ουάσινγκτον και Πεκίνου.
Πώς έγινε το λάθος
Σύμφωνα με το CNN, την αρχική επεξεργασία των πληροφοριών έκανε αναλυτής που υπηρετούσε σε διοίκηση ειδικών επιχειρήσεων. Ο αναλυτής εισήγαγε σε chatbot συνδυασμό πληροφοριών, μεταξύ άλλων από απόρρητες πηγές σημάτων και ανοικτές πηγές, καθώς και στοιχεία σχετικά με το δηλωμένο φορτίο του κινεζικού πλοίου.
Το σύστημα κατέληξε σε εσφαλμένη εκτίμηση για το υλικό που μετέφερε το πλοίο, συνδέοντάς το με πρόγραμμα πυρηνικών όπλων. Ο αναλυτής χρησιμοποίησε στη συνέχεια ξανά AI για τη σύνταξη τυπικής αναφοράς πληροφοριών, η οποία διακινήθηκε εντός του αμερικανικού στρατιωτικού μηχανισμού.
Δεν έχει διευκρινιστεί εάν το chatbot ήταν εμπορικό εργαλείο ή εσωτερικό σύστημα που έχει αναπτύξει η αμερικανική κυβέρνηση.
Η ταχεία επέκταση της AI στις αμερικανικές ένοπλες δυνάμεις
Το περιστατικό έρχεται την ώρα που το αμερικανικό υπουργείο Άμυνας επιταχύνει την ενσωμάτωση της Τεχνητής Νοημοσύνης στις στρατιωτικές και υπηρεσίες πληροφοριών.
Όπως αναφέρει το CNN, η AI χρησιμοποιείται ή εξετάζεται για ένα ευρύ φάσμα εφαρμογών, από την επεξεργασία μεγάλου όγκου πληροφοριών και την επιλογή στόχων έως τη διαχείριση προϋπολογισμών, εφοδιαστικών αλυσίδων και logistics.
Η υπόθεση του κινεζικού πλοίου αναδεικνύει, σύμφωνα με το CNN, έναν από τους βασικούς κινδύνους της χρήσης τέτοιων συστημάτων σε κρίσιμες στρατιωτικές αποφάσεις: μια λανθασμένη πληροφορία μπορεί να αποκτήσει την εμφάνιση αξιόπιστης ανάλυσης και να μεταφερθεί γρήγορα στην αλυσίδα λήψης αποφάσεων.
Παράλληλα, πηγές που μίλησαν στο αμερικανικό δίκτυο επισημαίνουν ότι δεν υπάρχει ενιαίο πλαίσιο χρήσης και ελέγχου των εργαλείων AI σε όλες τις υπηρεσίες. Η ανησυχία αφορά ιδιαίτερα τις λεγόμενες «παραισθήσεις» της Τεχνητής Νοημοσύνης, δηλαδή την παραγωγή πειστικών αλλά λανθασμένων πληροφοριών.
Μία από τις πηγές του CNN το αποτύπωσε χαρακτηριστικά: «Η AI σού επιτρέπει να φτάσεις σε μια κακή ιδέα πιο γρήγορα».
Το Πεντάγωνο και η Διοίκηση Ειδικών Επιχειρήσεων του Ειρηνικού δεν σχολίασαν το συγκεκριμένο περιστατικό στο CNN.
Προσθέστε το vradini.gr στις προτιμώμενες πηγές σας στη Google και δείτε περισσότερα άρθρα μας στις αναζητήσεις σας. Κάντε κλικ εδώ.
