Σοβαρό επεισόδιο, το οποίο αποτράπηκε την τελευταία στιγμή, έφερε στο φως τους κινδύνους από τη χρήση εργαλείων τεχνητής νοημοσύνης σε κρίσιμα στρατιωτικά ζητήματα. Αμερικανικά αεροσκάφη βρίσκονταν ήδη στον αέρα την περασμένη άνοιξη, όταν διαπιστώθηκε ότι οι πληροφορίες που οδήγησαν σε ένοπλη επιχείρηση εναντίον κινεζικού πλοίου ήταν προϊόν ψευδαίσθησης απόchatbot.
Το περιστατικό συνέβη όταν αναλυτής χρησιμοποίησε τεχνητή νοημοσύνη για να επεξεργαστεί δεδομένα, με το σύστημα να κατασκευάζει λανθασμένα στοιχεία περί μεταφοράς υλικών για πυρηνικά όπλα. Η γρήγορη ενσωμάτωση προηγμένων τεχνολογιών από το Πεντάγωνο δημιουργεί προβληματισμό, καθώς η έλλειψη επαρκούς ανθρώπινου ελέγχου μπορεί να επιταχύνει επικίνδυνα λάθη στην αλυσίδα λήψης αποφάσεων.
Ειδικοί επισημαίνουν ότι το συμβάν δεν πρέπει να οδηγήσει σε απόρριψη των νέων τεχνολογιών, αλλά στην άμεση εφαρμογή αυστηρότερων δικλίδων ασφαλείας. Η ταχύτητα υιοθέτησης δεν πρέπει να υπερισχύει της αξιοπιστίας, ιδιαίτερα όταν διακυβεύονται ανθρώπινες ζωές και γεωπολιτική σταθερότητα.
- Ψευδαίσθηση AI οδήγησε σχεδόν σε στρατιωτικό επεισόδιο με την Κίνα
- Το σύστημα παρήγαγε ψευδή αναφορά για πλοίο με υλικά πυρηνικών
- Η επιχείρηση ματαιώθηκε την τελευταία στιγμή εν μέσω στρατιωτικών επιχειρήσεων
- Απαιτούνται αυστηρότερες δικλίδες ασφαλείας στη στρατιωτική χρήση AI
Πηγές:
