Τεχνητή νοημοσύνη στον πόλεμο: πρόοδος ή νέο δίλημμα;
Η τεχνητή νοημοσύνη στον πόλεμο: το ζήτημα των πλήρως αυτόνομων όπλων
Η αυξανόμενη χρήση τεχνητής νοημοσύνης σε στρατιωτικά συστήματα προκαλεί διεθνή συζήτηση για το επίπεδο ανθρώπινου ελέγχου στη χρήση βίας, καθώς ειδικοί, οργανισμοί και κυβερνήσεις εξετάζουν τα πιθανά οφέλη αλλά και τους κινδύνους των πλήρως αυτόνομων όπλων.
Η ενσωμάτωση της τεχνητής νοημοσύνης σε στρατιωτικές τεχνολογίες αποτελεί μία από τις σημαντικότερες τεχνολογικές εξελίξεις της σύγχρονης άμυνας.
Πολλά κράτη επενδύουν σε συστήματα που μπορούν να λειτουργούν με αυξημένο βαθμό αυτονομίας, από μη επανδρωμένα οχήματα μέχρι αλγόριθμους ανάλυσης δεδομένων στο πεδίο της μάχης. Η τάση αυτή εντάσσεται σε έναν ευρύτερο διεθνή ανταγωνισμό για την ανάπτυξη στρατιωτικής τεχνητής νοημοσύνης.
Ωστόσο, η προοπτική πλήρως αυτόνομων οπλικών συστημάτων — δηλαδή συστημάτων που μπορούν να επιλέγουν και να πλήττουν στόχους χωρίς άμεση ανθρώπινη παρέμβαση — έχει προκαλέσει έντονες συζητήσεις σε πολιτικό, νομικό και ηθικό επίπεδο. Διεθνείς οργανώσεις επισημαίνουν ότι τέτοια συστήματα ενδέχεται να δυσκολεύονται να διακρίνουν αξιόπιστα μεταξύ στρατιωτικών στόχων και αμάχων σε περίπλοκα περιβάλλοντα συγκρούσεων.
Η συζήτηση επικεντρώνεται συχνά στο επίπεδο ανθρώπινου ελέγχου που πρέπει να διατηρείται. Ορισμένα μοντέλα προβλέπουν ότι ο άνθρωπος λαμβάνει την τελική απόφαση για τη χρήση βίας (“human-in-the-loop”), ενώ άλλα συστήματα επιτρέπουν μεγαλύτερη αυτονομία με δυνατότητα ανθρώπινης παρέμβασης (“human-on-the-loop”). Σε πιο ακραίες περιπτώσεις, ένα σύστημα θα μπορούσε να λειτουργεί χωρίς άμεση ανθρώπινη παρέμβαση (“human-out-of-the-loop”), κάτι που αποτελεί βασικό σημείο ανησυχίας για πολλούς αναλυτές.
Παράλληλα, ερευνητές επισημαίνουν ότι τα συστήματα τεχνητής νοημοσύνης μπορεί να εμφανίσουν απρόβλεπτη συμπεριφορά ή τεχνικά σφάλματα σε πραγματικές συνθήκες, δημιουργώντας κινδύνους για τη σταθερότητα των συγκρούσεων και για την ασφάλεια των αμάχων.
Στον διεθνή διάλογο συμμετέχουν κυβερνήσεις, οργανισμοί ανθρωπίνων δικαιωμάτων, τεχνολογικές εταιρείες και επιστήμονες. Ορισμένοι υποστηρίζουν ότι η τεχνολογία μπορεί να μειώσει τις απώλειες στρατιωτών και να βελτιώσει την ακρίβεια των επιχειρήσεων, ενώ άλλοι ζητούν διεθνείς κανόνες ή ακόμη και απαγόρευση των πλήρως αυτόνομων όπλων.
Η εξέλιξη αυτή αναδεικνύει ένα βασικό ερώτημα της σύγχρονης εποχής: πώς μπορεί η διεθνής κοινότητα να αξιοποιήσει τις τεχνολογικές δυνατότητες της τεχνητής νοημοσύνης, διατηρώντας παράλληλα σαφή ανθρώπινη ευθύνη και έλεγχο στη χρήση της στρατιωτικής ισχύος.
- Ο Κωνσταντίνος Χατζηγονιός ασχολείται κυρίως με γεωπολιτική, ανθρωπιστικές ανάγκες και κλιματική μετανάστευση σε σύγχρονα διεθνή και θεσμικά πλαίσια.