Η Τεχνητή Νοημοσύνη ως μηχανή πολέμου

Πριν από λίγο καιρό συμμετείχα σε ένα πάνελ για την Τεχνητή Νοημοσύνη, που μαζί μου ήταν νέα παιδιά, ερευνητές και μάλιστα ήμουν πολύ χαρούμενη γι’ αυτό. Ένας από αυτούς μίλησε για τη χρήση της Τεχνητής Νοημοσύνης στον πόλεμο. Τα πράγματα που μας είπε ήταν φρικιαστικά, δεν τα ξέχασα, αλλά τα άφησα στην άκρη του μυαλού μου για να δω πώς θα μπορούσαν να αξιοποιηθούν αργότερα. Κι όπως φαίνεται, δεν άργησαν να βρουν τον δρόμο τους.
Στη συνέχεια ήρθε η υπόθεση Spotify, όταν αρκετός κόσμος άρχισε να το εγκαταλείπει λόγω της επένδυσής του στη βιομηχανία όπλων. Ο Ντάνιελ Εκ, ο άνθρωπος που βρίσκεται πίσω από τη μεγαλύτερη πλατφόρμα μουσικής στον κόσμο, αποφάσισε ότι ο επόμενος μεγάλος του στόχος δεν είναι ούτε η ποιότητα του ήχου ούτε η ανακάλυψη νέων καλλιτεχνών αλλά η χρηματοδότηση μιας εταιρείας στρατιωτικής τεχνολογίας. Με επικεφαλής το επενδυτικό του σχήμα, Prima Materia, έριξε εξακόσια εκατομμύρια ευρώ στη Helsing, μια εταιρεία που κατασκευάζει λογισμικό για την ανάλυση πραγματικού πολέμου και την υποστήριξη στρατιωτικών δυνάμεων. Ο ίδιος μίλησε για την επιτάχυνση της ιστορίας, για το ότι οι συγκρούσεις του μέλλοντος θα καθορίζονται από την Τεχνητή Νοημοσύνη, την αυτονομία και την κλίμακα, σαν να μην υπήρχε κανένα ηθικό βάρος στον αντίκτυπο που θα είχε στα εκατομμύρια χρήστες της πλατφόρμας του. Η Helsing έχει ήδη συμβόλαια με κυβερνήσεις της Ευρώπης και οι αντιδράσεις μουσικών και χρηστών δεν εμπόδισαν ούτε τον ίδιο ούτε την αγορά να «ενθουσιαστούν».
Και τώρα είναι η σειρά της Google. Το Πεντάγωνο ανακοίνωσε την Τετάρτη το GenAI.mil, ένα νέο πλαίσιο παραγωγικής Τεχνητής Νοημοσύνης, στου οποίου τον κορμό δεν βρίσκεται κάποιο πειραματικό σύστημα ασφαλείας ή ένα συμβουλευτικό λογισμικό αλλά το Google Gemini. Η εταιρεία που κάποτε επαναλάμβανε σε κάθε δημόσια ομιλία τη δέσμευσή της να μην εμπλέκεται σε στρατιωτικές εφαρμογές, πλέον καμαρώνει για τη συνεργασία της με το αμερικανικό Υπουργείο Άμυνας. Ο υπουργός Πιτ Χέγκσεθ, που μάλιστα αποκαλεί τον εαυτό του υπουργό Πολέμου, δήλωσε ότι τα νέα εργαλεία θα κάνουν τις αμερικανικές δυνάμεις πιο φονικές και ότι η επόμενη ημέρα του πολέμου γράφεται ήδη με τη βοήθεια της AI. Οι εργαζόμενοι στο Πεντάγωνο άνοιξαν τους υπολογιστές τους και βρήκαν ένα αναδυόμενο παράθυρο που τους καλούσε να χρησιμοποιήσουν το νέο σύστημα. Αρχικά το πέρασαν για άσκηση κυβερνοασφάλειας. Τελικά ήταν η νέα πραγματικότητα.
Η Google, στην επίσημη ανακοίνωσή της, προσπάθησε να χαμηλώσει τους τόνους. Μίλησε για συνοπτικές παρουσιάσεις, για λίστα συμμόρφωσης και για τεχνικές διαχείρισης. Δηλαδή για όλα αυτά που κάνουν την Τεχνητή Νοημοσύνη να μοιάζει με αθώο γραφειοκρατικό βοηθό, λες και δεν συνδέεται άμεσα με την ταχύτητα λήψης στρατιωτικών αποφάσεων, με την επιτήρηση, με την ανάλυση δορυφορικών εικόνων, με την παραγωγή εγγράφων που καθορίζουν επιχειρησιακά σχέδια. Ουσιαστικά, το GenAI.mil σημαίνει ότι τρία εκατομμύρια άνθρωποι που εργάζονται στον αμερικανικό μηχανισμό άμυνας θα έχουν ένα εργαλείο που επιταχύνει τις διαδικασίες τους και ενισχύει την αποτελεσματικότητα των εντολών. Στον πυρήνα του βρίσκεται η ιδέα ότι η Τεχνητή Νοημοσύνη δεν είναι απλά ένα εργαλείο παραγωγικότητας. Είναι ένας πολλαπλασιαστής ισχύος.
Η στρατιωτικοποίηση της Τεχνητής Νοημοσύνης δεν ξεκινά σήμερα. Το Project Maven της ίδιας εταιρείας το 2018 είχε προκαλέσει μαζικές αντιδράσεις στους εργαζομένους της Google που δεν ήθελαν να συνδέσουν την τεχνολογία τους με την αναγνώριση στόχων για drones. Σήμερα οι αντιστάσεις αυτές μοιάζουν να έχουν εξαφανιστεί. Οι μεγάλες εταιρείες κλείνουν συμβόλαια με τον αμερικανικό στρατό, οι μικρότερες προσπαθούν να μπουν στο παιχνίδι, και ακόμη και φωνές από τον χώρο της τεχνολογίας δηλώνουν δημόσια ότι η Τεχνητή Νοημοσύνη πρέπει να αποφασίζει ποιος ζει και ποιος πεθαίνει στο πεδίο της μάχης. Αν κάτι μπορεί να κερδίσει έναν πόλεμο, τότε πρέπει να χρησιμοποιείται.
Κι εδώ επιστρέφουμε στην αρχή. Στο πάνελ εκείνο, στον νέο ερευνητή που μίλησε για όλα αυτά με απίστευτη ψυχραιμία, σαν να περιέγραφε έναν καινούργιο αλγόριθμο ταξινόμησης. Δεν ήταν ψυχρότητα. Ήταν προειδοποίηση. Η Τεχνητή Νοημοσύνη δεν είναι πια μόνο εργαλείο καλλιτεχνών, ούτε πειραματικό παιχνίδι καθημερινότητας. Είναι ήδη μηχανή πολέμου. Οι εταιρείες τεχνολογίας, που κάποτε μιλούσαν για ένα καλύτερο διαδίκτυο και για την ενίσχυση της δημοκρατίας, χτίζουν αθόρυβα το πιο εκλεπτυσμένο οπλοστάσιο που είδαμε ποτέ.