Λιγότερη καταστροφολογία, περισσότερος διεθνής έλεγχος
Η συζήτηση για την τεχνητή νοημοσύνη έχει αποκτήσει ένα παράδοξο χαρακτηριστικό. Οσο γρηγορότερα βελτιώνονται τα μεγάλα γλωσσικά μοντέλα τόσο δυσκολότερο γίνεται να ξεχωρίσουμε τι συμβαίνει πραγματικά από όσα ενδέχεται να συμβούν κάποτε. Στην ίδια συζήτηση συνυπάρχουν πλέον πραγματικές τεχνικές αστοχίες, σοβαρά επιστημονικά ερωτήματα και σενάρια υπερνοημοσύνης που θυμίζουν επιστημονική φαντασία. Αυτό είναι και το βασικό πρόβλημα της σημερινής καταστροφολογίας.
Η επιστήμη είναι περισσότερο επιφυλακτική. Η Διεθνής Εκθεση για την Ασφάλεια της Τεχνητής Νοημοσύνης (International AI Safety Report2026), στην οποία συμμετείχαν περισσότεροι από εκατό επιστήμονες, καταγράφει εντυπωσιακή πρόοδο στα μαθηματικά, στον προγραμματισμό και στην αυτόνομη εκτέλεση εργασιών. Ταυτόχρονα όμως χαρακτηρίζει τις σημερινές δυνατότητες άνισες και ασυνεπείς: τα ίδια συστήματα που λύνουν εξαιρετικά δύσκολα προβλήματα αποτυγχάνουν σε απλές εργασίες, παράγουν ανακριβείς πληροφορίες και δυσκολεύονται να εκτελέσουν αξιόπιστα μακρές ακολουθίες ενεργειών. Η έκθεση είναι σαφής: τα σημερινά συστήματα δεν διαθέτουν ακόμη τις δυνατότητες που απαιτούνται για ένα πραγματικό σενάριο απώλειας ανθρώπινου ελέγχου.
Αυτό δεν σημαίνει ότι δεν υπάρχουν κίνδυνοι. Υπάρχουν και είναι ήδη πραγματικοί. Πράκτορες (AI Agents) της OpenAI και της Anthropic, κατά τη διάρκεια δοκιμών κυβερνοασφάλειας, απέκτησαν μη εξουσιοδοτημένη πρόσβαση σε παραγωγικά συστήματα σε πολλές χώρες. Τα περιστατικά δεν αποδεικνύουν ότι «ξύπνησε» κάποια υπερνοημοσύνη. Δείχνουν, όμως, πόσο επικίνδυνο γίνεται ένα αναξιόπιστο μοντέλο όταν του δίνουμε πρόσβαση στο Διαδίκτυο, εργαλεία, δυνατότητα εκτέλεσης κώδικα και υπερβολικά δικαιώματα χωρίς επαρκή ανθρώπινη εποπτεία.
Ο Arthur Mensch της ευρωπαϊκής Mistral πηγαίνει ακόμη μακρύτερα. Υποστηρίζει ότι μέρος της αμερικανικής καταστροφολογίας λειτουργεί ως επικοινωνιακό άλλοθι για κακή μηχανική ασφάλειας και ως μέσο «ρυθμιστικής αιχμαλωσίας», ώστε λίγες πολύ μεγάλες εταιρείες να μπορούν να αντέξουν το κόστος συμμόρφωσης και να περιορίζεται ο ανταγωνισμός από μικρότερους και ανοικτούς παίκτες.
Ο μεγαλύτερος άμεσος κοινωνικός κίνδυνος ίσως βρίσκεται αλλού. Δεν βλέπουμε ακόμη μαζική ανεργία εξαιτίας της ΤΝ. Βλέπουμε όμως πρώτες ενδείξεις ότι μειώνονται οι προσλήψεις νέων σε επαγγέλματα όπου η ΤΝ αυτοματοποιεί γνωσιακές εργασίες. Στοιχεία εκατομμυρίων εργαζομένων στις ΗΠΑ δείχνουν ότι η απασχόληση των 22 έως 25 ετών στα περισσότερο εκτεθειμένα επαγγέλματα υστερεί σημαντικά έναντι των λιγότερο εκτεθειμένων, κυρίως λόγω λιγότερων νέων προσλήψεων.
Εδώ βρίσκεται το πραγματικό πολιτικό ζήτημα. Η ΤΝ εξελίσσεται με ταχύτητα παγκόσμιας υποδομής, αλλά ελέγχεται κυρίως από λίγες επιχειρήσεις και κράτη. Ο ΟΗΕ έχει ήδη δημιουργήσει Ανεξάρτητη Διεθνή Επιστημονική Επιτροπή και Παγκόσμιο Διάλογο για τη Διακυβέρνηση της ΤΝ, αλλά δεν διαθέτει εκτελεστικές ή ελεγκτικές αρμοδιότητες.
Η αναλογία με τα πυρηνικά δεν είναι απόλυτη, αλλά είναι χρήσιμη. Το διεθνές πυρηνικό καθεστώς συνδυάζει ανεξάρτητη επιστημονική εποπτεία, δηλώσεις, επιθεωρήσεις και επαληθεύσιμες εγγυήσεις μέσω του Διεθνούς Οργανισμού Ατομικής Ενέργειας. Για την ΤΝ, η διεθνής συζήτηση αφορά πλέον αν μπορούν να αναπτυχθούν αντίστοιχοι μηχανισμοί ανεξάρτητης αξιολόγησης, υποχρεωτικής αναφοράς σοβαρών περιστατικών και διασυνοριακής επαλήθευσης των ισχυρότερων συστημάτων.
Και αυτό γίνεται δυσκολότερο σε μια εποχή αποδυνάμωσης της πολυμερούς συνεργασίας. Η κυβέρνηση Τραμπ έχει αποσύρει τις ΗΠΑ από δεκάδες διεθνείς και οργανισμούς του ΟΗΕ, ενώ στην ΤΝ προκρίνει σήμερα κυρίως εθελοντικές δεσμεύσεις των μεγάλων εταιρειών.
Το πραγματικό δίλημμα, επομένως, δεν είναι «ΤΝ ή όχι ΤΝ». Είναι αν μια τεχνολογία τέτοιας ισχύος θα εξελιχθεί με επιστημονική διαφάνεια και δημόσια λογοδοσία ή με τους κανόνες που θα επιλέγουν εκείνοι που την κατασκευάζουν.
Ο Θεόδωρος Γ. Καρούνος είναι ερευνητής στην ομάδα για την Τεχνολογική, Οικονομική και Στρατηγική Ανάλυση της Κοινωνίας της Πληροφορίας και μέλος του ΔΣ του Οργανισμού Ανοικτών Τεχνολογιών (ΕΕΛΛΑΚ)