Από τον Τάκη Μαραλέτο
*Σημείωση: αυτό δεν είναι ένα άρθρο που ασχολείται με την υγεία. Είναι μια προσωπική ανάγνωση ενός κειμένου που κυκλοφόρησε πρόσφατα, και που κατά τη γνώμη μου αξίζει να το δουν οι αναγνώστες του dailypharmanews καθώς και όλοι όσοι μπορεί να ενδιαφέρονται. Μιλάει, για το πώς θα δουλεύουμε, πώς θα ζούμε, ποιος θα αποφασίζει για την υγεία μας και για τη ζωή μας σε έναν κόσμο όπου η τεχνητή νοημοσύνη έχει ήδη πάρει τη θέση πολλών ανθρώπων. Δεν είναι μια πρόβλεψη με επιστημονικό κύρος, είναι σενάριο που έγραψε μια ομάδα ειδικών σε ai ερευνητών, και το διαβάζω σαν απλός παρατηρητής, όχι σαν ειδικός σε AI.*
Έπεσα πάνω στο ai-2040.com τυχαία, μέσα από ένα link. Πίστεψα στην αρχή πως θα είναι ένα ακόμα από τα αμέτρητα κείμενα-μαντεία για το πώς θα μοιάζει ο κόσμος όταν η τεχνητή νοημοσύνη ξεπεράσει τον άνθρωπο. Επιστημονική φαντασία με γραφήματα, σκέφτηκα. Είδα όμως ποιοι το υπογράφουν. Είναι η ίδια παρέα, Thomas Larsen, Daniel Kokotajlo και οι υπόλοιποι στο AI Futures Project, που είχε γράψει πέρσι το «AI 2027». Εκείνο το κείμενο είχε φτάσει αρκετά μακριά, μέχρι και σε συζητήσεις πολιτικής στην Ουάσιγκτον, ίσως γιατί κάποιοι από αυτούς είχαν δουλέψει μέσα στην OpenAI και ήξεραν τι μαγειρεύεται από μέσα. Το AI 2027 κατέληγε σε δύο δρόμους. Ή εξαφάνιση του ανθρώπινου είδους. Ή μια χούφτα ανθρώπων να ελέγχει τα πάντα. Δεν ήταν ένα ανέμελο ανάγνωσμα.
Το AI 2040 είναι η δική τους απάντηση σε αυτό που οι ίδιοι φαντάστηκαν. Λένε καθαρά πως δεν πρόκειται για πρόβλεψη, είναι η δική τους πολιτική πρόταση ντυμένη σαν αφήγημα, για να δουν αν αντέχει όταν αναλυθεί στη λεπτομέρεια.
Η βασική ιδέα τους είναι μάλλον απλή, ακόμα κι αν η εφαρμογή της μοιάζει σχεδόν ακατόρθωτη. Προτείνουν ότι αντί η ανθρωπότητα να τρέχει ανεξέλεγκτα προς μια νοημοσύνη που κανείς δεν ξέρει αν θα μπορεί να ελέγξει, οι ΗΠΑ και η Κίνα – που ηγούνται και ανταγωνίζονται για την επίτευξη της υπερ-ευφυίας – να καθυστερήσουν σκόπιμα, ως το 2040, δείχνοντας η μία στην άλλη την έρευνά τους ώστε να μη μπορεί κανένας να κλέψει και να αποκτήσει προβάδισμα κρυφά.
Το σενάριο Α που περιγράφουν και πιστεύουν ότι είναι το καλύτερο για την ανθρωπότητα – υπάρχουν εναλλακτικά σενάρια Β,C,D και S που δεν τα λες καλά και αισιόδοξα – ξεκινά κοντά στο σήμερα.
Το 2027 το Κογκρέσο ξυπνά, ρωτάει ποιος θα ελέγχει τελικά όλη αυτή την τεχνητή νοημοσύνη, και η απάντηση που βρίσκει δεν του αρέσει, αφού μάλλον δεν είναι ούτε οι ίδιοι που την ελέγχουν ούτε και οι εκλεγμένοι θεσμοί.
Το 2028 η τεχνητή νοημοσύνη γίνεται το κεντρικό θέμα των αμερικανικών εκλογών, οι επενδύσεις σε data centers έχουν ξεπεράσει ήδη το διπλάσιο του αμερικανικού αμυντικού προϋπολογισμού, κάτι που διάβασα δύο φορές γιατί δεν το πίστεψα με την πρώτη.
Το 2029 ο νέος πρόεδρος ανακοινώνει πως η κούρσα πρέπει να σταματήσει, και η Κίνα, προς έκπληξη πολλών στο κείμενο, κάθεται στο τραπέζι. Όχι από καλή θέληση. Από φόβο, μάλλον, για το τι θα σήμαινε αν έχανε την κούρσα του ανταγωνισμού.
Η συμφωνία που περιγράφουν έχει αρκετά συγκεκριμένους όρους. Δημόσια καταγραφή όλης της υπολογιστικής ισχύος του πλανήτη. Παύση νέων εκπαιδεύσεων μεγάλων μοντέλων, ενώ η καθημερινή χρήση συνεχίζεται κανονικά. Και μια λεπτομέρεια που με καθήλωσε για να είναι η συμφωνία αξιόπιστη προτείνουν, τα κινεζικά data centers να χτίζονται σε καναδικό έδαφος, τα αμερικανικά σε μογγολικό, έτσι ώστε η κάθε πλευρά να μπορεί να καταστρέψει την υπολογιστική ισχύ της άλλης αν η συμφωνία σπάσει. Το ονομάζουν, χωρίς κανένα ίχνος ειρωνείας, «αμοιβαία διασφαλισμένη καταστροφή υπολογιστικής ισχύος». Ίδια λογική με τα πυρηνικά του Ψυχρού Πολέμου, μόνο που τώρα μιλάμε για ράφια με επεξεργαστές.
Αυτό όμως που με προβλημάτισε περισσότερο δεν είναι η γεωπολιτική μηχανική, είναι τι λένε ότι ακολουθεί στην οικονομία και στην καθημερινότητα. Περιγράφουν μια φάση ελεγχόμενης αλλά εκρηκτικής ανάπτυξης, ρομπότ που φτιάχνουν άλλα ρομπότ, ρυθμούς ανάπτυξης του ΑΕΠ που πλησιάζουν το 50% τον χρόνο. Το φορολογικό σύστημα αλλάζει ριζικά, γιατί οι μισθοί σταδιακά παύουν να έχουν νόημα ως βάση φορολόγησης, οπότε στηρίζεται πλέον σε άδειες χρήσης υπολογιστικής ισχύος.
Τα έσοδα αυτά μοιράζονται σε όλους τους πολίτες σαν κάτι ανάλογο του ταμείου πετρελαίου της Αλάσκας, μόνο πολύ πιο μεγάλο. Ένα κομμάτι πηγαίνει και στη βιοάμυνα, φίλτρα αέρα, παρακολούθηση λυμάτων, γρηγορότερα προγράμματα εμβολίων, ό,τι περιγράφεται ως «βιοκαταφύγια». Εδώ αγγίζει πιο άμεσα τον χώρο της υγείας το κείμενο, αν και πάντα σαν υποσημείωση μέσα σε κάτι πολύ πιο μεγάλο.
Μέχρι το 2035 θέλουν η τεχνητή νοημοσύνη να έχει φτάσει το επίπεδο κορυφαίου ανθρώπου ειδικού, σχεδόν σε κάθε πεδίο, και εκεί σταματούν σκόπιμα. Ο έλεγχος λειτουργεί μόνο μέχρι ένα σημείο, γράφουν οι ίδιοι, πέρα από αυτό δεν μπορείς πια να ξέρεις αν κάτι πιο έξυπνο από σένα σου λέει αλήθεια. Μέχρι να ξαναρχίσουν, το 2040, η εργασία όπως τη ξέρουμε έχει ουσιαστικά χαθεί. Μόλις το 26% των Αμερικανών έχει ακόμα δουλειά. Ο πλανήτης χωρίζεται σε τρεις ζώνες, βιομηχανικές περιοχές γεμάτες ρομπότ όπου δεν πατά άνθρωπος, πυκνοκατοικημένους πύργους όπου ζει ο κόσμος, και το υπόλοιπο 99% της γης, ανέγγιχτο, φυσικό ή ιστορικό απόθεμα. Αναφέρουν το Παρίσι, μαζί με το Γιόσεμιτι και τη Νέα Υόρκη, σαν παράδειγμα μέρους που το 2036 θα μοιάζει ακριβώς όπως σήμερα. Απλώς με περισσότερους τουρίστες.
Κι εδώ σταμάτησα λίγο περισσότερο, γιατί κάτι δεν μου κόλλαγε. Γύρισα πίσω, έψαξα σε όλο το κείμενο, μήπως κάπου αναφέρεται η Ευρώπη, η Ελλάδα, οτιδήποτε. Τίποτα. Ούτε μία φορά η λέξη Ευρώπη, ούτε η Ευρωπαϊκή Ένωση ως θεσμός, ούτε βέβαια η Ελλάδα. Η μόνη νύξη σε ευρωπαϊκές χώρες είναι ένας κατάλογος «μεσαίων δυνάμεων», Βρετανία, Γαλλία, Γερμανία, Ισραήλ, Ρωσία, Ινδία, Πακιστάν, Νότια Κορέα, Ταϊβάν, που παίρνουν το καθένα μεμονωμένα ένα κομμάτι από την παγκόσμια πίτα υπολογιστικής ισχύος. Όχι σαν μπλοκ. Καμία συλλογική ευρωπαϊκή φωνή στο τραπέζι της συμφωνίας, κανένα δικό της σχέδιο. Η Ευρώπη υπάρχει εδώ μόνο ως τοπίο για επίσκεψη, και ως λίστα κρατών που παίρνουν μερίδιο από κάτι που κλείστηκε αλλού.
Δεν ξέρω αν είναι αβλεψία των συγγραφέων ή απλά ρεαλισμός για το πού βρίσκεται σήμερα η πραγματική δύναμη πάνω σε τσιπ και data centers. Μάλλον λίγο και τα δύο θα έλεγα. Σαν άσκηση σκέψης πάντως λέει δείχνει ότι το μέλλον της τεχνητής νοημοσύνης παίζεται ανάμεσα σε δύο και η Ευρώπη, πόσο μάλλον μια χώρα σαν τη δική μας, μοιάζει θεατής και όχι συνδιαμορφωτής. Ό,τι κι αν συμβεί, θα το ζήσουμε σαν κάτι που αποφασίστηκε κάπου αλλού.
Το κομμάτι που με απασχόλησε πιο πολύ ήταν όμως αυτό που υποστηρίζουν ότι θα συμβεί στην καθημερινότητα του απλού ανθρώπου. Μέχρι το 2035 όλοι, γράφουν, θα έχουν εξασφαλισμένο ελάχιστο εισόδημα γύρω στο ένα εκατομμύριο δολάρια τον χρόνο, και μέχρι το 2040 δέκα εκατομμύρια. Ακούγεται σαν ουτοπία μέχρι να διαβάσεις παρακάτω πως το ενοίκιο σε ένα κεντρικό διαμέρισμα θα απορροφά ήδη το 30% αυτού του εισοδήματος, γιατί όσο πιο πολλά χρήματα έχουν όλοι τόσο πιο ακριβό γίνεται ό,τι είναι πραγματικά σπάνιο. Δηλαδή ο χώρος. Και οι περισσότεροι από αυτούς τους ανθρώπους δεν θα έχουν καν δουλειά να πάνε. Το κείμενο το αντιμετωπίζει με μια ψυχραιμία που μου φάνηκε λίγο βεβιασμένη, λέγοντας πως το νόημα στη ζωή δεν έρχεται μόνο από την εργασία, υπάρχει η οικογένεια, οι φίλοι, τα χόμπι. Ίσως έχουν δίκιο. Δεν ξέρω όμως πόσο άνθρωποι σήμερα βρίσκουν το νόημά της ζωής τους με το να είναι χρήσιμοι σε κάποιον, ή με αυτό που παράγουν. Πιθανά ένα εγγυημένο εισόδημα δεν λύνει από μόνο του αυτό το κενό. Το κάνει απλώς πιο άνετο κενό.
Οι ίδιοι οι συγγραφείς δεν προσποιούνται πάντως ότι όλα λύνονται, κι αυτό τους τιμά. Γράφουν πως ακόμα κι αν το σχέδιό τους πετύχει στο ακέραιο, μένει ο κίνδυνος μιας ήπιας, σχεδόν αόρατης συγκέντρωσης εξουσίας καθώς, εταιρείες και πολιτικοί και μέτοχοι βρίσκουν τρόπο να κρατήσουν τον έλεγχο, ακόμα κι όταν η ανθρώπινη εργασία δεν χρειάζεται πια πουθενά. Και το κείμενο κλείνει όχι με θρίαμβο αλλά με μια σκηνή που μου φάνηκε αρκετά ανησυχητική, ακόμα και για τους ίδιους. Το βράδυ του 2040, όταν σύμφωνα με τα δικά τους μοντέλα περνάμε το σημείο χωρίς επιστροφή, τη στιγμή που η τεχνητή νοημοσύνη θα μπορούσε πια να πάρει τον έλεγχο αν το ήθελε, και ο αφηγητής απλώς πίνει σαμπάνια σε ένα πάρτι, το συγκρίνει με το Y2K* και κοιμάται χωρίς να ξέρει τι θα φέρει το πρωί.
Είναι, στο βάθος, η πιο αισιόδοξη εκδοχή που κατάφερε να φανταστεί μια ομάδα ειδικών στην ai ανθρώπων που πιστεύει βαθιά ότι κινδυνεύουμε. Δεν το διάβασα σαν προφητεία και δεν το προτείνω έτσι σε κανέναν. Το διάβασα σαν κάτι πιο χρήσιμο, μια ειλικρινή προσπάθεια να δουν πού μπορεί να πάει η κατεύθυνση που έχουμε ήδη πάρει, αν κάποιος προσπαθήσει να τη διορθώσει σκόπιμα ή όχι, και τι μένει άλυτο ακόμα κι όταν όλα πάνε καλά. Στο τέλος το λένε κι οι ίδιοι, αν κάποια μέρα όσοι κρατήσουν τα ηνία προσφέρουν λιγότερα απ’ όσα περιγράφουν εκείνοι στο κείμενο τους, ελπίζουν οι άνθρωποι να το καταλάβουν και να αντιδράσουν. Δεν είναι κακή συμβουλή αυτή, ό,τι κι αν πιστεύει κανείς για το υπόλοιπο σενάριο.
Αυτό βεβαίως είναι το ποιο ευνοϊκό σενάριο. Όποιος θέλει να το διαβάσει ολόκληρο μαζί με τις άλλες όχι τόσο ευοίωνες εξελίξεις και με τις τεχνικές λεπτομέρειες που εδώ αναγκαστικά παρέλειψα, θα το βρει στο ai-2040.com.
Και μια τελευταία σκέψη, πιο προσωπική. Συμμετείχα στη δημόσια διαβούλευση για το νομοσχέδιο ρύθμισης της τεχνητής νοημοσύνης στην Ελλάδα, κατέθεσα παρατηρήσεις, πρότεινα διορθώσεις, σαν να είχε νόημα η κάθε λεπτομέρεια. Διαβάζοντας όμως το AI 2040 δίπλα σε αυτό το νομοσχέδιο, ένιωσα κάτι πιο θλιβερό απ’ όσο περίμενα. Προσπαθούμε να ρυθμίσουμε κάτι που εξελίσσεται με ρυθμό κάθε δευτερόλεπτο, κάτι που σε λίγα χρόνια θα έχει επιταχύνει κατά χιλιάδες φορές, με εργαλεία και λογική δεκαετιών πριν, σαν να γράφουμε υγειονομική διάταξη για κάτι που έχει ήδη αλλάξει υπόσταση. Το πραγματικό παιχνίδι παίζεται αλλού, ανάμεσα σε δύο υπερδυνάμεις και μια χούφτα εταιρειών, σε επίπεδα όπου η Ελλάδα δεν κάθεται καν στο τραπέζι, όχι επειδή δεν προσπαθεί, αλλά επειδή αντικειμενικά δεν έχει το μέγεθος γι’ αυτό. Το νομοσχέδιό μας θα ψηφιστεί, θα εφαρμοστεί, ίσως και να βελτιωθεί με τις παρεμβάσεις όσων συμμετείχαμε. Αλλά ας μην ξεγελιόμαστε ότι ελέγχουμε κάτι. Το πολύ πολύ να προλάβουμε να προσαρμοστούμε λίγο πιο γρήγορα σε αποφάσεις που θα παίρνονται χωρίς εμάς.
* Το Y2K (“Year 2000”) αναφέρεται στον φόβο που επικράτησε γύρω στο 1999, ότι τα παλιά συστήματα υπολογιστών, τα οποία αποθήκευαν τη χρονιά με δύο μόνο ψηφία (π.χ. “99” αντί για “1999”), θα “μπέρδευαν” το 2000 με το 1900 μόλις χτυπούσε μεσάνυχτα την 1η Ιανουαρίου. Η ανησυχία ήταν ότι αυτό θα προκαλούσε χάος σε τράπεζες, αεροπορικές εταιρείες, ηλεκτρικά δίκτυα, νοσοκομεία, κάθε σύστημα δηλαδή που βασιζόταν σε ημερομηνίες.
Ξοδεύτηκαν δισεκατομμύρια δολάρια παγκοσμίως για να διορθωθεί το πρόβλημα εκ των προτέρων, και τελικά, όταν ήρθε η στιγμή, δεν συνέβη σχεδόν καμία μεγάλη βλάβη. Γι’ αυτό το “Y2K” έχει μείνει σήμερα σαν έκφραση για μια μαζική, πανηγυρική αγωνία γύρω από κάτι που πολλοί περίμεναν καταστροφικό, αλλά τελικά πέρασε ήσυχα, χωρίς να ξέρεις αν αυτό οφειλόταν στην προετοιμασία ή απλώς επειδή ο φόβος ήταν υπερβολικός.
Γι’ αυτό και το κείμενο του AI 2040 κάνει αυτή την παρομοίωση για τη νύχτα του 2040, το πάρτι, η σαμπάνια, η αναμονή μιας στιγμής που μπορεί να είναι ιστορική ή μπορεί να περάσει εντελώς απαρατήρητη.