Η τεχνολογία, ιδίως οι δύο αιχμές της, η τεχνητή νοημοσύνη και η βιοτεχνολογία, μπορούν να διαβρώσουν τα θεμέλια της δημοκρατίας και να υποσκάψουν την ελευθερία και την ισότητα, ευνοώντας τη συγκέντρωση δύναμης στα χέρια μιας μικρής ελίτ, η οποία θα μπορούσε να εξελιχθεί σε μια σύγχρονη τυραννία, μια ψηφιακή δικτατορία.

Αυτό προειδοποιεί ο διάσημος ισραηλινός ιστορικός Γουβάλ Νώε Χαράρι, συγγραφέας των μπεστ-σέλερ (και στη χώρα μας) «Sapiens» και «Homo Deus», στο νέο βιβλίο του «21 μαθήματα για τον 21ο αιώνα», το οποίο μόλις κυκλοφόρησε.

Ο Χαράρι θυμίζει ότι δεν υπάρχει τίποτε αναπόφευκτο και μη αναστρέψιμο στις σημερινές δημοκρατίες, οι οποίες, παρά τις επιτυχίες τους, αποτελούν ένα «ανοιγοκλείσιμο» του ματιού στον μακρύ ιστορικό χρόνο. Οι μοναρχίες, οι ολιγαρχίες και άλλες μορφές αυταρχικής διακυβέρνησης έχουν υπάρξει για πολύ περισσότερο καιρό -και συνεχίζουν να υπάρχουν σήμερα σε ουκ ολίγες χώρες.

Τα ιδανικά της ελευθερίας και της ισότητας είναι πολύ πιο ευάλωτα από ό,τι νομίζουμε, συνεπώς υπάρχει κίνδυνος να αποδειχθούν εφήμερα, κυρίως λόγω των νέων τεχνολογιών. Ήδη, όπως λέει, στη δεύτερη δεκαετία του 21ου αιώνα η φιλελεύθερη δημοκρατία φαίνεται να χάνει σταδιακά την αξιοπιστία της, καθώς «στριμώχνεται» το μεγάλο στήριγμά της, η μεσαία τάξη, ενώ παράλληλα σε αρκετές χώρες ο πολιτικός λόγος γίνεται ολοένα πιο διχαστικός, δημαγωγικός και αυταρχικός.

Εν μέρει αυτό οφείλεται στο ότι αλλάζει πλέον η τεχνολογία που έως τώρα στήριζε τη δημοκρατία. Οι νέες τεχνολογίες, όπως η τεχνητή νοημοσύνη και η βιοτεχνολογία, ευνοούν πια αντιδημοκρατικές επιλογές. Οι δύο αυτές τεχνολογίες από κοινού θα προκαλέσουν άνευ προηγουμένου αναστατώσεις στην ανθρώπινη κοινωνία, σε σημείο που η δημοκρατία και η ελεύθερη αγορά μπορεί να χάσουν το νόημά τους.

Σύμφωνα με τον Χαράρι και όπως μεταδίδει το Αθηναϊκό Πρακτορείο Ειδήσεων, ο μέσος άνθρωπος αισθάνεται ολοένα λιγότερο -αντίθετα με το παρελθόν- ότι αποτελεί «τον ήρωα του μέλλοντος». Εν έτει 2018, κατακλύζεται πια από όρους (μηχανική μάθηση, γενετική μηχανική, blockchain κ.α.), που αισθάνεται ότι κατά βάση δεν τον αφορούν.

Στον 20ό αιώνα οι μάζες εξεγέρθηκαν ενάντια στην εκμετάλλευση, ενώ σήμερα αισθάνονται μάλλον άσχετες με ό,τι συμβαίνει γύρω τους. Οι λαϊκίστικες εξεγέρσεις του 21ου αιώνα ίσως γίνουν ενάντια όχι σε μια οικονομική ελίτ που εκμεταλλεύεται τους ανθρώπους, αλλά σε μια ελίτ που δεν τους χρειάζεται πια (π.χ. χάρη στα ρομπότ).

Οι τεχνολογικές επαναστάσεις της πληροφορικής και της βιοτεχνολογίας που συνεχώς κερδίζουν έδαφος, χωρίς καν οι πολίτες να το συνειδητοποιούν, σε λίγες δεκαετίες θα φέρουν αντιμέτωπη την ανθρωπότητα με τις δυσκολότερες δοκιμασίες που έχει ποτέ αντιμετωπίσει, όπως εκτιμά ο ισραηλινός ιστορικός.

Υποσχόμενη παλαιότερα ένα μεγαλύτερο κομμάτι της πίτας στους πάντες, η φιλελεύθερη δημοκρατία συμφιλίωσε το προλεταριάτο με την αστική τάξη, τους πιστούς με τους άθεους, τους γηγενείς με τους μετανάστες, τους Ευρωπαίους με τους Ασιάτες. Όμως, αυτή τη φορά τα μηχανήματα με τεχνητή νοημοσύνη απειλούν για τα καλά τις θέσεις εργασίας των ανθρώπων και η συμφιλίωση κάποια στιγμή μπορεί να καταστεί ανέφικτη πια.

Για λίγες ακόμη δεκαετίες οι άνθρωποι θα έχουν το πάνω χέρι, αλλά είναι θέμα χρόνου οι έξυπνες μηχανές να κάνουν σχεδόν τα πάντα καλύτερα από εμάς. Ήδη από τώρα, που οι άνθρωποι συνεργάζονται με τους υπολογιστές, είναι ολοένα πιο δύσκολο να βρουν δουλειά οι ανειδίκευτοι, ενώ η απασχόληση γίνεται δυνατή σε ολοένα χαμηλότερους μισθούς.

Οι μηχανές με νοημοσύνη έχουν κιόλας δύο πλεονεκτήματα έναντι των ανθρώπων: συνδεσιμότητα και δυνατότητα εύκολης αναβάθμισης των δυνατοτήτων τους. Αν π.χ. βρεθεί μια νέα ασθένεια ή ένα νέο φάρμακο, δεν είναι δυνατό να ενημερωθούν άμεσα οι άνθρωποι γιατροί όλου του κόσμου. Αλλά οι απανταχού έξυπνες μηχανές-γιατροί μπορούν να ενημερωθούν σε κλάσματα του δευτερολέπτου και, επιπλέον, να επικοινωνούν μεταξύ τους διαδικτυακά για να αξιολογούν ένα νέο ιατρικό περιστατικό.

Μια νέα «άχρηστη» τάξη

Όσο κι αν οι άνθρωποι πασχίζουν να εκπαιδεύονται δια βίου για να μη μείνουν πίσω και όσο κι αν «εφευρίσκουν» ξανά τον εαυτό τους, δύσκολα θα ανταγωνισθούν τις έξυπνες μηχανές στο μέλλον. Έως το 2050 μια νέα «άχρηστη τάξη», ένα νέου τύπου προλεταριάτο, μπορεί να έχει αναδυθεί, αν μη τι άλλο επειδή πολλοί άνθρωποι θα έχουν εγκαταλείψει κάθε νοητική προσπάθεια να μαθαίνουν νέες δεξιότητες για να βρίσκουν δουλειά.

Το δεύτερο μεγάλο πρόβλημα είναι ότι οι ίδιες τεχνολογίες που μπορούν να καταστήσουν οικονομικά περιττούς δισεκατομμύρια ανθρώπους, κάνουν πιο εύκολη την παρακολούθηση και τον έλεγχο των ανθρώπων, ανοίγοντας έτσι το δρόμο για τις ψηφιακές διδακτορίες. Με άλλα λόγια, κατά τον Χαράρι, καθώς πολλοί άνθρωποι χάνουν την οικονομική αξία τους, θα χάνουν παράλληλα και την πολιτική δύναμή τους.

Η τεχνητή νοημοσύνη είναι ένα εργαλείο και ένα όπλο αλλιώτικο και πιο ισχυρό από κάθε άλλο έως τώρα. Σχεδόν σίγουρα θα επιτρέψει στους ήδη ισχυρούς να γίνουν πολύ πιο ισχυροί. Ο πραγματικός κίνδυνος δεν είναι να εξεγερθεί η τεχνητή νοημοσύνη ενάντια στους ανθρώπους, αλλά να υπακούει πάντα τους ανθρώπους αφέντες της, κάνοντάς τους πολύ πιο δυνατούς.

Ήδη, όπως λέει ο Χαράρι, στον κόσμο της υψηλής τεχνολογίας δεν υπάρχει -παρά τα φαινόμενα- τίποτε ιδιαίτερα δημοκρατικό. Η παρακολούθηση συμβαδίζει με την ελευθερία, η χειραγώγηση και ο καμουφλαρισμένος έλεγχος με τις νέες μορφές συμμετοχικότητας.

Αν και ισραηλινός, ο Χαράρι επισημαίνει ότι το Ισραήλ αποτελεί χώρα ηγέτη στο πεδίο της ψηφιακής παρακολούθησης και έχει δημιουργήσει στην κατεχόμενη Δυτική Όχθη το πρωτότυπο ενός καθεστώτος καθολικής παρακολούθησης. Οποτεδήποτε οι Παλαιστίνιοι κάνουν ένα τηλεφώνημα ή μια ανάρτηση στο Facebook, κάποιο ισραηλινό μικρόφωνο, κάμερα, drone ή κατασκοπευτικό λογισμικό τούς παρακολουθεί και μετά ένας αλγόριθμος αναλύει τα στοιχεία, βοηθώντας τις ισραηλινές αρχές να εντοπίζουν έγκαιρα -και να «εξουδετερώνουν» (βλ. σκοτώνουν)- όποιον θεωρούν μεγαλύτερη απειλή.

Ουκ ολίγες χώρες στον κόσμο, μεταξύ των οποίων αρκετές δημοκρατίες, βαδίζουν στον ίδιο δρόμο της εκτεταμένης ψηφιακής-ηλεκτρονικής παρακολούθησης των πάντων. Όπως λέει ο Χαράρι, αυτό που σήμερα βιώνουν οι Παλαιστίνιοι, μπορεί να συνιστά απλώς μια πρόγευση αυτού που τελικά θα βιώσουν δισεκατομμύρια άνθρωποι σε όλο τον πλανήτη.

Η σύγκρουση ανάμεσα στη δημοκρατία και στη δικτατορία στην πραγματικότητα δεν είναι μια σύγκρουση ανάμεσα σε δύο διαφορετικά ηθικά συστήματα αλλά δύο διαφορετικά συστήματα επεξεργασίας δεδομένων. Η δημοκρατία κατανέμει ευρύτερα τις πληροφορίες και την επεξεργασία τους, άρα τις αποφάσεις και τις εξουσίες, ενώ η διδακτορία τις συγκεντρώνει σε λίγα χέρια. Η τεχνητή νοημοσύνη μπορεί κάλλιστα να γείρει τη ζυγαριά προς τη δεύτερη, παρόλο που επιφανειακά θα παραμείνει η δημοκρατική πρόσοψη των ελεύθερων εκλογών ή των ελεύθερων καταναλωτικών και άλλων επιλογών (σε όσες χώρες υπάρχουν ήδη αυτές οι ελευθερίες…).

Στον 20ό αιώνα η τεχνολογία είχε λιγότερες δυνατότητες, πράγμα που ευνοούσε τη δημοκρατία. Κανείς και κανένα μηχάνημα δεν είχε την ικανότητα να επεξεργασθεί όλες τις διαθέσιμες πληροφορίες γρήγορα και σωστά. Γι’ αυτό, άλλωστε, η Σοβιετική Ένωση με τον κεντρικό προγραμματισμό της υστερούσε οικονομικά και έπαιρνε χειρότερες αποφάσεις σε σχέση με τη Δύση που βασιζόταν στην αποκεντρωμένη ελεύθερη οικονομία.

Έξυπνη τεχνολογία για δικτατορίες

Όμως στον 21ο αιώνα η τεχνητή νοημοσύνη με τις πολύ μεγαλύτερες δυνατότητες αρχίζει να γέρνει το εκκρεμές προς την πλευρά της δικτατορίας. Ένα κράτος μπορεί πλέον πιο εύκολα να είναι μοντέρνο, παραγωγικό και αυταρχικό, καθώς τεράστιοι όγκοι δεδομένων είναι δυνατό να υποστούν επεξεργασία κεντρικά. Όσα περισσότερα στοιχεία έχει ένας αλγόριθμος στη διάθεσή του, τόσο καλύτερα δουλεύει. Έτσι, τα συγκεντρωτικά συστήματα ίσως αποδειχθούν τελικά πιο αποδοτικά από τα αποκεντρωμένα.

Μια αυταρχική κυβέρνηση π.χ. που θα διατάξει τους πολίτες της να δώσουν δείγματα DNA και άλλα προσωπικά ιατρικά δεδομένα σε μια κεντρική βάση δεδομένων, θα έχει τεράστιο πλεονέκτημα έναντι άλλων χωρών που διαφυλάσσουν τα προσωπικά δεδομένα των πολιτών τους.

Παράλληλα, χάρη στη νέα τεχνολογία θα ενταθούν οι προσπάθειες να επηρεασθούν τα συναισθήματα και οι προτιμήσεις των ψηφοφόρων. Έτσι, η δημοκρατία θα μεταλλαχθεί σε ένα «κουκλοθέατρο», όπου κάποιες ελίτ αφανώς θα έχουν την τεχνολογική δυνατότητα να χειραγωγούν τους πολίτες-ψηφοφόρους, π.χ. χάρη σε εντεταλμένες ορδές από ρομπότ λογισμικού (bots), που θα περιφέρονται στα μέσα κοινωνικής δικτύωσης για να «πουλήσουν» μια ιδεολογία, έναν πολιτικό ή μία ψευδή είδηση. Ήδη έχουμε πάρει μια πρόγευση περί αυτού.

Ασφαλώς ορισμένες νέες τεχνολογίες, όπως το blockchain (η βάση των κρυπτονομισμάτων), ευνοούν την αποκέντρωση των πληροφοριών, των διαδικασιών και των εξουσιών, αλλά είναι αβέβαιο κατά πόσο όντως θα αντισταθμίσουν τη συγκεντρωτική τάση της τεχνολογίας. Ο Χαράρι θυμίζει ότι και το Ίντερνετ αρχικά είχε εξυμνηθεί ως ελευθεριακή πανάκεια, αλλά σήμερα περισσότερο στηρίζει την συγκεντρωτική εξουσία, παρά απελευθερώνει τους ανθρώπους.

Ακόμη κι αν κάποιες κοινωνίες παραμείνουν επιφανειακά δημοκρατικές, οι ολοένα αποτελεσματικότεροι αλγόριθμοι που θα «τρυπώσουν» παντού, θα μεταφέρουν ολοένα περισσότερη εξουσία από τους μεμονωμένους ανθρώπους στις δικτυωμένες έξυπνες μηχανές, ιδίως όταν επεκταθεί το Διαδίκτυο των Πραγμάτων.

Μάλιστα, πιθανότατα οι περισσότεροι άνθρωποι πρόθυμα θα παραδώσουν στους αλγόριθμους ολοένα μεγαλύτερη εξουσία πάνω στις ζωές τους, όταν πια έχουν πεισθεί από προσωπική εμπειρία ότι μπορούν να εμπιστευθούν την τεχνητή νοημοσύνη περισσότερο από την ανθρώπινη. Αν π.χ. τα αυτόνομα οχήματα στους δρόμους κάνουν λιγότερα ατυχήματα από τους ανθρώπους οδηγούς ή αν οι υπολογιστές κάνουν ταχύτερες και ακριβέστερες ιατρικές διαγνώσεις.

Ήδη χρειάσθηκαν μόνο δύο δεκαετίες, θυμίζει ο Χαράρι, ώστε δισεκατομμύρια άνθρωποι να εμπιστεύονται τον αλγόριθμο αναζήτησης της Google για να βρίσκουν αξιόπιστες πληροφορίες ή για να τους καθοδηγεί τυφλά σε μια πόλη προκειμένου να φθάσουν στον προορισμό τους.

Το κεντρικό δόγμα της δημοκρατίας και του καπιταλισμού της ελεύθερης αγοράς είναι ότι στο επίκεντρο βρίσκεται το αυτόνομο άτομο με τις ελεύθερες επιλογές του που παίρνει αποφάσεις. Αλλά η τεχνητή νοημοσύνη έρχεται να υποσκάψει αυτό ακριβώς το δόγμα, διεκδικώντας αυτή το δικαίωμα να παίρνει για λογαριασμό των ανθρώπων καλύτερες αποφάσεις για την υγεία τους, τη μόρφωσή τους, την ασφάλειά τους, την εργασία τους, ακόμη και για την ανεύρεση συντρόφου. Κάπως έτσι, προειδοποιεί ο Χαράρι, ίσως φθάσει μια στιγμή που οι ελεύθερες εκλογές και οι ελεύθερες αγορές θα χάσουν πια το νόημά τους…

Τι μπορεί να γίνει; Μεταξύ άλλων, προτείνει να δοθεί προτεραιότητα στην κατανόηση του τρόπου που λειτουργεί ο ανθρώπινος νους και η συνείδηση, ώστε να καλλιεργηθεί η σοφία και η συμπόνια, ενώ παράλληλα να δοθεί σκληρή πολιτική μάχη για να τεθεί υπό κοινωνικό έλεγχο η κατοχή και κυκλοφορία των δεδομένων.

Πηγή φωτογραφίας: Αθηναϊκό Πρακτορείο Ειδήσεων