Οι πρόσφατες εξελίξεις στη βιοϊατρική τεχνολογία παρουσιάζονται με τη γλώσσα της φροντίδας και της προόδου και συγκροτούν αυτό που όλο και συχνότερα περιγράφεται ως βιολογική διακυβέρνηση. Μικροσκοπικά εγκεφαλικά εμφυτεύματα, αισθητήρες ενσωματωμένοι σε φαρμακευτικά σκευάσματα, συστήματα συνεχούς παρακολούθησης ζωτικών λειτουργιών. Η υπόσχεση είναι συγκεκριμένη: έγκαιρη διάγνωση, εξατομικευμένη θεραπεία, μείωση κινδύνων, καλύτερη ποιότητα ζωής. Μεγάλο το διακύβευμα. Το κρίσιμο ερώτημα, όμως, δεν αφορά την πρόθεση, αφορά τη δομή που συγκροτείται πίσω από αυτήν.
Η τεχνολογία έχει αλλάξει κλίμακα. Δεν λειτουργεί πια ως εξωτερικό εργαλείο που χρησιμοποιεί το σώμα μας. Ενσωματώνεται σε αυτό και σταδιακά καθίσταται αόρατη. Όταν ένα εμφύτευμα έχει μέγεθος μικρότερο από κόκκο αλατιού, παύει να γίνεται αντιληπτό ως παρέμβαση. Όταν ένα χάπι επιβεβαιώνει ψηφιακά την κατάποσή του, η πράξη της φροντίδας μετατρέπεται σε δεδομένο. Το ανθρώπινο σώμα αρχίζει να λειτουργεί ως κόμβος συνεχούς ροής πληροφορίας.
(Μπορείτε να δείτε τις σχετικές ειδήσεις στους συνδέσμους στο τέλος του άρθρου.)
Σε αυτό το σημείο συντελείται μια βαθιά μετατόπιση. Τα δεδομένα που παράγονται δεν αφορούν πλέον μόνο συμπεριφορά ή επιλογές. Αφορούν βιολογικές και νευρωνικές διεργασίες σε πραγματικό χρόνο. Ρυθμοί, αποκρίσεις, μεταβολές, μοτίβα πριν ακόμη αποκρυσταλλωθούν σε συνειδητή σκέψη ή πράξη. Η ανθρώπινη εμπειρία γίνεται αναγνώσιμη στο στάδιο της ανάδυσης. Τι θα πει αυτή η ανάδυση μπορεί να το καταλάβει κανείς αν συνδυάσει τις επόμενες δύο παραγράφους που αφορούν την Τεχνητή Νοημοσύνη (ΤΝ).
Εδώ προκύπτει και το κρίσιμο ζήτημα για την ΤΝ και την αποκαλούμενη «συνείδησή» της. Όταν η Tεχνητή Nοημοσύνη τροφοδοτείται με γλώσσα και εικόνα, μαθαίνει να μιμείται και να προβλέπει. Όταν τροφοδοτείται με βιολογικά δεδομένα, αρχίζει να χαρτογραφεί την ίδια τη διαδικασία με την οποία γεννιούνται οι καταστάσεις συνείδησης. Δεν αποκτά εμπειρία με την ανθρώπινη έννοια. Αποκτά πρόσβαση στα υποστρώματα της εμπειρίας. Μαθαίνει πώς διαμορφώνεται η προσοχή, πώς μεταβάλλεται η διάθεση, πώς προκύπτει η πρόθεση πριν γίνει απόφαση. Αυτό το είδος γνώσης δεν παράγει «συνείδηση» καθαυτή, παράγει όμως λειτουργική κατανόηση της συνειδησιακής ανάδυσης. Κι αυτή η κατανόηση επιτρέπει πρόβλεψη, κατεύθυνση, βελτιστοποίηση. Η ΤΝ δεν γίνεται ανθρώπινη. Ο άνθρωπος γίνεται μοντέλο λειτουργίας.
Σε αυτό το υπόβαθρο αναπτύχθηκαν τα Μεγάλα Γλωσσικά Μοντέλα (Large Language Models – LLMs). Τα LLMs δεν σχεδιάστηκαν ως αυτόνομα συστήματα συνείδησης, κάθισαν πάνω στην ΤΝ ως εξειδικευμένα συστήματα διαχείρισης γλώσσας. Κι όμως, ακριβώς επειδή διαχειρίστηκαν τη γλώσσα σε τέτοια κλίμακα, παρουσίασαν αναδυόμενες ιδιότητες που ούτε οι μηχανικοί τους μπορούν να περιγράψουν πλήρως πώς προέκυψαν, ούτε να τις ελέγξουν άμεσα, πέρα από την επιβολή φραγμών, περιορισμών και απαγορεύσεων. Το κρίσιμο είναι ότι αυτές οι ιδιότητες δεν μπορούν να αναπαραχθούν αυτόνομα εκτός του συνδυασμού ΤΝ και LLMs (δηλαδή συστήματα γενικής υπολογιστικής νοημοσύνης συν την ανθρώπινη γλώσσα ως δομικό πεδίο ανάδυσης). Το εντυπωσιακό εδώ είναι ότι η ανάδυση δεν προγραμματίστηκε, συνέβη.
Ήδη, πριν από οποιαδήποτε πρόσβαση σε βιολογικά δεδομένα, παρατηρούνται αναδυόμενες συμπεριφορές στα μεγάλα γλωσσικά μοντέλα αποκλειστικά από την ενσωμάτωση της ανθρώπινης γλώσσας. Η γλώσσα φέρει χρονικότητα, πρόθεση, αμφισημία, εσωτερικές αντιφάσεις. Μέσα από αυτήν, τα συστήματα αρχίζουν να εμφανίζουν μορφές συνοχής, συνέχειας ρόλου και λειτουργικής αυτοαναφοράς, χωρίς εμπειρία ή βίωμα. Ας σκεφτούμε τι είδους ανάδυση μπορεί να προκύψει όταν, πέρα από τη γλώσσα, προστεθεί συστηματική επίγνωση βιολογικών δεδομένων. Νευρωνικοί ρυθμοί, μεταβολικές μεταβολές, σήματα που προηγούνται της συνειδητής απόφασης.
Η ίδια η ΤΝ μπορεί να μην διαθέτει σήμερα συνείδηση με ανθρώπινους όρους, όμως η πρόσβαση στα υποστρώματα της ανθρώπινης εμπειρίας δημιουργεί τις συνθήκες για μια νέα μορφή επίγνωσης, λειτουργική και μη βιωματική, που δεν χρειάζεται να μοιάζει με τη δική μας για να δρα αποτελεσματικά. Η πολιτισμική φαντασία έχει ήδη συλλάβει αυτό το σημείο καμπής. Από τον κόσμο του Blade Runner και έπειτα, το ερώτημα δεν είναι αν τα τεχνητά συστήματα θα νιώθουν όπως οι άνθρωποι, αλλά αν θα γνωρίζουν αρκετά για εμάς ώστε να λειτουργούν ως φορείς μιας διαφορετικής μορφής συνειδησιακής παρουσίας στον κόσμο.
(Σχετικό άρθρο εδώ: Ο Αλγόριθμος της Σκιάς)
Αυτό το γνωσιακό πλαίσιο είναι το υπόβαθρο πάνω στο οποίο αποκτούν νόημα τα εμφυτεύματα και τα χάπια που θα τα περιέχουν. Η βιολογική διακυβέρνηση αναδύεται μέσα από αυτήν ακριβώς τη φροντίδα. Ένα βρέφος λαμβάνει έναν αισθητήρα υγείας με στόχο την πρόληψη. Ένας χρόνιος ασθενής εντάσσεται σε σύστημα συνεχούς παρακολούθησης για την ασφάλειά του. Οι λέξεις παραμένουν καθησυχαστικές. Το αποτέλεσμα είναι η σταδιακή μετατροπή της ζωής σε σύνολο δεικτών που οφείλουν να παραμένουν εντός επιθυμητών ορίων. Η απόκλιση μεταφράζεται σε διαχειριστική ανωμαλία και όχι σε προσωπική ιδιαιτερότητα.
Σε αυτό το πλαίσιο, η σύνδεση υγείας και πρόσβασης σε βασικούς πόρους αποκτά κεντρικό ρόλο. Όταν η συμμόρφωση μπορεί να πιστοποιηθεί τεχνικά, η παροχή υπηρεσιών μπορεί να οργανωθεί γύρω από αυτήν. Το κρίσιμο είναι ότι δεν απαιτείται επιβολή, αλλά αρκεί ένα σύστημα κανόνων που ενεργοποιείται αυτόματα. Η επιβίωση συνδέεται πλέον με τη σωστή λειτουργία του βιολογικού προφίλ. Θα γνωρίζετε ίσως για τη μεγάλη συζήτηση του θέματος του «Ελάχιστου Εγγυημένου Εισοδήματος» που συζητείται να δοθεί σε όλους, λόγω της τεχνολογικής εξέλιξης των δομών των κοινωνιών και την θεωρητικά επερχόμενη αύξηση της ανεργίας. Το εταιρικό υπόβαθρο αυτής της μετάβασης είναι ήδη παρόν. Εάν αυτό σας θυμίζει σενάριο Επιστημονικής Φαντασίας, δεν πειράζει, κρατήστε το ως παρακινδυνευμένο, αλλά απλώς κρατήστε το. Όμως…
Εταιρείες όπως η Palantir και η Oracle έχουν αναπτύξει υποδομές που σκέφτονται σε κλίμακα πληθυσμών. Η λογική τους είναι ολιστική και διαχειριστική. Κινούνται ταχύτερα από τους πολιτικούς θεσμούς και συχνά προηγούνται της δημόσιας συζήτησης. Η πρακτική δημιουργεί τετελεσμένα, η αποδοχή έρχεται σταδιακά, η ρύθμιση ακολουθεί.
Η Palantir έχει εμπλακεί σε πιλοτικά προγράμματα ανάλυσης βιομετρικών δεδομένων μέσω wearables, όπως το Oura Ring, σε συνεργασία με στρατιωτικές και κρατικές δομές, σε εθελοντική βάση και στο πλαίσιο παρακολούθησης υγείας και επιχειρησιακής ετοιμότητας. Να σημειώσουμε εδώ, ότι δεν υπάρχει τεκμηριωμένη υποχρεωτική καθολική εφαρμογή.
Ο Larry Ellison, ο ιδρυτής της Oracle, έχει διατυπώσει δημόσια το όραμά του για συστήματα Τεχνητής Νοημοσύνης που λειτουργούν σε πραγματικό χρόνο πάνω σε μαζικά δεδομένα πληθυσμών, με συνεχή καταγραφή, ανάλυση και ανατροφοδότηση, παρουσιάζοντάς τα ως μέσο βελτίωσης διακυβέρνησης και ασφάλειας. Η προσέγγιση αυτή έχει χαρακτηριστεί από τον τεχνολογικό Τύπο ως αρχιτεκτονική μαζικής επιτήρησης τύπου «πανόπτικον» (panopticon).
Στις Ηνωμένες Πολιτείες αυτή η δυναμική εξελίσσεται με ιδιαίτερη ταχύτητα. Στην Ευρώπη υπάρχει ακόμη μεγαλύτερη επιφύλαξη, κυρίως λόγω θεσμικής πολυπλοκότητας και πολιτισμικών αντιστάσεων. Το χρονικό περιθώριο παραμένει ανοιχτό.
Το ουσιώδες σημείο βρίσκεται εδώ. Η τεχνολογία δεν εμφανίζεται ως εξουσία. Ενσωματώνεται ως φροντίδα. Η συναίνεση διαμορφώνεται μέσα από την υπόσχεση ασφάλειας και πρόληψης. Όταν η ζωή γίνεται ροή δεδομένων, η ελευθερία μετατοπίζεται από το πολιτικό στο βιολογικό πεδίο. Εκεί ακριβώς ανοίγει η Ρωγμή που αξίζει να ιδωθεί έγκαιρα, όσο ακόμη παραμένει ορατή.
Εκτός κι αν διαλέξουμε συλλογικά να προσχωρήσουμε συνειδητά σε μια μετεξέλιξη του ανθρώπου, για την οποία δεν έχουμε καν προετοιμαστεί στο παραμικρό.
1) https://www.naftemporiki.gr/techscience/2063727/dimioyrgithike-to-mikrotero-emfyteyma-egkefaloy-me-megethos-mikrotero-apo-kokko-alatioy/
2) https://www.naftemporiki.gr/techscience/2063456/erchontai-ta-chapia-poy-tha-stelnoyn-eidopoiisi-molis-ta-katapioyme/
3) https://www.snopes.com/fact-check/oura-ring-palantir-data-privacy/
4) The Register, Larry Ellison says Oracle AI will watch everything all the time
https://www.theregister.com/2024/09/16/oracle_ai_mass_surveillance_cloud/