Chris Kremidas Courtney
Senior Fellow for Peace, Security and Defence at Friends of Europe, Lecturer for Institute for Security Governance (ISG) in Monterey, California, and Advisor for Governance and Resilience at Extended Reality Safety Initiative (XRSI), San Francisco.
—————————————————————————————————————————————————
Φανταστείτε μια μέρα να φορέσετε τα έξυπνα γυαλιά σας – τα οποία αντικατέστησαν το κινητό σας τηλέφωνο – και να πηγαίνετε στη δουλειά σας με τα πόδια. Στην διαδρομή σας, ελέγχετε το ηλεκτρονικό σας ταχυδρομείο, περιηγείστε σε ενημερώσεις ειδήσεων και βλέπετε διαφημίσεις στους τοίχους των κτιρίων που περνάτε. Στην απέναντι πλευρά της λεωφόρου, βλέπετε μια κάποιου είδους διαμάχη, καθώς άνθρωποι παρεμβαίνουν για να προστατεύσουν μια γυναίκα που έχει δεχθεί επίθεση από άτομα που φαίνεται να είναι ντυμένα σαν νεο-αφιχθέντες μετανάστες. Ακούς ψιθύρους περαστικών να λένε πράγματα όπως «αυτή είναι η τρίτη επίθεση αυτή την εβδομάδα» και «φτάνει πια».
Βρισκόμαστε στο έτος 2029 και ο ανεπτυγμένος κόσμος έχει μεταφέρει ακόμη μεγαλύτερο μέρος της ανθρώπινης δραστηριότητας στην ψηφιακή σφαίρα για να μειώσει δραστικά τις εκπομπές διοξειδίου του άνθρακα και να επιτρέψει μια νέα εποχή φαινομενικά απεριόριστων δυνατοτήτων.
Στη συνέχεια, φτάνετε στο γραφείο όπου πρέπει να αλλάξετε τα γυαλιά σας για να συμμετάσχετε σε μια συνάντηση σχεδιασμού προϊόντων με συναδέλφους από το Ναϊρόμπι, τη Βομβάη, τη Σάντα Φε και το Βερολίνο. Βλέπεστε και αλληλεπιδράτε μεταξύ σας με εξαιρετικά λεπτομερή τρισδιάστατα είδωλα (avatars) και συζητάτε το τρισδιάστατο προϊόν μπροστά σας. Ίσως κατά τη διάρκεια ενός διαλείμματος εργασίας, χρησιμοποιώντας τα ίδια γυαλιά, κάνετε μια επίσκεψη στην αλπική καλύβα στους Δολομίτες που απολαύσατε τόσο πολύ το περασμένο καλοκαίρι.
Όλα αυτά είναι δυνατά με την έλευση των νέων τεχνολογιών, οι οποίες αλλάζουν τον κόσμο μας από μια δισδιάστατη διαδραστική σε μια τρισδιάστατη καθηλωτική σχέση με το διαδίκτυο. Όμως, αυτή η μετάβαση φέρνει μαζί της και νέους κινδύνους για την κοινωνία και τη δημοκρατία.
Στο σενάριο που παρουσιάστηκε παραπάνω, η υποτιθέμενη επίθεση μεταναστών σε μια γυναίκα και τα ψιθυριστά σχόλια σχετικά με αυτό ήταν όλα κατασκευασμένη παραπληροφόρηση που πληρώθηκε από ένα αντιμεταναστευτικό πολιτικό κόμμα χρησιμοποιώντας τις ίδιες τεχνικές που διατίθενται για τη διαφήμιση τοποθέτησης προϊόντων. Επίσης, αργότερα μαθεύτηκε ότι ένα από τα είδωλα στη συνάντηση σχεδιασμού προϊόντων δεν ήταν στην πραγματικότητα ο συνάδελφός σας στο Βερολίνο, αλλά μάλλον κάποιος που είχε εισβάλει στον λογαριασμό του και τον χρησιμοποιούσε. Σε αυτήν την περίπτωση, ολόκληρη η ομάδα σας αλληλοεπιδρούσε με ένα ζωντανό τρισδιάστατο deep fake που θα μπορούσε να ήταν κάποιος από τον πιο έντονο ανταγωνιστή της εταιρείας σας.
Αυτά είναι μόνο μερικά παραδείγματα των κινδύνων που αντιμετωπίζουμε κατά τη μετάβαση σε έναν νέο κόσμο που δημιουργείται από τη σύγκλιση των καθηλωτικών τεχνολογιών και της τεχνητής νοημοσύνης. Σύμφωνα με τα λόγια της ιδρύτριας της Πρωτοβουλίας για την Ασφάλεια των XR, Kavya Pearlman, οι εξελίξεις αυτές μετακινούν τον κόσμο μας «από τη μετα-αλήθεια στη μετα-πραγματικότητα».
Οι τεχνολογίες που θα επιτρέψουν αυτό το μέλλον περιλαμβάνουν την επαυξημένη πραγματικότητα (AR), την εικονική πραγματικότητα (VR) και την τεχνητή νοημοσύνη (AI).
Η επαυξημένη πραγματικότητα (AR) είναι η ενσωμάτωση ψηφιακών πληροφοριών στο περιβάλλον ενός ατόμου σε πραγματικό χρόνο, η οποία ενεργοποιείται από συσκευές όπως τα έξυπνα γυαλιά. Οι χρήστες της επαυξημένης πραγματικότητας βιώνουν ένα πραγματικό περιβάλλον με όλο και πιο ρεαλιστικές παραγόμενες πληροφορίες. Η εικονική πραγματικότητα (VR) είναι ένα πλήρως καθηλωτικό τρισδιάστατο τεχνητό ψηφιακό περιβάλλον στο οποίο ένα άτομο μπορεί να έχει εμπειρίες, όπως η επαγγελματική συνάντηση ή η επίσκεψη στην καλύβα του βουνού, από το γραφείο στο σπίτι του. Οι μελλοντικές εξελίξεις περιλαμβάνουν την ικανότητα απευθείας σύνδεσης με τον ανθρώπινο εγκέφαλο. Συλλογικά, το AR και το VR αναφέρονται ως XR. Αυτές είναι οι τεχνολογίες που χρησιμοποιούνται για την πρόσβαση στο μετασύμπαν (metaverse) – το καθηλωτικό τρισδιάστατο διαδίκτυο όπου προβλέπεται να πραγματοποιηθεί ένα μεγάλο μέρος του μελλοντικού εμπορίου, της εκπαίδευσης και των κοινωνικών αλληλεπιδράσεων.
Στη σημερινή εποχή των διαδραστικών ψηφιακών μέσων, ο μέσος άνθρωπος ξοδεύει 11 ώρες την ημέρα στο κινητό τηλέφωνο ή τον υπολογιστή του. Κατά τη διάρκεια της καθηλωτικής εποχής, αυτός ο ημερήσιος μέσος όρος αναμένεται να ανέλθει σε 14 έως 16 ώρες που θα αφιερώνουν οι χρήστες σε ψηφιακές συσκευές.
Ο κύριος λόγος για τον οποίο το καθηλωτικό XR είναι ένα πιο ισχυρό μέσο παροχής παραπληροφόρησης δεν είναι μόνο ο αυξημένος αριθμός ωρών που ξοδεύονται σε συσκευές XR , αλλά και το γεγονός ότι, αντί να παρατηρούμε κάτι σε επίπεδη οθόνη, το βιώνουμε σε πρώτο πρόσωπο. Για το λόγο αυτό, η εμβύθιση «μοιάζει» πραγματική, καθιστώντας πιο δύσκολη τη διάκριση της πραγματικότητας από την εκτεταμένη (εναλλακτική) πραγματικότητα.
Περαιτέρω αποδείξεις αυτής της αυξημένης ισχύος για την παροχή παραπληροφόρησης αναφέρονται σε πρόσφατες κινεζικές μελέτες που διαπίστωσαν ότι οι καθηλωτικές εμπειρίες XR είναι 44% πιο εθιστικές από τα διαδραστικά μέσα και η διαφήμιση στο metaverse XR είναι 2,7 φορές πιο αποτελεσματική από τα δισδιάστατα βίντεο.
Λαμβάνοντας υπόψη τους κοινωνικούς διχασμούς και τη ριζοσπαστικοποίηση του διαδικτύου που έχουμε δει τα τελευταία χρόνια με τα διαδραστικά μέσα, εκτός από αυτά τα επιστημονικά ευρήματα, οι κίνδυνοι που σχετίζονται με την XR γίνονται πιο εμφανείς.
Συλλογή δεδομένων σε overdrive. Οι τεχνολογίες XR απαιτούν μεγάλο όγκο δεδομένων πελατών προκειμένου να δημιουργηθούν πιο αυθεντικές εμπειρίες, αλλά αυτός ο πολύ μεγαλύτερος όγκος δεδομένων μπορεί επίσης να χρησιμοποιηθεί για πιο ακριβή μικροστόχευση. Για παράδειγμα, το νέο σετ κεφαλής Quest Pro VR της Meta περιλαμβάνει πέντε κάμερες που βλέπουν εσωτερικά και συλλέγουν μεγάλους όγκους δεδομένων για τον χρήστη, τα οποία μπορούν να συμπεράνουν χαρακτηριστικά προσωπικότητας, ψυχική υγεία, γνωστικές διαδικασίες, ηλικία, φύλο, κατανάλωση ναρκωτικών, πολιτιστικό υπόβαθρο, σωματική υγεία, ψυχικό φόρτο εργασίας και γεωγραφική προέλευση.
Όλα αυτά έρχονται να προστεθούν στα είδη των δεδομένων μικροστόχευσης που ήδη συλλέγονται για τους ανθρώπους στο σημερινό διαδραστικό διαδίκτυο. Τα δεδομένα σχετικά με τις κινήσεις του σώματος, τα οποία μπορεί να υποδεικνύουν ιατρικές καταστάσεις όπως αυτισμό, ΔΕΠΥ, μετατραυματικό στρες ή άνοια, μπορούν επίσης να συλλεχθούν σε XR.
Το 2016, η Cambridge Analytica ισχυρίστηκε ότι είχε 5000 σημεία δεδομένων για κάθε Αμερικανό ψηφοφόρο, τα οποία χρησιμοποιήθηκαν για την υποστήριξη της εκστρατείας στα μέσα κοινωνικής δικτύωσης που βοήθησε τον Ντόναλντ Τραμπ να κερδίσει τις εκλογές εκείνης της χρονιάς. Η Cambridge Analytica είχε παρόμοια σύνολα δεδομένων που χρησιμοποιήθηκαν για την υποστήριξη της εκστρατείας «leave» στην ψηφοφορία του Brexit το 2016, καθώς και για να επηρεάσουν τις εκλογές στην Ινδία, την Αυστραλία, τη Μάλτα, το Μεξικό και την Κένυα.
Συγκριτικά, η γενιά ακουστικών XR που υπήρχαν ήδη το 2018 ήταν σε θέση να συλλέξει σχεδόν δύο εκατομμύρια σημεία δεδομένων για ένα άτομο σε μόλις 20 λεπτά. Φανταστείτε τώρα τι είδους στοχευμένη παραπληροφόρηση και χειραγώγηση πληροφοριών μπορούν να παρασχεθούν μέσα σε καθηλωτικά περιβάλλοντα που «μοιάζουν» πραγματικά και όπου η διάκριση της πραγματικότητας από το εξωπραγματικό θα γίνει ακόμη πιο δύσκολη καθώς οι τεχνολογίες συνεχίζουν να εξελίσσονται.
Όλα αυτά θα ήταν λιγότερο ανησυχητικά εάν οι εταιρείες τεχνολογίας τελούσαν υπό ακριβέστερη ρύθμιση για την προστασία της ιδιωτικής ζωής ή αν σέβονταν περισσότερο το απόρρητο των πελατών τους, αλλά πολυάριθμες μελέτες αυτών των νέων συσκευών και των πολιτικών απορρήτου των εταιρειών δείχνουν το αντίθετο.
Μελέτες από την Extended Reality Safety Initiative (XRSI), το Πανεπιστήμιο του Στάνφορντ και το CommonSense.org δείχνουν ότι οι χρήστες παρακολουθούνται από τη στιγμή που βάζουν τη συσκευή XR και ότι τα ευαίσθητα δεδομένα που συλλέγονται για αυτούς κοινοποιούνται σε τρίτους διαφημιστές, των οποίων οι διαφημίσεις εμφανίζονται επίσης στο XR. Επιπλέον, οι τρέχουσες πολιτικές απορρήτου δεν υποδεικνύουν ισχυρότερη προστασία για παιδιά ή εφήβους.
Το ίδιο μέλλον θα ενεργοποιηθεί από την τεχνητή νοημοσύνη (AI), η οποία είναι ήδη σε θέση να ενισχύσει τις αφηγήσεις παραπληροφόρησης. Οι δυνατότητες τεχνητής νοημοσύνης, όπως το GPT-3, μπορούν να γράψουν πειστικά δημόσια σχόλια και επιστολές που μοιάζουν να έχουν γραφτεί από ανθρώπους. Όταν χρησιμοποιούνται σε κλίμακα, αυτού του είδους οι δυνατότητες μπορούν να κατακλύσουν τους χώρους πληροφόρησης και να εμπλακούν σε «παρεμβολές της πραγματικότητας», οι οποίες στοχεύουν σε πληθυσμούς σε μαζική κλίμακα για να διαμορφώσουν συμπεριφορές και να υποδαυλίσουν τον κοινωνικό διχασμό.
Οι πρόσφατες εξελίξεις στην τεχνητή νοημοσύνη καθιστούν τους καθηλωτικούς κόσμους των XR πιο ρεαλιστικούς κάθε χρόνο, θολώνοντας τα όρια μεταξύ πραγματικότητας και εκτεταμένης πραγματικότητας. Μέσα στο metaverse XR, αντί για ένα ρομπότ κειμένου όπως το GPT-3, θα αντιμετωπίσουμε «εικονικούς ανθρώπους», οι οποίοι – οπλισμένοι με υπερ-ακριβή δεδομένα μικροστόχευσης για εμάς – θα χρησιμεύσουν ως πωλητές σε εικονικά καταστήματα ή ως άνθρωποι που θα προσπαθούν να μας πείσουν να πιστέψουμε ορισμένες αφηγήσεις.
Εν ολίγοις, η ανθρωπότητα κινείται προς ένα μέλλον στο οποίο η «πραγματικότητα» μπορεί να μην είναι πλέον μια ενιαία αντικειμενικά επαληθεύσιμη προοπτική με δυνητικά σοβαρές συνέπειες για τη δημοκρατική διακυβέρνηση. Η προετοιμασία για αυτό το μέλλον απαιτεί επείγουσα προσοχή, διότι χωρίς αλήθεια δεν υπάρχει λογοδοσία και χωρίς λογοδοσία δεν υπάρχει δημοκρατία.
Επιπλέον, το επίπεδο χειραγώγησης που μπορεί να είναι εφικτό στο metaverse XR, ειδικά με την εμφάνιση των διεπαφών εγκεφάλου-υπολογιστή, θα μπορούσε να αντιπροσωπεύει μια άνευ προηγουμένου ικανότητα υπονόμευσης της ανθρώπινης ελεύθερης βούλησης. Εάν οι πολίτες και οι κυβερνήσεις δεν κατανοήσουν τι διακυβεύεται και δεν ρυθμίσουν τώρα αυτές τις τεχνολογίες, θα μπορούσαν να θέσουν σε κίνδυνο τη δημοκρατία και την κοινωνική συνοχή σε βαθμό πολύ μεγαλύτερο από αυτόν που βλέπουμε σήμερα.
Πώς μπορούμε να είμαστε προετοιμασμένοι για το μέλλον με τρόπο που να μεγιστοποιεί τα οφέλη και να ελαχιστοποιεί τους κινδύνους; Τι θα πρέπει να αντιμετωπίσει η ΕΕ στο πλαίσιο της παγκόσμιας πρωτοβουλίας ρύθμισης του Metaverse, η οποία πρόκειται να δρομολογηθεί το 2023;
Πρώτον, αντί να περιμένουμε να φτάσουν μαζικά αυτές οι νέες τεχνολογίες, πρέπει να τις ρυθμίσουμε προληπτικά και να ενσωματώσουμε ασπίδες προστασίας στην ασφάλεια των συστημάτων XR και AI για την προστασία των χρηστών από μικροστόχευση και χειραγώγηση.
Στη συνέχεια, πρέπει να επεκτείνουμε και να επικαιροποιούμε συνεχώς τον Γενικό Κανονισμό Προστασίας Δεδομένων (GDPR) της ΕΕ, τον νόμο για τις ψηφιακές υπηρεσίες και τον νόμο για τις ψηφιακές αγορές για την προστασία της ιδιωτικής ζωής και της ελεύθερης βούλησης των πολιτών εντός του metaverse XR.
Για την καλύτερη κατανόηση των προκλήσεων και των ευκαιριών που θα επιφέρει αυτό το μέλλον και για την ενημέρωση των μελλοντικών νόμων και κανονισμών, η ΕΕ θα πρέπει να διαθέσει κονδύλια για μελέτες σχετικά με τον αντίκτυπο των XR σε άτομα, ομάδες και κοινωνίες.
Επιπλέον, θα πρέπει να σχεδιάσουμε την ενεργό υπεράσπιση των πολιτών και των κοινωνιών μέσα στο metaverse XR. Είναι αξιέπαινο το γεγονός ότι η Europol δραστηριοποιείται ήδη σε αυτόν τον τομέα. Οι αρχές προστασίας των πολιτών σε ολόκληρη την Ευρώπη θα πρέπει να ακολουθήσουν το παράδειγμά τους και να αρχίσουν να αποκτούν βαθιά εμπειρία και γνώση του metaverse XR, ώστε να μπορούν να προστατεύουν καλύτερα τους πολίτες τόσο τώρα όσο και στο μέλλον.
Εκτός από την ανάπτυξη δεξιοτήτων κυβερνο-πολιτών, θα χρειαστούμε νέες εκπαιδευτικές προσπάθειες για την προετοιμασία των πολιτών (όλων των ηλικιών) ώστε να μπορούν να περιηγηθούν καλύτερα στη νέα δυναμική της καθηλωτικής ψηφιακής εποχής. Οι προσπάθειες αυτές θα πρέπει επίσης να βασίζονται στα υφιστάμενα προγράμματα για την οικοδόμηση της κοινωνικής συνοχής με την πρόσθετη εντολή να βοηθηθούν τους πολίτες να παραμείνουν προσγειωμένοι στην πραγματικότητα.
Πρέπει να συνεχίσουμε τις προσπάθειες ελέγχου των γεγονότων και διάψευσης, αλλά και να αντιμετωπίσουμε τους υποκείμενους παράγοντες της παραπληροφόρησης , όπως η παράλληλη πανδημία ψυχικής υγείας και η οικονομική ανησυχία, που αμφότερα επιτρέπουν στα αφηγήματα παραπληροφόρησης να ριζώσουν σε σημαντικά τμήματα των κοινωνιών μας. Χωρίς ουσιαστικές προσπάθειες για την αντιμετώπιση της παγκόσμιας έξαρσης του άγχους και της κατάθλιψης που σχετίζονται με την πρόσφατη πανδημία του κορονοϊού, οι προσπάθειές μας για την αντιμετώπιση της παραπληροφόρησης θα παραμείνουν ελλιπείς και αναποτελεσματικές.
Τέλος, η ικανότητα των κυβερνήσεων να εκπληρώσουν τις υποσχέσεις τους για τη γεφύρωση του κοινωνικοοικονομικού χάσματος και τη μείωση της οικονομικής ανησυχίας παραμένει ένα από τα πιο αποτελεσματικά εργαλεία για την αποτροπή της παραπληροφόρησης στη σημερινή εποχή και αναμφίβολα θα συνεχίσει να ισχύει και στο μέλλον.
Αυτό το άρθρο εμφανίστηκε αρχικά στο Friends of Europe