Σε κοινωνική αντίσταση και νομοθετικές πρωτοβουλίες που θα την εκφράζουν ενάντια σε μια εταιρεία που βάζει τα συμφέροντά της πάνω από το δημόσιο συμφέρον κάλεσε, μιλώντας στην Επιτροπή Προστασίας των Καταναλωτών του Ευρωπαϊκού Κοινοβουλίου, η πρώην εργαζόμενη και μάρτυρας δημοσίου συμφέροντος για την λειτουργία της Facebook Φράνσις Χόιγκεν.

«Εργαζόμουν στην Facebook, θεωρώντας ότι ήταν μια πολύ σημαντική επιχείρηση. Σήμερα θεωρώ ότι τα ηγετικά στελέχη της επιχείρησης γνωρίζουν πολύ καλά τι συμβαίνει αλλά δεν επιθυμούν να αλλάξουν τίποτα γιατί πιστεύουν ότι το κέρδος είναι υπεράνω όλων μας. Η εταιρεία Facebook θέλει να βάζει στην καρδιά της δραστηριότητάς της το κέρδος. Δέκα χιλιάδες μηχανικοί θα προσληφθούν για να δημιουργήσουν νέα προϊόντα αλλά όχι για την ασφάλεια των προϊόντων. Πρέπει να υπάρχουν νέες αντιστάσεις, νέα νομοθεσία. Αυτή η νομοθετική πράξη μπορεί να αποτελέσει πηγή έμπνευσης για όλες τις χώρες ώστε να δημιουργηθούν σοβαρά εχέγγυα για την υπεράσπιση της δημοκρατίας», τόνισε στα μέλη του ευρωκοινοβουλίου.

Σε άλλο σημείο ανέφερε, ότι ξεκίνησε από το 2006 από την Google, την Pinterest και άλλους μεγάλους τεχνολογικούς κολοσσούς.

«Εργάστηκα για εφαρμογές και πλατφόρμες και θεωρώ ότι οι προκλήσεις είναι πολύ σημαντικές. Πιστεύω ότι η Facebook έκανε κάποιες επιλογές και εγώ ξεκίνησα την κριτική μου στάση, όταν διαπίστωσα πως πέρασε κάποιος σε φάση ριζοσπαστικοποίησης γιατί διαπίστωσα ότι υπήρχε η σύγκρουση συμφερόντων μεταξύ των χρηστών του Facebook και της ίδια της επιχείρησης και αυτό είναι κάτι που υπονοεύει τη δημοκρατία».  

«Το εμπορικό απόρρητο δεν μπορεί να απειλεί την ασφάλεια των χρηστών»

Εξηγώντας αναλυτικότερα τους λόγους για τους οποίους επέλεξε να μιλήσει δημόσια για τον τρπο λειτουργίας της πλατφόρμας, σημείωσε, ότι «η επιλογή μου έγινε γιατί αυτοί που είναι εκτός της επιχείρησης δεν γνωρίζουν τι γίνεται εντός». «Οι διευθυντικές ομάδες και τα στελέχη γνωρίζουν πράγματα που δεν τα γνωρίζει κανείς άλλος. Τα επικίνδυνα προϊόντα που οδηγούν στην βία και στην ριζοσπαστικοποίηση αποκρύπτονται».

Πρόσθεσε, ότι «δεν θα πρέπει να υπάρχει αυτή η ουδετερότητα από μέρους των αρχών». «Ο συστημικός κίνδυνος να εξαλειφθεί. Να γίνει σωστή εκτίμηση του κινδύνου, να υπάρξουν κανόνες και πρότυπα και να καλυφθούν τα νομικά κενά. Σήμερα η Facebook είναι εισαγγελέας, δικαστής, μάρτυρας και παίρνει αποφάσεις για εκατομμύρια πολίτες».

Για την Χόιγκεν, «η Facebook συνεχίζει να δρα κατά του δημοσίου συμφέροντος». «Το εμπορικό απόρρητο δεν μπορεί να απειλεί την ασφάλεια των χρηστών. Οι επιλογές της Facebook αποτελούν απειλή και οι πλατφόρμες χρησιμοποιούν επιζήμιο περιεχόμενο. Πρέπει να γίνει αξιολόγηση του κινδύνου. Η παραπληροφόρηση που συνεχώς αυξάνεται και οι αρνητικές συνέπειες στη υγεία των πολιτών πρέπει να λήφθούν υπόψη. Δεν θα πρέπει να υπάρχει καμία απολύτως εξαίρεση. Ναι στην προστασία του απορρήτου αλλά και διαφάνεια για να μπορεί κάποιος να εκτιμήσει σωστά τα εργαλεία που χρησιμοποιούνται».

«Τα τεχνολογικά προϊόντα που διαδίδει η Facebook είναι πολύ πιο επιβλαβή από τα τσιγάρα» εκτιμά η Χόιγκεν. «Δεν έχουμε πληροφορίες, δεν υπάρχουν εργαλεία ανεξάρτητης και ουδέτερης αξιολόγησης. Δεν ξέρει κανείς πως λειτουργεί η Facebook. Αυτό πρέπει να αλλάξει. Πρόκειται για ένα σημαντικό διακύβευμα. Έχουμε τη δυνατότητα να δημιουργήσουμε έναν κόσμο πιο ασφαλή. Η επιλογή της Facebook δεν μπορεί να έχει σαν κύριο μέλημα την αύξηση των κερδών. Η εταιρεία αυτή λειτουργεί στο σκοτάδι και θα πολλαπλασιαστούν οι αρνητικές συνέπειες. Θα πρέπει να δράσουμε σύντομα.».

Η Χόιγκεν ανέφερε ότι ο αλγόριθμος που κατατάσσει το περιεχόμενο που θα προβληθεί σε καλύτερες θέσεις είναι επικίνδυνος, ακριβώς διότι φτάνει πρώτο στην αντίληψη του κόσμου. «Η εκστρατεία που έχει να κάνει με το μίσος είναι φθηνότερη σε σχέση με μια εκστρατεία που για παράδειγμα έχει να κάνει με την συμπόνοια ή την αλληλεγγύη. Το διχαστικό περιεχόμενο υπονομεύει τη δημοκρατία».

Συνεπώς, για την ίδια, «πρέπει να κάνουμε αξιολόγηση κινδύνου σε τρία στάδια: Οι εταιρείες πρέπει να αξιολογούν τους εαυτούς τους, να λαμβάνουμε υπόψην τις αλληλεπιδράσεις από τις οργανωμένες κοινωνίες των πολιτών και να διαρθρώσουμε αυτές τις βλάβες.». 

Να ενισχυθεί η λογοδοσία

Η Χόιγκεν ωστόσο θεωρεί ότι ο κοινωνικός έλεγχος δεν αρκεί. «Το πώς θα ενισχυθεί η λογοδοσία είναι σημαντικό και επίκαιρο. Δεν υπάρχει τρόπος να ασκήσει κανείς συλλογική προσφυγή. Για να είναι οι πλατφόρμες υπόλογες θα πρέπει να υπάρξει νομοθετική ρύθμιση γιατί ο αλγόριθμος σπρώχνει τις πλατφόρμες σε μια ομοιογενή δράση. Είναι σημαντικό να απαιτήσουμε να υπάρξει νομοθετική αλλαγή: Όνομα δίπλα από αυτόν που έχει την ευθύνη αλλά και λογοδοσία από πλευράς υψηλών στελεχών για να κάνουν πιο σοβαρά τη δουλειά τους.».

«Ο νόμος πρέπει να ελέγξει ότι όντως οι πλατφόρμες τηρούν τους κανόνες» συνέχισε. «Πρέπει να υπάρχει καλό σχέδιο για το πως επιλύονται τα προβλήματα. Οι επιχειρήσεις κοιτάζουν πως θα προσπεράσουν τον (σσ. νομοθετικό) “φράχτη”. Το πλαίσιο πρέπει να είναι δυναμικό και να αλλάζει. Το να αναγκάζουμε τις επιχειρήσεις να αποκαλύψουν τις βλάβες που έχουν προξενήσει σημαίνει ότι θα δώσουμε ανάλογες ευκαιρίες στον πολίτη που έχει θιγεί η αξιοπρέπειά του.».

Έφερε για παράδειγμα τον τρόπο λειτουργίας του Twitter, όπου, όπως υποστήριξε, «υπάρχει μια πυροσβεστική μάνικα που αναλύει δημόσια δεδομένα και βλέπει απόπειρες και δράσεις επηρεασμού του κόσμου.». «Δηλαδή τεράστια πράγματα βρέθηκαν στο Twitter ενώ προέρχονταν από το Facebook».

Αναγκαία θεωρεί η Χόιγκεν και τον πρόσθετο έλεγχο από ανθρώπους που μπορούν να αναγνωρίσουν τα «κόλπα»λειτουργίας της πλατφόρμας. «Πρέπει να φτιάξουμε ένα οικοσύστημα ανθρώπων που θα παρακολουθούν το Facebook και όχι μόνο ακαδημαϊκούς/πανεπιστημιακούς. Χρειάζεστε ανθρώπους σαν εμένα που γνωρίζουν το θέμα. Ο αριθμός των εμπειρογνωμόνων και των ειδικών είναι μικρός. Πρέπει να εκπαιδευτείς σε τέτοιες εταιρείες. Θα είναι εξαιρετικά δύσκολο να βρεθούν τόσοι εμπειρογνώμονες και να διανεμηθούν μεταξύ των χωρών».

Ο ρόλος της τεχνητής νοημοσύνης

Η μάρτυρας δημοσίου συμφέροντος θεωρεί ότι το Facebook έχει εργαλεία ελέγχου υπέρ του δημοσίου συμφεροντος αλλά δεν τα χρησιμοποιεί. «Το Facebook έχει εργαλεία που επέλεξε να μην τα χρησιμοποιήσει ποτέ. Έχει συστήματα που κάνουν πιο αργές τις πλατφόρμες για να δίνουν χρόνο στους πολίτες να σκεφτούν. Όμως έχει σπρώξει τον κόσμο να μπει σε μεγάλες κοινότητες και οι πληροφορίες να λειτουργούν ιογενώς. Ο αλγόριθμος διαλέγει το περιεχόμενο για συγκεκριμένους ανθρώπους και ενισχύει την ομαδοποιήση των ανθρώπων – δηλαδή το περιεχόμενο. Θα ήταν ενδιαφέρον να μαθαίναμε ποιος κατεβάζει συγκεκριμένο περιεχόμενο, γιατί δεν υπάρχουν τέτοιες πληροφορίες. Για να ταξινομήσουν το περιεχόμενο χρησιμοποιούν την τεχνητή νοημοσύνη.».

Όμως, «η τεχνητή νοημοσύνη είναι σαν να έχουμε 1 εκατομμύριο μαθητές της 1ης Γυμνασίου και προσπαθούν να επιλύσουν ένα πρόβλημα. Όταν η τεχνητή νοημοσύνη καλείται να αναλύσει ένα τρομοκρατικό περιεχόμενο μπορεί να θεωρηθεί σαν προτροπή προς την τρομοκρατία. Αν επικεντρώσει κανείς όλη την προσοχή στα αυτοματοποιημένα συστήματα ελέγχου η αποτελεσματικότητα δεν θα είναι σημαντική. Η κάθε αλλαγή θα πρέπει να κατονομάζεται. Η κάθε μετατροπή θα πρέπει να έχει έναν υπεύθυνο/υπόλογο και μια συγκεκριμένη ονομασία.».

«Τεχνητή νοημοσύνη μόνο με πλήρη διαφάνεια. Να απαιτούμε από τους ανθρώπους να έχουν ορατότητα στο σύστημα. Το καταλαβαίνω για λόγους ανταγωνισμού υπάρχουν απόρρητα όμως διακυβεύονται οι ζωές των ανθρώπων. Η τεχνητή νοημοσύνη δημιούργησε τον ρατσισμό. Χρειαζόμαστε ορατότητα και διαρθωτικές δράσεις», υποστήριξε.

Ο καθοδηγούμενος χρήστης

«Η Facebook μου είπε ότι δεν σχεδιάζονται ηθελημένα τα συστήματα αυτά. Πρέπει όμως να έχουμε ένα ουδέτερο περιεχόμενο και να μην οδηγείται ο χρήστος σε διχασμό. Για να μπορούμε για παράδειγμα να διαδώσουμε μια πληροφορία πέρα από το στενό μας κύκλο, να υπάρχουν προαπαιτούμενα. Είναι σημαντικό όλα αυτά να ισχύουν σε όλες τις γλώσσες και χώρες του κόσμου. Η Facebook γνωρίζει πώς μπορεί να αλλάξει αυτό αλλά δεν το κάνει καθώς θα χαθούν διαφημίσεις και κέρδη της εταιρείας. Πολύ εύκολα ένας χρήστης οδηγείται σε ακραίες πληροφορίες (πχ ακραίες πολιτικές απόψεις/ διατροφικές διαταραχές κλπ).».

Ως προς το παραπάνω η Χόιγκεν τόνισε ότι «η Facebook είναι λιγότερο διαφανής σε σχέση με άλλες πλατφόρμες». «Η Google για παράδειγμα προσπαθεί να καταστρέψει τις τοξικές πληροφορίες. Η διαφάνεια έχει να κάνει με τις μεθόδους βελτιστοποίησης που σχετίζονται με τις πλατφόρμες. Πρέπει να μπορούμε να δούμε πώς θα χρησιμοποιούμε τα μέσα κοινωνικής δικτύωσης στην προώθηση πληροφοριών στους συγγενείς μας ή στην οικογένειά μας. Σε περίπτωση αυτορρύθμισης το περιεχόμενο θα είναι πιο περιορισμένο. Δεν νομίζω ότι η Facebook ήθελε να δημιουργήσει έναν μηχανισμό πολιτικής πόλωσης. Ωστόσο πολύ φοβάμαι ότι κάθε φορά που φτάνουμε στις εκλογικές περιόδους το κακό έχει ήδη γίνει».

«Όλες οι εκλογές είναι σημαντικές και παντού θα έπρεπε να υπάρχει μια επιτήρηση ώστε όταν διανύουμε ευαίσθητες περιόδους όπως οι εκλογές, να ρυθμίζουμε τη συμπεριφορά των πολιτών. Θα πρέπει οι πλατφόρμες να είναι απόλυτα διαφανείς και να δημοσιεύουν την πολιτική που ακολουθούν. Πιστεύω ότι η Facebook θα συνεχίσει να σχολείται με τα προσωπικά δεδομένα. Στο Facebook υπάρχουν συγκεκριμένες αναρτήσεις ή διαφημίσεις που στοχεύουν σε συγκεκριμένες ομάδες ή χρήστες. Επίσης είναι σημαντικό να δούμε πως λειτουργούν οι μηχανισμοί διαλειτουργικότητας.» σημείωσε.

Ανάγκη προστασίας των μαρτύρων δημοσίου συμφέροντος

Ιδιαίτερα στάθηκε στην προστασία των μαρτύρων δημοσίου συμφέροντος. «Χρειάζεται περισσότερη διαφάνεια και η νομοθεσία αυτή σαφώς δεν συμπεριλαμβάνει την προστασία όλων των καταγγελλόντων. Βεβαίως πρέπει να υπάρξει αποτελεσματική προστασία των καταγγελλόντων».

Ως προς τους καταγγέλλοντες είπε ότι «πρέπει να υπάρχει περισσότερη προστασία στην ΕΕ». «Στις ΗΠΑ με προστάτευε μια εταιρεία που ήταν εισηγμένη στο Χρηματιστήριο. Διαφορετικά δεν θα είχα καμία προστασία. Δεν ήξερα με ποιον έπρεπε να μιλήσω γι’ αυτά που έβλεπα και την καταστροφή της ζωής των ανθρώπων. Αν εργάζεσαι σε οποιαδήποτε άλλη δουλειά (πχ οδηγοί λεωφορείων) έχεις το δικαίωμα αν παρατηρήσεις κάτι περίεργο να πας και να αποτανθείς στις αρχές.».

Τα παιδιά

«Θα πρέπει να προστατεύουμε τις πιο ευάλωτες κατηγορίες και ομάδες. Με τις λέξεις κλειδιά στοχεύονται αυτόματα μέσω των αλγορίθμων οι έφημοι, οι νέοι, τα παιδιά» σημείωσε η Χόιγκεν.

«Η Facebook θα έπρεπε να μπορεί να μας λέει ποιο ποσοστό χρηστών είναι κάτω των 13 ετών και γενικότερα να μας δίνει δεδομένα. Μόνο έτσι μπορούμε να δούμε κατά πόσο η Facebook έχει καταβάλει προσπάθειες για να απομακρύνει τη χρήση τη πλατφόρμας από τα παιδιά. Τελικά και μέσα από μια φωτογραφία μπορούμε να εντοπίσουμε την ηλικία των χρηστών. Ωστόσο σίγουρα δεν θα απορρίψει χρήστες που προσπαθούν να γίνουν νέα μέλη».

«Νομίζω ότι είναι πολύ σημαντικό να συνειδητοποιήσουμε ότι υπάρχει ένα δίκτυο επιρροής που επηρεάζει τα παιδιά. Υπάρχουν πολλά παιδιά που χρησιμοποιούν εφαρμογές που τα καθιστούν δυστυχισμένα. Αισθάνονται αρνητικά όταν χρησιμοποιούν την εφαρμογή αυτή γιατί νιώθουν ότι θα περιθωριοποιηθούν. Ένας αποτελεσματικός τρόπος για να διασφαλιστούν τα δικαιώματα των παιδιών είναι να δώσουμε περισσότερη πληροφόρηση στους γονείς για να συμβουλεύουν καλύτερα τα παιδιά τους. Πολλές φορές ούτε εμείς γνωρίζουμε τι εκχωρούμε. Δεν μπορούμε να απαιτήσουμε από τα παιδιά να κάνουν συνειδητές επιλογές όταν ούτε εμείς δεν μπορούμε να κάνουμε συνειδητές επιλογές. Χρειάζεται περισσότερη έρευνα που θα συμμετέχουν τα παιδιά και θα καταθέτουν τι αισθάνονται και πως επηρεάζεται η ζωή τους από τα μέσα κοινωνικής δικτύωσης».

Ο ανταγωνισμός δεν θα λύσει το πρόβλημα του ελέγχου

Σχολιάζοντας την επισήμανση μέλους του ευρωκοινοβουλίου, ότι ο ανταγωνισμός μεταξύ των συστημάτων και των πλατφορμών θα μπορούσε να αυξήσει τη διαφάνεια, η Χόιγκεν είπε ότι «δεν περιμένω οι μικρότερες πλατφόρμες να προκύψουν σε μεγάλο αριθμό».

«Οι χώρες που έχουν τα δικά τους συστήματα στοχεύουν σε συγκεκριμένες ομάδες ενώ θα έπρεπε να διευρυνθεί το δίκτυο αυτό όπως περιγράψατε. Η διαλειτουργικότητα θα δημιουργήσει ακόμη μεγαλύτερη περιπλοκότητα. Πχ αν ανεβάσω φωτογραφία του παιδιού μου σε ένα μέσο κοινωνικής δικτύωσης και ύστερα διαδοθεί σε όλα τα υπόλοιπα μέσα κοινωνικής δικτύωσης τα οποία συνδέονται με το πρώτο, πώς μπορώ να διασφαλίσω ότι αν θελήσω να διαγράψω τη φωτογραφία, οι υπόλοιπες πλατφόρμες θα συμμορφωθούν και θα κατεβάσουν τη φωτογραφία; Είναι σημαντικό να δημιουργηθεί ένα ευρύτερο οικοσύστημα λογοδοσίας, όπου τα δεδομένα θα μπορούν να αναλυθούν από πολλές διαφορετικές ομάδες.».

Το λανθάνον «μάντρωμα» του χρήστη

«Το πρόβλημα του Facebook είναι ότι έχουμε ένα σύστημα που μεροληπτεί για την διάδοση του πιο ακραίου περιεχομένου» τόνισε η Χόγκεν. «Η Facebook σε καμία περίπτωση δεν θα θέλει να αποσύρονται οι χρήστες από συγκεκριμένες ομάδες. Το πρόβλημα είναι ότι θα καταλήγατε να λαμβάνετε πολλά spam από ομάδες που είχατε αποφασίσει να αποχωρήσετε.».

«Όσον αφορά την ψυχική υγεία, η έκθεση στην παραπληροφόρηση έχει οδηγήσει σε κατάθλιψη, σε διαζύγια. Η Facebook το εκμεταλλεύεται αυτό γιατί όταν βρίσκεσαι σε καθεστώς κατάθλιψης καταλήγεις να καταναλώνεις συγκεκριμένο περιεχόμενο. Ακόμη κι αν ακολουθείς ένα κεντρώο/μετριοπαθές περιεχόμενο, το Facebook καταλήγει να σε σπρώχνει σε ακραίο περιεχόμενο».

Σύγχυση μεταξύ ψηφιακής και πραγματικής ζωής

«Θυμάμαι στο παρελθόν ότι οι περισσότεροι θεωρούσαν ότι δεν υπάρχει επαρκής ενημέρωση για τη χρήση των πληροφοριών και της λειτουργίας του Facebook» είπε η μάρτυρας δημοσίου συμφέροντος. «Με ανησυχεί που υπάρχει ο εθισμός των πολιτών στα πλατφόρμες, πως εκτίθενται στην παραπληροφόρηση και στα ακραία μηνύματα. Με αυτό τον τρόπο απομονώνονται. Είναι χρήσιμο να ξέρουμε πόσες ώρες περνάει κάποιος κατά μέσο όρο στις πλατφόρμες.

»Εκπλήσσομαι με την περιθωριοποίηση των χρηστών, την απομόνωση από την πραγματικότητα και την πραγματική ζωή. Πρέπει να υπάρξουν μηχανισμοί ελέγχου και αυτοεκτίμησης. Θέλω να δω με το νέο σύστημα της metaverse αν μπορεί κάποιος να επιλέξει αν θέλει να συμμετέχει.

»Υπάρχει ακόμη σύγχιση μεταξύ ψηφιακής και πραγματικής ζωής. Πρέπει να περάσουμε από το σκοτάδι στο φως και να προσαρμοστεί η νομοθεσία. Δεν μπορούμε να συνεχίσουμε να εργαζόμαστε στο σκοτάδι. Η Facebook έδειξε ότι μπορεί να κάνει πράγματα όταν θέλει. Πρέπει να τους υποχρεώσουμε να μας δείξει πώς χρησιμοποιούνται αυτά τα δεδομένα. Είναι πολύ σημαντικό να ξέρουμε ποιες είναι οι διαδικασίες, οι έρευνες και ο τρόπος που τους επέτρεψε να φτάσουν σε αυτά τα δεδομένα.», κατέληξε.