Πρόκειται για την πιο επιτυχημένη εφαρμογή βίντεο στον κόσμο. Ο λόγος για το Tik Tok, που ενώνει την κοινωνική δικτύωση με τη μουσική σε μια πρωτότυπη πλατφόρμα αυτοδημιούργητων βίντεο κι έχει καταφέρει να προσελκύσει δισεκατομμύρια χρήστες. Ωστόσο ένα εσωτερικό έγγραφο της εταιρείας ρίχνει φως στον τρόπο που λειτουργεί ο αλγόριθμος για να μας κρατά εθισμένους.

Τέσσερις κύριους στόχους φαίνεται να έχει ο αλγόριθμος του TikTok, την πρόσκαιρη αξία για τον χρήστη, την μακροχρόνια αξία για τον χρήστη, την αξία για τον δημιουργό και την αξία για την πλατφόρμα. Αυτό το σύνολο στόχων προέρχεται από το αποκαλυπτικό έγγραφο για τους υπαλλήλους της εταιρείας που προσφέρει νέες λεπτομέρειες για το πώς η πιο επιτυχημένη εφαρμογή βίντεο στον κόσμο έχει δημιουργήσει ένα τόσο διασκεδαστικό – κάποιοι θα έλεγαν εθιστικό – προϊόν.

Το έγγραφο, με τίτλο «TikTok Algo 101», δημιουργήθηκε από την ομάδα μηχανικών του TikTok στο Πεκίνο. Μια εκπρόσωπος της εταιρείας, η Hilary McQuaide, επιβεβαίωσε την αυθεντικότητά του και είπε ότι γράφτηκε για να εξηγήσει σε μη τεχνικούς υπαλλήλους πώς λειτουργεί ο αλγόριθμος. Το έγγραφο δίνει ξεκάθαρη εικόνα της φιλοσοφίας της εφαρμογής και της άριστης γνώσης που έχει αποκτήσει γύρω από τις ανθρώπινες ανάγκες. Η πλήξη της καθημερινότητας και η ευαισθησία μας σε πολιτιστικά ερεθίσματα προσφέρει μία εξήγηση για την επιτυχία του TikTok και για το πόσο εθιστικό μπορεί να αποδειχθεί.

Παράλληλα, το έγγραφο αποκαλύπτει τις στενές σχέσεις μεταξύ της TikTok και της κινεζικής μητρικής της εταιρείας, ByteDance, την ώρα που το υπουργείο Εξωτερικών των ΗΠΑ ετοιμάζεται να δημοσιοποιήσει έκθεση για τους κινδύνους που ενδέχεται να παρουσιάζει η εφαρμογή για την αμερικανική εθνική ασφάλεια.

Ένας αλγόρυθμος… απειλή;

Εάν ανήκετε στα δισεκατομμύρια άτομα που ξοδεύουν χρόνο στο TikTok κάθε μήνα, θα γνωρίζετε ότι σε αντίθεση με τα άλλα μέσα κοινωνικής δικτύωσης χρησιμοποιείται περισσότερο με στόχο την ψυχαγωγία κι όχι τόσο τη σύνδεση με φίλους. Το κλειδί της επιτυχίας της φαίνεται να είναι το γεγονός ότι  κάνει τη δημιουργία βίντεο τόσο εύκολη, δίνοντας στους χρήστες τη δυνατότητα να δημιουργήσουν βίντεο με μουσική υπόκρουση, εντυπωσιακά εφέ και διασκεδαστικά εικονίδια. Αλλά ακόμα και οι χρήστες που παρακολουθούν το υλικό του TikTok χωρίς να δημοσιεύουν παρακολουθούνται και αυτοί, με την εφαρμογή να έχει αποκτήσει σπάνια ικανότητα να κατευθύνει τον χρήστη προς τομείς του ενδιαφέροντός του, από την σεξουαλικότητα, μέχρι τις πολιτικές πεποιθήσεις ή κάποιους celebrities.

Το TikTok φαίνεται ότι λαμβάνει υπόψη παράγοντες όπως τα likes και τα σχόλια καθώς και πληροφορίες από τα βίντεο, όπως λεζάντες και hashtag. Μια πρόσφατη αναφορά της Wall Street Journal έδειξε πώς το TikTok συμπεραίνει ποιες είναι οι προτιμήσεις σας ανάλογα με το πόσο χρόνο περνάτε παρακολουθώντας συγκεκριμένα βίντεο. Η διαδικασία αυτή μπορεί ωστόσο να αποδειχθεί επιζήμια για εφήβους, με την εφαρμογή να προωθεί συχνά υλικό που διαφημίζει τον αυτοτραυματισμό. Από τη μεριά του το TikTok λέει ότι προσπαθεί να το σταματήσει αυτό, αφαιρώντας κάθε βίντεο που παραβιάζει τους ήδη αυστηρούς κανόνες χρήσης του.

Το νέο έγγραφο κοινοποιήθηκε στους New York Times εξηγεί πως η εταιρεία του TikTok επιδιώκει να προσθέτει καθημερινά νέους ενεργούς χρήστες, δίνοντας έμφαση σε δύο κρίσιμα στοιχεία: την επιστροφή χρηστών στην εφαρμογή και τον χρόνο παραμονής κάθε χρήστη της εφαρμογής στην οθόνη του. Η εμπειρία πολλών χρηστών παρομοιάζεται συχνά με εθισμό, πείθοντας πολλούς αναλυτές ότι τέτοιοι αλγόριθμοι αποτελούν κοινωνική απειλή.

Για τους αναλυτές που πιστεύουν ότι οι αλγοριθμικές συστάσεις αποτελούν κοινωνική απειλή, το έγγραφο επιβεβαιώνει τις υποψίες τους. «Αυτό το σύστημα σημαίνει ότι ο χρόνος παρακολούθησης είναι το κλειδί. Ο αλγόριθμος προσπαθεί να εθίσει τους ανθρώπους αντί να τους δώσει αυτό που πραγματικά θέλουν», δήλωσε ο Guillaume Chaslot, ιδρυτής της Algo Transparency, μιας ομάδας που έχει μελετήσει το σύστημα συστάσεων του YouTube και έχει μια σκοτεινή άποψη για την επίδραση του κυρίως στα παιδιά.

«Νομίζω ότι είναι μια τρελή ιδέα να αφήσουμε τον αλγόριθμο του TikTok να κατευθύνει τη ζωή των παιδιών μας», είπε. «Για κάθε βίντεο που παρακολουθεί ένα παιδί, το TikTok αποκτά μια πληροφορία για αυτό. Σε λίγες ώρες, ο αλγόριθμος μπορεί να ανιχνεύσει τα μουσικά του γούστα, την σεξουαλικότητα του, αν έχει κατάθλιψη, αν παίρνει φαρμακευτική αγωγή και πολλές άλλες ευαίσθητες πληροφορίες. Υπάρχει μεγάλος κίνδυνος, ορισμένες από αυτές τις πληροφορίες να χρησιμοποιηθούν εναντίον του».

Το έγγραφο αναφέρει ότι ο χρόνος παρακολούθησης δεν είναι ο μόνος παράγοντας που εξετάζει το TikTok. Το έγγραφο προσφέρει μια πρόχειρη εξίσωση για το πώς βαθμολογούνται τα βίντεο, στην οποία αθροίζονται μια πρόβλεψη που καθοδηγείται από μηχανική μάθηση και η πραγματική συμπεριφορά των χρηστών για κάθε ένα από τα τρία κομμάτια δεδομένων: τα likes, τα σχόλια και το χρόνο αναπαραγωγής, καθώς και μια ένδειξη ότι το βίντεο έχει αναπαραχθεί: Plike X Vlike + Pcomment X Vcomment + Eplaytime X Vplaytime + Pplay X Vplay.

«Το σύστημα συστάσεων δίνει βαθμολογία σε όλα τα βίντεο με βάση αυτή την εξίσωση και επιστρέφει στους χρήστες τα βίντεο με την υψηλότερη βαθμολογία», αναφέρει το έγγραφο. «Για λόγους συντομίας, η εξίσωση που παρουσιάζεται σε αυτό το έγγραφο είναι ιδιαίτερα απλοποιημένη. Η πραγματική εξίσωση που χρησιμοποιείται είναι πολύ πιο περίπλοκη, αλλά η λογική πίσω από αυτήν είναι η ίδια».

Το έγγραφο απεικονίζει λεπτομερώς πώς η εταιρεία βελτιώνει το σύστημά της για να εντοπίζει και να καταστέλλει τα «like bait» – βίντεο που έχουν σχεδιαστεί για να παίζουν με τον αλγόριθμο ζητώντας ρητά από τους χρήστες να τους κάνουν like – και πώς η εταιρεία σκέφτεται λεπτομερέστερα. «Ορισμένοι συγγραφείς μπορεί να έχουν κάποιες πολιτιστικές αναφορές στα βίντεό τους και οι χρήστες μπορούν να κατανοήσουν καλύτερα αυτές τις αναφορές μόνο αν παρακολουθήσουν περισσότερα από τα βίντεο του συγγραφέα. Ως εκ τούτου, η συνολική αξία που ένας χρήστης παρακολουθεί όλα αυτά τα βίντεο είναι υψηλότερη από τις αξίες της παρακολούθησης κάθε μεμονωμένου βίντεο αθροιζόμενες», αναφέρεται στο έγγραφο. «Ένα άλλο παράδειγμα: αν σε έναν χρήστη αρέσει ένα συγκεκριμένο είδος βίντεο, αλλά η εφαρμογή συνεχίζει να του προωθεί το ίδιο είδος, γρήγορα θα βαρεθεί και θα κλείσει την εφαρμογή. Σε αυτή την περίπτωση, η συνολική αξία που δημιουργείται από τον χρήστη που παρακολουθεί το ίδιο είδος βίντεο είναι χαμηλότερη από εκείνη που δημιουργείται από την παρακολούθηση κάθε μεμονωμένου βίντεο, επειδή η επανάληψη οδηγεί στην πλήξη».

«Υπάρχουν δύο λύσεις σε αυτό το ζήτημα», συνεχίζει το έγγραφο. «Κάντε κάποιες υποθέσεις και αναλύστε την αξία στην εξίσωση. Για παράδειγμα, όσον αφορά την επαναλαμβανόμενη έκθεση, θα μπορούσαμε να προσθέσουμε μια τιμή «same_author_seen» και για το ζήτημα της πλήξης, θα μπορούσαμε επίσης να προσθέσουμε μια αρνητική τιμή «same_tag_today». Άλλες λύσεις εκτός από την εξίσωση τιμών μπορεί επίσης να λειτουργήσουν, όπως η αναγκαστική σύσταση στους χρήστες για διασπορά κ.λπ. Για παράδειγμα, το ζήτημα της πλήξης μπορεί να επιλυθεί μέσω της διασποράς».

Ένα άλλο γράφημα στο έγγραφο δείχνει ότι η «εμπορική εκμετάλλευση των δημιουργών» είναι ένας από τους στόχους της εταιρείας, γεγονός που υποδηλώνει ότι το TikTok μπορεί να ευνοεί εν μέρει τα βίντεο εάν είναι κερδοφόρα, όχι απλώς ψυχαγωγικά.

Το έγγραφο καθιστά επίσης σαφές ότι η TikTok δεν έχει κάνει τίποτα για να διακόψει τους δεσμούς της με την κινεζική μητρική της, την ByteDance, η ιδιοκτησία της οποίας έγινε επίκεντρο στο τέλος της διακυβέρνησης του προέδρου Donald J. Trump το 2020, όταν προσπάθησε να επιβάλει την πώληση της TikTok σε μια αμερικανική εταιρεία που συμμάχησε με την κυβέρνησή του, την Oracle.

Οι ανησυχίες των ΗΠΑ

Οι Ηνωμένες Πολιτείες ανησυχούν ότι η κινεζική κυβέρνηση θα μπορούσε να δημιουργήσει φακέλους με προσωπικές πληροφορίες για εκβιασμό και να διεξάγει εταιρική κατασκοπεία.  Οι ανησυχίες της αμερικανικής κυβέρνησης για την ασφάλεια έχουν δύο μορφές. Η πρώτη είναι κατά πόσον ο τεράστιος όγκος δεδομένων που κατέχει η TikTok – σχετικά με τις σεξουαλικές επιθυμίες των χρηστών της εφαρμογής που μπορεί να καταλήξουν να γίνουν Αμερικανοί δημόσιοι υπάλληλοι, για παράδειγμα – θα πρέπει να θεωρηθεί ως ζήτημα εθνικής ασφάλειας. Δεν υπάρχει καμία απόδειξη ότι τα δεδομένα έχουν χρησιμοποιηθεί ποτέ με αυτόν τον τρόπο, και το TikTok δεν είναι το μόνο μέρος όπου οι Αμερικανοί μοιράζονται λεπτομέρειες της ζωής τους στα μέσα κοινωνικής δικτύωσης. Η δεύτερη ανησυχία είναι κατά πόσον το TikTok λογοκρίνει πολιτικά ευαίσθητες αναρτήσεις κι αν η κινεζική κυβέρνηση θα μπορούσε να χρησιμοποιήσει την πλατφόρμα για τη διάδοση προπαγάνδας. 

Μια έκθεση φέτος από το Citizen Lab, τον οργανισμό παρακολούθησης της κυβερνοασφάλειας στο Τορόντο, υπέδειξε ότι και οι δύο αυτές ανησυχίες είναι, στην καλύτερη περίπτωση, λανθάνουσες: Δεν βρήκε καμία ένδειξη ότι το TikTok είτε λογοκρίνει ευαίσθητα θέματα είτε διαβιβάζει δεδομένα στην Κίνα.

Ορισμένοι Αμερικανοί αναλυτές βλέπουν το TikTok ως μια βαθιά απειλή- άλλοι το βλέπουν ως το είδος πανικού χωρίς αιτία που αντιμετώπισαν οι Αμερικανοί που πλησιάζουν τώρα τη μέση ηλικία, όταν οι γονείς τους τους προειδοποιούσαν ότι αν μοιράζονταν λεπτομέρειες της ζωής τους στα μέσα κοινωνικής δικτύωσης, δεν θα έβρισκαν ποτέ δουλειά. Πολλά ακόμη προϊόντα, από τα κοινωνικά δίκτυα μέχρι τις τράπεζες και τις πιστωτικές κάρτες, συλλέγουν πιο ακριβή δεδομένα για τους χρήστες τους. Αν οι ξένες υπηρεσίες ασφαλείας ήθελαν αυτά τα δεδομένα, θα μπορούσαν πιθανώς να βρουν έναν τρόπο να τα αγοράσουν από τη «σκοτεινή βιομηχανία» των μεσιτών δεδομένων.

Ένα πράγμα είναι σίγουρο, ασχέτως με τι ανησυχίες και τους φόβους των Αμερικανών. Η αντίληψη του αλγορίθμου για το τι με κρατάει εθισμένο, δηλαδή όλα τα πράγματα που έχει καταλάβει ότι μου αρέσει να παρακολουθώ, αποτελεί έναν σαφή και υπαρκτό κίνδυνο τόσο για τους μικρούς όσο και για τους μεγάλους.