Η αυτοματοποίηση της κοινωνίας και τα όριά της

Tiziano Bonini

Τα τελευταία χρόνια κυκλοφορούν διάφορα βιβλία με θέμα τις διαδικασίες αυτοματοποίησης που λειτουργούν με ψηφιακές τεχνολογίες: αυτοματοποίηση των προτιμήσεών μας (οι αλγόριθμοι του Spotify που μας υποδεικνύουν τι να ακούσουμε και διαμορφώνουν τις μουσικές μας προτιμήσεις), αυτοματοποίηση της εργασίας (όχι μόνο αντικατάσταση του ανθρώπου από τις μηχανές, αλλά και διεύθυνση της ανθρώπινης εργασίας μέσω των μηχανών, όπως με τους εργαζόμενους της Amazon ή τους εργαζόμενους της περιστασιακής απασχόλησης (gig economy), όπου ο εργοδότης ενσαρκώνετε στους αλγόριθμους των εφαρμογών που χρησιμοποιούν για να βρουν πελάτες), αυτοματοποίηση της κατανάλωσης (μας κατευθύνουν όλο και περισσότερο αλγόριθμοι που μας   υποδεικνύουν ποιο εμπόρευμα να αγοράσουμε), αυτοματοποίηση του πολιτισμού και της κοινωνίας γενικότερα.

Δύο πολύ σημαντικά βιβλία είναι : La Société automatique: L'avenir du travail του Bernard Stiegler (Η αυτοματοποιημένη κοινωνία:  το μέλλον της εργασίας ),και  το The Age of Surveillance Capitalism: The Fight for a Human Future at the New Frontier of Power (Ο καπιταλισμός της επιτήρησης. Το μέλλον της ανθρωπότητας στην εποχή των νέων εξουσιών) της Shoshana_Zuboff.

Στα αγγλικά κυκλοφορεί και το Automated Media του Mark Andrejevic Για τον Andrejevic, τη βιομηχανική εποχή χαρακτήριζε η αυτοματοποίηση της φυσικής εργασίας, ενώ η σημερινή εποχή της πληροφορίας χαρακτηρίζεται από την αυτοματοποίηση της γνωστικής και επικοινωνιακής εργασίας. Για τον Andrejevic, όταν ένας αλγόριθμος αποφασίζει ποιες ειδήσεις, κομμάτια μουσικής ή βίντεο θα μας δείξει, βρισκόμαστε μπροστά στην αυτοματοποίηση του πολιτισμού. Αυτό που ο Andrejevic ονομάζει «αυτοματοποιημένα μέσα» διαπερνούν τον γύρω μας κόσμο, διαμεσολαβώντας στις συναλλαγές μας με τους άλλους και με τα αντικείμενα . Τα δίκτυα ψηφιακών επικοινωνιών που χρησιμοποιεί η οικονομία της περιστασιακής απασχόλησης (gig economy), (η οικονομία πλατφορμών όπως η Uber και η Deliveroo) μπορούν να ενσωματώσουν,υποστηρίζει ο  Andrejevic, όλες τις μορφές εργασίας που κάποτε εκτελούνταν χωρίς επίβλεψη.

Για να ελέγχεται η εργασίας,σήμερα, χάριν της αποδοτικότητας της παραγωγής αυτή δεν είναι υποχρεωτικό να περιορίζεται στον εργοστασιακό χώρο, όπως γινόταν τα χρόνια του βιομηχανικού καπιταλισμού τον 19ο και το 20ό αιώνα. Ο πληροφορικός καπιταλισμός του 21ου αιώνα, μέσω των ψηφιακών δικτύων επικοινωνίας, μπορεί τώρα να επεκτείνει τον έλεγχό του σε όλες τις μορφές εργασίας εκτός των παραδοσιακών χώρων εργασίας. Η οικονομία της περιστασιακής απασχόλησης παρακολουθεί, ελέγχει και καθιστά παραγωγική την προσπάθεια ενός αναβάτη ποδηλάτου, την οδήγηση ενός οδηγού της Uber, την εργασία μιας νοσοκόμας  που φροντίζει ηλικιωμένους κλπ.

Ο Stiegler είναι ο πιο αποκαλυπτικός από όλους αυτούς τους συγγραφείς, αφού προ(βλέπει) τις συνέπειες  από την αυξανόμενη αυτοματοποίηση της κοινωνίας. Σύμφωνα με τον Stiegler, η Ανθρωπόκαινος περίοδος στην οποία ζούμε είναι «η περίοδος του βιομηχανικού καπιταλισμού, μια περίοδος στην οποία η υπολογιστική πρακτική υπερισχύει έναντι όλων των άλλων κριτηρίων λήψης αποφάσεων όπου το αλγοριθμικό και μηχανικό στυλ παίρνει μορφή και υλοποιείται ως αυτοματισμός ,ανοίγοντας έτσι το δρόμο στο μηδενισμό, καθώς η κοινωνία  των υπολογιστών γίνεται μια αυτοματοποιημένη και από απόσταση χειριζόμενη κοινωνία ». Ετσι,η καθημερινή μας ζωή «καθίσταται απόλυτα υπερπροσδιορισμένη από την αυτοματοποίηση, για παράδειγμα μέσω του smartphone».

Σύμφωνα με τον Stiegler, εμείς τα κοινωνικά όντα, τα υποταγμένα στον ψηφιακό καπιταλισμό έχουμε γίνει δυστυχώς όπως τα ρομπότ που υπερπροσδιορίζονται από αλγοριθμικούς μηχανισμούς  οι οποίοι κατευθύνουν τις κοινωνικές μας συμπεριφορές.

Με τον Stiegler συμφωνεί και η Shoshana Zuboff, η οποία στο μνημειώδες βιβλίο της The Age of Surveillance Capitalism (Ο καπιταλισμός της επιτήρησης) (ένα βιβλίο ιδιαίτερα σημαντικό για την κριτική κοινωνιολογία όσο σημαντικό για τους οικονομολόγους ήταν το Κεφάλαιο στον 21ο αιώνα του Piketty, πριν μερικά χρόνια) ξεσκεπάζει με μεγάλη ακρίβεια το μοντέλο δημιουργίας αξίας του σημερινού ψηφιακού καπιταλισμού: το καπιταλιστικό μοντέλο εταιριών όπως η Google και το Facebook βασίζεται στην ικανότητα παρακολούθησης της συμπεριφοράς δισεκατομμυρίων ανθρώπων. Η εποχή του καπιταλισμού της επιτήρησης, σύμφωνα με τη Zuboff, αρχίζει με την «ανακάλυψη» της «συμπεριφορικής υπεραξίας», δηλαδή των δεδομένων που σχετίζονται με τη συμπεριφορά των χρηστών όταν βρίσκονται εντός ή εκτός διαδικτύου. 

Η υπεραξία αυτή (σε αντίθεση με την κατά Μαρξ υπεραξία, δεν βασίζεται στην εκμετάλλευση του εργατικού δυναμικού, αλλά στα δεδομένα που παράγουν οι χρήστες), τροφοδοτεί την «μηχανική νοημοσύνη», τη νοημοσύνη που τροφοδοτείται από αλγόριθμους που «μαθαίνουν» αναλύοντας ένα μεγάλο όγκο συμπεριφορικών δεδομένων. Οι αλγόριθμοι αυτοί, σύμφωνα με τη Zuboff, είναι τα νέα «μέσα παραγωγής» του καπιταλισμού: όχι πια μηχανήματα ικανά να επιταχύνουν την ανθρώπινη εργασία στην παραγωγή υλικών αγαθών, αλλά λογισμικά που μπορούν να βελτιώσουν σημαντικά τη δυνατότητα πρόβλεψης της μελλοντικής συμπεριφοράς των χρηστών, μειώνοντας έτσι τους επιχειρηματικούς κινδύνους. 

Η Google και το Facebook επεξεργάζονται και βελτιώνουν τα δεδομένα συμπεριφοράς (την υπεραξία) μετατρέποντάς τα σε προβλέψεις, οι οποίες στη συνέχεια πωλούνται στην αγορά πρόβλεψης της συμπεριφοράς.

Η Zuboff αποδίδει στην Google και στο Facebook τη δυνατότητα ακριβούς πρόβλεψης της μελλοντικής μας συμπεριφορά και υποστηρίζει ότι ο απώτερος στόχος αυτού του τύπου καπιταλισμού είναι να προβλέψει πλήρως τη συμπεριφορά μας (τις ανάγκες, τις επιθυμίες των καταναλωτών, τις εγκληματικές απόπειρες, τη δυνατότητα αποπληρωμής ενός στεγαστικού δανείου, όλα όσα θα μπορούσαν να προβλεφθούν εκ των προτέρων, σύμφωνα με αυτή τη θεωρία), υποβαθμίζοντας μας στην πραγματικότητα σε ρομπότ. 

Για τον Andrejevic, αυτό που υπόσχεται η αυτοματοποίηση στην εποχή της πληροφορίας είναι ότι μπορεί να προβλέπει την αυτονομία βούλησης των ατόμων και τις επιθυμίες τους. Το να είσαι ελεύθερος σημαίνει να κάνεις και απρόβλεπτες κινήσεις, να αποφασίζεις να κάνεις πράγματα που δεν είχες κάνει μέχρι τότε, να αποκλίνεις από την πορεία των προηγούμενων ενεργειών σου. Αν η Zuboff έχει δίκιο, αν δηλαδή εισερχόμαστε σε  μια νέα εποχή όπου τις μελλοντικές μας πράξεις θα τις προεξοφλούν με πολύ μεγάλες πιθανότητες επιτυχίας έξυπνες μηχανές, τότε πού βρίσκεται η αυτονομία μας; Το παρακάτω απόσπασμα από το βιβλίο της Zuboff το εξηγεί καλά:

«Στο πλαίσιο του καθεστώτος εργαλιακής εξουσίας, η πνευματική αυτονομία και το δικαίωμα στο μέλλον χάνονται σταδιακά μέσα σε ένα νέο τύπο αυτοματισμού: ένα είδος καθημερινής εμπειρίας που διέπεται από διεργασίες ερεθισμού-απόκρισης-ενίσχυσης, εξομοιώσιμη με την αμφίδρομη κίνηση απλών οργανισμών (...) Πλέον δεν υπάρχει ανάγκη για μαζική υποταγή στα κοινωνικά πρότυπα, καμία παράδοση του εγώ στο συλλογικό από τρόμο και καταναγκασμό, καμία προσφορά αποδοχής και αλληλεγγύης ως ανταμοιβή για να υποκύψεις στην ομάδα. Όλα αυτά ξεπερνιούνται από μια ψηφιακή τάξη η οποία ευημερεί σε πράγματα και σώματα και μετατρέπει τη θέληση σε ενίσχυση και τη δράση σε απάντηση υπό όρους.

Με αυτόν τον τρόπο η εργαλιακή εξουσία  παράγει τεράστιους όγκους δεδομένων και γνώσεων για τους καπιταλιστές της επιτήρησης και μειώνει απεριόριστα την ελευθερία μας, ενώ ανανεώνει συνεχώς την κυριαρχία του καπιταλισμού της επιτήρησης πάνω στον καταμερισμό της γνώσης στην κοινωνία (...).Κάποτε η εξουσία ταυτιζόταν με την ιδιοκτησία των μέσων παραγωγής, σήμερα ταυτίζεται με την ιδιοκτησία των μέσων που μπορούν να τροποποιήσουν τις συμπεριφορές μας» (αυτό που η Zuboff  ονομάζει The Big Other, Ο Μεγάλος Αλλος).

Η Shoshana Zuboff υποστηρίζει ότι για τον καπιταλισμό της επιτήρησης «δεν αρκεί πλέον να αυτοματοποιήσουμε τις πληροφορίες που μας περιβάλλουν. Στόχος τώρα είναι η αυτοματοποίηση  της συμπεριφοράς μας»

Στην ερμηνεία της για τον σύγχρονο καπιταλισμό μας φαίνεται ότι ακούμε την ηχώ της κριτικής του εργαλειολογικού λόγου του Horkheimer και του Adorno: «η σκέψη πραγμοποιείται όπως μια αυτόματη διαδικασία, για να μπορέσει τελικά να αντικατασταθεί από τη μηχανή».

 Αλλά είναι πραγματικά έτσι; Αφήνουμε τον εαυτό μας να αυτοματοποιείται παθητικά από τις έξυπνες μηχανές του ψηφιακού καπιταλισμού; Βρισκόμαστε (και πάλι) αντιμέτωποι με την επιστροφή μιας (μοναδικής) αποκαλυπτικής θεώρησης των  (νέων) μέσων;

 Όλη αυτή η νέα έμφαση στο πώς οι ψηφιακές πλατφόρμες επηρεάζουν την πολιτική και μετασχηματίζουν τις πολιτιστικές βιομηχανίες, ασκώντας μια μορφή εξουσίας όλο και πιο διαδεδομένη, κινδυνεύει να χάσει από μπροστά της το διαθέσιμο ακόμα χώρο για τους ανθρώπους. Και αυτό ακριβώς κάνει η Zuboff, όταν λέει ότι η συλλογή δεδομένων και η χρήση αλγορίθμων πρόβλεψης από τις εταιρείες της τεχνολογικής βιομηχανίας αντιπροσωπεύουν μορφές τροποποίησης της συμπεριφοράς ικανές να καταστήσουν όχι μόνο εντελώς προβλέψιμη και διαχειρίσιμη την ανθρώπινη συμπεριφορά, αλλά και αυτοματοποιημένη μέσω μιας ανώτερης ψηφιακής τάξης.

Και αυτό ακριβώς είναι το είδος της περιγραφής της εξουσίας που κάνουν οι σύγχρονοι μεγιστάνες των μέσων μαζικής ενημέρωσης που βρίσκεται στο επίκεντρο της κριτικής της Sonia Livingstone: «Για να θεωρητικοποιήσουν τις πρόσφατες και βαθιές αλλαγές, οι μελετητές των μέσων ενημέρωσης επαναδιατυπώνουν μονολιθικά επιχειρήματα της εξουσίας τα οποία προσπαθούν να υποβαθμίσουν ή να αποκλείσουν το κοινό και την έννοια του κόσμου της  ζωής ». Η προσοχή στον όλο και πιο κεντρικό ρόλο των αλγορίθμων που τροφοδοτούν τις εμπορικές ψηφιακές πλατφόρμες κινδυνεύει να συσκοτίσει τη διερεύνηση για τον τύπο αυτονομίας, αν υπάρχει, που έχουν ακόμα οι χρήστες.

Αν είναι αλήθεια ότι οι εταιρείες αυτές συγκεντρώνουν μια πρωτοφανή εξουσία στην ιστορία, το παιχνίδι ωστόσο δεν έχει ακόμα χαθεί και τα άτομα δεν έχουν ακόμα αυτοματοποιηθεί και ποτέ δεν θα είναι αυτοματοποιημένα πλήρως, χωρίς τουλάχιστον να δώσουν «μάχη».

Στο βαθμό που συμφωνούμε με τα συμπεράσματα της Zuboff , θα καταλήξουμε να επαναλάβουμε τα «λάθη» της κριτικής σχολής, δηλαδή να πιστεύουμε ότι τα μέσα ενημέρωσης από μόνα τους μπορούν να δώσουν τη νίκη στον Τράμπ, να επιβάλουν τον Εθνικοσοσιαλισμό σε ένα έθνος ,να πουληθούν άχρηστα εμπορεύματα. Η αντίληψη ότι οι άνθρωποι είναι παθητικά ρομπότ, που εξαρτώνται από τα μέσα μαζικής ενημέρωσης, δεν είναι κάτι καινούργιο στην ιστορία: για τον Adorno, το αμερικανικό εμπορικό ραδιόφωνο ήταν μία πολύ ισχυρή μηχανή επιρροής της συλλογικής συμπεριφοράς, όπως ήταν και το ναζιστικό ραδιόφωνο στη Γερμανία.

Η άποψη αυτή, η οποία σε γενικές γραμμές αποτυπώνει σημαντικές πλευρές της εξουσίας των μέσων μαζικής ενημέρωσης, είναι, συνήθως, μια απλοϊκή αντίληψη για την κοινωνία.

Παραφράζοντας τον Raymond Williams, ο οποίος το 1958 έγραφε ότι «δεν υπάρχουν μάζες, υπάρχουν τρόποι να βλέπουμε τους ανθρώπους ως μάζες» θα μπορούσαμε να πούμε ότι «δεν υπάρχουν ρομπότ, υπάρχουν τρόποι να βλέπουμε τους ανθρώπους ως ρομπότ».

 Η ερμηνεία που προτείνω δεν πηγαίνει προς την αντίθετη κατεύθυνση (των «ενσωματωμένων» που αποδέχονται αβασάνιστα τη διαδικασία αυτοματοποίησης και βλέπουν μόνο τις θετικές πλευρές της), αλλά εκτυλίσσεται διευρύνοντας το οπτικό μας πεδίο και περιλαμβάνοντας σ'αυτό όλες εκείνες τις  καταστάσεις στις οποίες οι άνθρωποι αντιστέκονται,τις υπονομεύουν και παραβιάζουν το έργο των αλγορίθμων,τους επαναχρησιμοποιούν και τους αξιοποιούν για σκοπούς που δεν είχαν αρχικά προβλεφθεί.

Βρισκόμαστε μέσα, παρά τη θέλησή μας,μέσα σε αυτό το μηντιακό οικοσύστημα και δεν είναι εύκολο να κάνουμε χωρίς πολλές από αυτές τις πλατφόρμες, όμως η σχέση μας με αυτές δεν εξελίσσεται ποτέ χωρίς τριβές, ποτέ δε δεχόμαστε παθητικά τα αποτελέσματα της εργασίας των αλγορίθμων.

Η σχέση που δημιουργούμε με τις αλγοριθμικές μηχανές είναι περίπλοκη, ακόμα κι όταν  η ζυγαριά γέρνει προς την πλευρά τους. Ωστόσο, χρήστες και πλατφόρμες συνυπάρχουν με τρόπο περίπλοκο. Η Δανή μελετητής των μέσων ενημέρωσης Tania Bucher παρατήρησε κάποτε ότι «ενώ οι αλγόριθμοι σίγουρα κάνουν πράγματα  για τους ανθρώπους, οι άνθρωποι κάνουν και αυτοί πράγματα  για τους αλγόριθμους». Τα αλγοριθμικά συστήματα θα πρέπει να θεωρούνται ως ένα πεδίο μάχης όπου η εξουσία τους τίθεται συνεχώς υπό διαπραγμάτευση.

Όταν ο αλγόριθμος Netflix μας συνιστά πολλές ρομαντικές ταινίες, αναρωτιόμαστε αν είμαστε πραγματικά τόσο ρομαντικοί όσο πιστεύει ο αλγόριθμος και τότε αρχίζουμε να κάνουμε κλικ σε σειρές γεμάτες βία μόνο για λόγους αντιπαράθεσης  με τον αλγόριθμο.

Στο Instagram υπάρχουν ομάδες «αλληλεγγύης» των χρηστών που οργανώνονται για να βάζουν λάικ στις φωτογραφίες των μελών της ομάδας για να βοηθήσουν ο ένας τον άλλο να δίνουν μεγαλύτερη προβολή στις εικόνες τους, εξαπατώντας τον αλγόριθμο που πιστεύει ότι είναι μάρτυρας μιας ξαφνικής αύξησης του ενδιαφέροντος για μια εικόνα οπότε την προωθεί περαιτέρω. Ακριβώς όπως στο Spotify, όπου ομάδες υποστηρικτών οργανώνονται για να κάνουν κλικ στα τραγούδια του αγαπημένου τους καλλιτέχνη που μόλις κυκλοφόρησαν, για να εξαπατήσουν τον αλγόριθμο του Spotify και να βάλουν το τραγούδι στις πιο δημοφιλείς λίστες αναπαραγωγής.

Στην Uber, όταν οι τιμές της διαδρομής είναι πολύ χαμηλές λόγω της υπερβολικής προσφοράς, οι ταξιτζήδες οργανώνονται μέσω chat και αποσυνδέονται ταυτόχρονα από την εφαρμογή, εξαπατώντας έτσι τους αλγόριθμους της Uber κάνοντάς τους να πιστέψουν ότι υπάρχει έλλειψη οδηγών, οπότε οι αλγόριθμοι ανεβάζουν την τιμή των διαδρομών και οι οδηγοί ένας-ένας επιστρέφουν, αλλά καταφέρνουν να αποσπάσουν διαδρομές σε υψηλότερη τιμή.

Όταν ο Τραμπ επισκέφθηκε το Λονδίνο για πρώτη φορά,πολιτικοί ακτιβιστές «πείραξαν» τον αλγόριθμο αναζήτησης της Google και έτσι διασφάλισαν ότι εάν ένας χρήστης αναζητούσε τη λέξη «ηλίθιος» στις εικόνες της Google,η μηχανή αναζήτησης θα του έβγαζε μόνο εικόνες του Τραμπ.

Ένας νεαρός Άγγλος δημιούργησε τον λογαριασμό ενός ψεύτικου εστιατορίου στο TripAdvisor και σε μικρό χρονικό διάστημα το έκανε το πιο δημοφιλές εστιατόριο του Λονδίνου στην πλατφόρμα, εμπαίζοντας τους φημισμένους αλγόριθμους του Tripadvisor.

 Αυτά είναι ορισμένα μόνο παραδείγματα πρακτικών συγκατοίκησης που επιστράτευσαν κάποια άτομα για να επιβιώσουν, χωρίς να υποκύψουν, στα αποτελέσματα των αλγορίθμων.

Αν δεν μπορούμε να τους νικήσουμε, μπορούμε τουλάχιστον να ζήσουμε μαζί προσπαθώντας να τους αντισταθούμε, απαντώντας με κινήσεις τακτικής. Σε κάθε περίπτωση όταν ένας «αδύναμος» δεν μπορεί να αποφύγει τη συνύπαρξη με έναν «ισχυρό», πάντα προέκυπταν αμυντικές τακτικές για να διασφαλιστεί η επιβίωση. Ο James Scott περιέγραψε τα «weapons of the weak»,τα όπλα των αδύναμων», τις μορφές καθημερινής αντίστασης των αγροτών στην ιστορία. 

Τώρα είναι η στιγμή να αποφασίσουμε ακόμη και τις πιο ανώδυνες μορφές καθημερινής αντίστασης στο έργο των αλγορίθμων.

Επειδή όσο αντιμετωπίζουμε αυτές τις πρακτικές, σημαίνει ότι δεν έχουμε ακόμα αυτοματοποιηθεί, σημαίνει ότι υπάρχουν ακόμα περιθώρια διαχείρισης της ζωής μας με κάποια σχετική αυτονομία για να μην παίρνουμε αποφάσεις που  εξαρτώνται από τις προβλέψεις ενός αλγορίθμου.

Η Zuboff έχει δίκιο όταν περιγράφει αυτή τη νέα εποχή του καπιταλισμού και μας υπενθυμίζει ότι θα πρέπει να γνωρίζουμε το οικονομικό και κοινωνικό μοντέλο στο οποίο μπαίνουμε. Ωστόσο, πιστεύω ότι δεν έχει δίκιο όταν ισχυρίζεται απλουστευτικά ότι αφήνουμε τον εαυτό μας να αυτοματοποιηθεί.

Συμφωνώντας με τον Stuart Hall ο οποίος ισχυρίζεται ότι ο πολιτιστικός τομέας είναι πάντα πεδίο μάχης, πιστεύω ότι ακόμα και σήμερα το πολιτιστικό πεδίο με τη μεσολάβηση των ψηφιακών τεχνολογιών είναι ένα πεδίο μάχης όπου διάφοροι παίκτες συνδέονται μεταξύ τους με διαφορετικές σχέσεις εξουσίας και δεν υπάρχει ένας μόνο παίκτης σε θέση σταθερής κυριαρχίας.

Ναι, ζούμε σε μια κοινωνία επιτήρησης, αλλά μπορούμε πάντα να βάζουμε μια μάσκα και να καλύπτουμε τις κάμερες ή τα drones, όπως έκαναν οι διαδηλωτές στο Χονγκ Κονγκ. Η σύγκρουση είναι ανοικτή, οι ήχοι της μάχης είναι εδώ, αλλά το αποτέλεσμα είναι ακόμα αβέβαιο.

                                                

[---->]