Οι παρακάτω σημειώσεις υπό μορφή λίστας προέρχονται από την ανάγνωση του βιβλίου των: E.M. Bender, A. Hanna, L’inganno dell’Intelligenza Artificiale .Πρωτότυπος τίτλος: The AI Con: How to Fight Big Tech's Hype and Create the Future We. Στο κείμενο που ακολουθεί, ορισμένες παρατηρήσεις είναι του συγγραφέα και όχι των συγγραφέων.
1.Η Τ.Ν. είναι μια έννοια που επινοήθηκε το 1956 από μια ομάδα Αμερικανών μαθηματικών και επιστημόνων ηλεκτρονικών υπολογιστών (καθώς και φυσικών και μηχανικών) που προσπαθούσαν να δώσουν μια ελκυστική μορφή στο σύνολο των ερευνών τους για να εξασφαλίσουν χρηματοδότηση από τον στρατιωτικό τομέα.
2.Από αυτό προκύπτουν τέσσερα πράγματα: α) σε αυτόν τον τομέα επικρατεί μια έννοια της «νοημοσύνης» για την οποία, ωστόσο, δεν υπάρχει κανένας ορισμός που να έχει γίνει αποδεκτός από την παγκόσμια επιστημονική κοινότητα. Πρόκειται, εξάλλου, για μια έννοια που περιλαμβάνει διάφορες γνωστικές ικανότητες των ζωντανών οργανισμών, με αποτέλεσμα να υπάρχουν διάφορα επίπεδα και ικανότητες μεταξύ της προκαρυωτικής νοημοσύνης (βακτήρια) και της ανθρώπινης. Επίσης, οι ανθρώπινες «νοημοσύνες» είναι ποικίλες. Η αοριστία της έννοιας ευνοεί, επομένως, την απόδοση του χαρακτηρισμού «νοημοσύνη» κάπως τυχαία· β) από τη δεκαετία του ’50 έως σήμερα, το επιστημονικό σκέλος του τομέα αυτού απασχολεί φυσικούς, μαθηματικούς, μηχανικούς, επιστήμονες υπολογιστών και φιλοσόφους του νου με αναλυτική προσέγγιση, ενώ απουσιάζουν ως επί το πλείστον οι επιστήμονες που μελετούν τα ζωντανά όντα (βιολόγοι), καθώς και εκείνοι που ασχολούνται με το νου-εγκέφαλο τόσο από την «σκληρή» (γνωστικές νευροεπιστήμες) όσο και από την «μαλακή» (ψυχολόγοι) πλευρά· γ) από τις απαρχές αυτού του ερευνητικού πεδίου, οι χορηγοί υπήρξαν αρχικά οι στρατιωτικοί και οι κυβερνήσεις και στη συνέχεια επενδυτές επιχειρηματικών κεφαλαίων. Τέλος, επιχειρηματίες που προέρχονται κυρίως από σπουδές πληροφορικής, οικονομίας ή και από καμία από τις δύο· δ) ο όρος Τ.Ν. είναι συχνά ασαφής ή υπερβολικά γενικός (indeterminate concept), αφού καλύπτει ένα τεράστιο φάσμα τεχνολογιών με πολύ διαφορετικές ικανότητες και επιδόσεις.
3.Αυτή η δεύτερη σημείωση, στο σύνολό της, φαίνεται να υποδηλώνει ότι βρισκόμαστε μπροστά σε ένα ασαφές και συγκεχυμένο θέμα, το οποίο προωθούν επιστήμονες ή, ακόμα χειρότερα, τεχνικοί, που δεν γνωρίζουν τίποτα για τη νοημοσύνη των ζωντανών οργανισμών, και οι οποίοι υπόσχονται την τέλεια αναπαραγωγή γενικά ανθρώπινων επιδόσεων σε ανθρώπους που γνωρίζουν για τον άνθρωπο μόνο πόσους να σκοτώσουν (στρατιωτικοί) ή πώς να τον εκμεταλλευτούν για να αποκομίσουν κέρδος (καπιταλιστές).
4. Η σχέση μεταξύ προσδοκιών, πραγματικών τεχνικών επιδόσεων και χρηματοοικονομικών εξελίξεων έχει δημιουργήσει εδώ και δεκαετίες υπερβολικές προσδοκίες και απογοητευτικές καταρρεύσεις (γνωστές ως «χειμώνες της τεχνητής νοημοσύνης»). Κάτι που θα δημιουργούσε, μαζί με τον κορυφαίο των άσχετων δημοσιογράφων, έναν τεράστιο όγκο ενθουσιασμού (hype) γύρω από πολύ περιορισμένες επιδόσεις που απέχουν πολύ από τη βασική υπόθεση, δηλαδή την αναπαραγωγή της νοημοσύνης των ζωντανών όντων με άψυχη ύλη.
5.Σε αυτό το «hype» (εξαπάτηση, απάτη, διαφημιστικό τέχνασμα, ενθουσιώδης αλλά αβάσιμη σκέψη) εντάσσονται δύο φαινόμενα που το υποστηρίζουν έμμεσα: α) η υπερβολή των συστημικών κινδύνων (των «υπαρξιακών κινδύνων») έτσι ώστε ο φόβος ότι θα γίνουμε όλοι υλικό για την κατασκευή συνδετήρων (Bostrom, συγγραφέας ενός από τα χειρότερα βιβλία που έπρεπε να διαβάσω για ερευνητικούς λόγους), να μαρτυρά έμμεσα τις δυνατότητες που θα είχε ο τομέας· β) η υποστήριξη με παιδικό ενθουσιασμό αυτού του τεχνολογικού big bang που θα μας μεταμορφώσει σε μια δημιουργική φυλή ικανή να λύσει όλα τα προβλήματά της. Η συναισθηματική διχοτομία «καταστροφιστές/ενθουσιώδεις» ρίχνει μια παράλογη σκιά σε ολόκληρο το θέμα και τείνει να μετατοπίζει την οπτική γωνία στο μέλλον για να μην θέτουμε ερωτήματα για το παρόν.
6.Το σύνολο του θέματος, στις πιο ποικίλες πτυχές του, εδώ στη Δύση, αποτελεί ένα καθαρά αμερικανικό πεδίο σε επίπεδο τεχνικών, επιστημόνων, θεωριών, προγραμματιστών, επενδυτών, επιχειρηματιών, εταιρειών, στρατιωτικών, προγραμμάτων σπουδών, θεωρητικών και εκλαϊκευτών, ακόμη και στον οικονομικό (NASDAQ). Η εσωτερική κινητήρια δύναμη του φαινομένου αποτελείται περισσότερο από τεχνολογία παρά από επιστήμη (όπως συνέβαινε και με την Βιομηχανική Επανάσταση), υπεροχή της ποσότητας, υπολογιστική, μαθηματισμός, αναγωγισμός (της ανθρώπινης πολυπλοκότητας σε μηχανική πολυπλοκότητα), ανεξέλεγκτος επαγωγισμός, ντετερμινισμός, λογικισμός, πλατωνισμός, πραγματισμός, αποδοτισμός, βούληση για εξουσία, οικονομικό συμφέρον και μανία για κέρδος, λειτουργισμός, πανοπτικισμός και παρανοϊκές τάσεις ελέγχου, επιστημονική φαντασία με δυστοπικές παραλλαγές (όπως ο Φρανκενστάιν, ο HAL 9000, ο Εξολοθρευτής, το Matrix) και άλλα, όλα χαρακτηριστικά και θεμελιώδη στοιχεία της αγγλοσαξονικής κουλτούρας.
7. Αυτό οδηγεί σε έναν πραγματικό πολιτισμικό ιμπεριαλισμό σε εθνοτική βάση, καθώς η λογική αυτών των λογισμικών είναι διαποτισμένη από τις πολιτισμικές παραδοχές της συγκεκριμένης κουλτούρας, τα σύνολα δεδομένων με τα οποία εκπαιδεύονται τα συστήματα LLM (λογισμικά παραγωγής συνθετικού κειμένου) προέρχονται από αυτή την κουλτούρα (WASP), τα συστήματα μετάφρασης από ή προς τη γλώσσα τους είναι αποτελεσματικά, ενώ μεταξύ άλλων γλωσσών είναι γελοία, το φαντασιακό που μεταδίδεται είναι σύμφωνο με την πολιτισμική κυριαρχία τους σε συντονισμό με όλες τις άλλες μορφές (ακαδημαϊκός χώρος, κινηματογράφος, τηλεόραση, διαφήμιση κ.λπ.). Το όλο σύστημα λειτουργεί ως μια πραγματική μηχανή διαμόρφωσης και νευρο-προγραμματισμού του φαντασιακού. Όταν έχει κάποια συμβολή στην ψυχολογία, αυτή είναι συμπεριφοριστικού τύπου.
8. Η υπόθεση της επιστημονικής αξίας αποτελεί μέρος της συσκευασίας του πακέτου. Στην πραγματικότητα, οι ερευνητικές μέθοδοι είναι συχνά αδύναμες, τα επιχειρήματα χονδροειδή και τα κριτήρια αναφοράς αμφισβητήσιμα.
9. Όταν όλα αυτά φτάνουν στην κοινωνία, προκαλούν επισφάλεια, υπαμειβόμενες θέσεις εργασίας και δραστική μείωση επιχειρήσεων και θέσεων εργασίας, ενώ παράλληλα καταβροχθίζουν ενέργεια και νερό. Άλλωστε, για ποιο λόγο να ανοίξει κανείς μια επιχείρηση σε αυτόν τον τομέα, αν όχι για να αποκομίσει κέρδος; Και ποιοι είναι οι πελάτες που θα έπρεπε να αγοράσουν αυτά τα λογισμικά, αν όχι εκείνοι που στοχεύουν στην εξοικονόμηση του κόστους της ανθρώπινης εργασίας (η λεγόμενη «αναζήτηση της αποδοτικότητας»);
10. Οι προϋποθέσεις της AGI (δηλαδή της νοημοσύνης με αυτόνομη προθετικότητα, το εξελικτικό στάδιο της τεχνητής νοημοσύνης) με μηχανές που σκέφτονται, αισθάνονται και έχουν συνείδηση είναι εντελώς αβάσιμες. Αν δεν υπάρχει κοινός ορισμός για τη νοημοσύνη, όσον αφορά τη «συνείδηση» ή, χειρότερα, την «αυτοσυνείδηση», είμαστε σε ακόμη χειρότερη θέση, και το να σκεφτόμαστε να αναθέσουμε το θέμα στους μηχανικούς πληροφορικής είναι παράλογο. Το ίδιο ισχύει και για την ψευδο-έννοια της «μοναδικότητας», όπου η ποσότητα θα δημιουργούσε ένα «μαγικό» ποιοτικό άλμα.
11. Για να τηρήσουν την υπόσχεση της τέλειας αναπαραγωγιμότητας του ανθρώπου, αντί να επιτυγχάνουν αποτελέσματα με τις εφευρέσεις τους, φέρνουν τον άνθρωπο όλο και πιο κοντά στο να γίνει μηχανή, ώστε να ανταποκρίνεται σε αυτήν [την υπόσχεση/τη μηχανή].
12. Το ευρύτερο ενδιαφέρον για τη διατήρηση και υποστήριξη μιας «φούσκας ευπιστίας» (belief bubble) -ενός περιβάλλοντος δηλαδή όπου παραπληροφόρηση και μη επαληθευμένες πληροφορίες γίνονται δεκτές ως αλήθειες- έγκειται επίσης στις ολοένα και πιο περιορισμένες προοπτικές των δυτικών οικονομικών μοντέλων, δηλαδή των πολύ ώριμων οικονομιών (ιδίως της αμερικανικής), στις οποίες δεν απομένει σχεδόν τίποτα να εφεύρουν εκ νέου, ενώ το φθηνό χρήμα κυκλοφορεί ανυπόμονα αναζητώντας εύκολη και γρήγορη αναπαραγωγή (εξ ου και οι φούσκες).
13. Η εισβολή των διαφημιστικών συμφερόντων στο περιεχόμενο οδηγεί στην «enshittification»,στην εσκεμμένη, σταδιακή υποβάθμιση της ποιότητας ψηφιακών πλατφορμών και υπηρεσιών. Η χαμηλή ποιότητα της συνθετικής παραγωγής μολύνει το πολιτιστικό οικοσύστημα στο οποίο εισάγεται (βλ. τους αλγόριθμους αναζήτησης που επιλέγουν με βάση εμπορικές προτιμήσεις).
14. 14. Η ακολουθία του συμπεριφορικού μάρκετινγκ είναι «ενθαρρυντική», «απαραίτητη», «υποχρεωτική». Το επιχειρηματικό μοντέλο είναι το μοντέλο των εμπόρων ναρκωτικών, όπου ξεκινάει δωρεάν και κερδοφορεί σταδιακά καθώς προχωράει στο «απαραίτητο» και μετά στο «υποχρεωτικό».
15. Η Τεχνητή Νοημοσύνη (AI) επηρεάζει: το δικαστικό σύστημα, το διοικητικό σύστημα, το σύστημα υγείας, το εκπαιδευτικό σύστημα, τον κόσμο της τέχνης και της δημιουργικής έκφρασης (λογισμικό TTI), τις επιστημονικές εκδόσεις, τη δημοσιογραφία (ζούμε πλέον σε μια φούσκα «εφευρεμένης πραγματικότητας»). Μια μακροχρόνια αντίφαση είναι ότι η Τ.Ν. καταστρέφει το έργο των αρχικών δημιουργών περιεχομένου, με αποτέλεσμα, με την πάροδο του χρόνου, να έχει προοδευτικά μικρότερο απόθεμα περιεχομένου (για τη σύνθεση συνόλων δεδομένων).
16. Ο όρος «στοχαστικός παπαγάλος» (πιθανολογικό μοντέλο) φαίνεται να επινοήθηκε από μία από τις δύο συγγραφείς (μία γλωσσολόγο και μία κοινωνιολόγο). Μας υπενθυμίζει επίσης ότι ολόκληρη η επιχείρηση ανακυκλώνει την τυποποιημένη κουλτούρα, έχει λοιπόν μια ομοιοστατική πολιτισμική λειτουργία. Πρόκειται για στατιστικές συνθέσεις της γλωσσικής σύνθεσης του μέσου αισθήματος χωρίς καμία συνειδητή επιστημολογική εποπτεία και η μαζική της δύναμη δυσχεραίνει την πρωτότυπη σκέψη και προωθεί την mainstream.
17. Αν και στο βιβλίο δεν αναφέρεται, είναι καλό να γνωρίζουμε ότι ολόκληρη η ιστορία των Τεχνολογιών Πληροφοριών και Επικοινωνιών (ΤΠΕ) υπό αμερικανική καθοδήγηση, από τον Vannevar Bush ως τη DARPA, δεν είναι καθόλου αποτέλεσμα κάποιου «αόρατου χεριού», αλλά του πολύ ορατού χεριού και του εξίσου σκόπιμου στρατηγικού μυαλού του «βαθέως κράτους» των ΗΠΑ, ήδη από τον Β’ Παγκόσμιο Πόλεμο.
Προφανώς, σε όλο αυτό το χαμό υπάρχουν και πράγματα χρήσιμα και χωρίς ιδιαίτερες αντενδείξεις. Η λειτουργία μιας αναλυτικής, αξιολογημένης προσέγγισης είναι να εξισορροπεί μια απλή, αδιαφοροποίητη παράθεση δεδομένων, μια «διαλεκτική» λειτουργία.
Στην πράξη, ό,τι κάνουν οι παράγοντες του κλάδου βασίζεται σε έναν ορισμό του εγκεφάλου-νου ως «μαύρου κουτιού», η εν λόγω (αγγλοσαξονική) κουλτούρα θεωρεί ότι δεν μπορεί να πει τίποτα επιστημονικό (άρα δεν μπορεί να πει τίποτα) για το τι βρίσκεται μέσα στο κρανίο (που στην ουσία είναι κρανίο-σώμα), οπότε περιορίζονται στη παρατήρηση του αποτελέσματος, τι βγαίνει από το μαύρο κουτί για να προσπαθήσουν να το αναπαράγουν με ανόργανα στοιχεία. Αυτή η υπόθεση όμως είναι εξαρχής λανθασμένη επειδή τα ανόργανα στοιχεία δεν θα μπορέσουν ποτέ να αναπαράγουν οργανικές λειτουργίες· τα ανόργανα στοιχεία δεν θα είναι ποτέ αρκετά «έξυπνα», καθώς δεν θα είναι ποτέ ικανά να αυτοδημιουργηθούν σε επαφή με ομοειδή τους και τον κόσμο (το πρόβλημα της οντολογικής πλαστικότητας).
