Η τεχνητή νοημοσύνη που μας αξίζει

Οι κριτικές της τεχνητής νοημοσύνης αφθονούν. Πού είναι όμως το ουτοπικό όραμα για την επιθυμητή της υπόσταση; 1. Παρότι πρόκειται για τεχνολογία που εμφανίστηκε εντελώς ξαφνικά, η παραγωγική τεχνητή νοημοσύνη (GenAI) σημείωσε αξιοσημείωτη άνοδο σε μία διετία. Είναι σχεδόν απίστευτο ότι το ChatGPT, κύριος εκπρόσωπος αυτής της επανάστασης στο ευρύ κοινό, έγινε διαθέσιμο εμπορικά μόλις στις 30 Νοεμβρίου 2022. Η εν λόγω τεχνολογία προωθήθηκε έντονα, και αυτό αναμένεται να συνεχιστεί, όμως ακούγεται πλέον ότι πρόκειται για φούσκα έτοιμη να σκάσει. Οι υπέρμαχοί της έχουν σε κάποια σημεία δίκιο. Η παραγωγική τεχνητή νοημοσύνη φέρνει τα πάνω κάτω σε αρκετούς κλάδους, και πολλοί θεωρούν ότι έχει συγκλονιστική δύναμη αλλά και συγκλονιστική χρησιμότητα. Στην υγειονομική περίθαλψη, τα συστήματα τεχνητής νοημοσύνης βοηθούν πλέον τους γιατρούς να συνοψίζουν τα αρχεία των ασθενών και να προτείνουν θεραπείες, παρ’ όλο που υπάρχει πάντα πιθανότητα λάθους και απαιτείται προσεκτική επίβλεψη. Στους δημιουργικούς τομείς, η τεχνητή νοημοσύνη παράγει τα πάντα, από εξατομικευμένο προωθητικό περιεχόμενο έως το περιβάλλον ενός βιντεοπαιχνιδιού. Στη δε εκπαίδευση, τα εργαλεία που λειτουργούν με τεχνητή νοημοσύνη μπορούν να απλοποιήσουν πυκνά ακαδημαϊκά κείμενα και να προσαρμόσουν το εκπαιδευτικό υλικό έτσι ώστε να ανταποκρίνεται στις ατομικές ανάγκες των μαθητών. Σε προσωπικό επίπεδο, η νέα τεχνητή νοημοσύνη έχει αναδιαμορφώσει την προσέγγισή μου στις καθημερινές αλλά και τις επαγγελματικές εργασίες μου, με τα πιο εντυπωσιακά αποτελέσματα σε ό,τι αφορά την εκμάθηση γλωσσών. Χωρίς να ξέρω να γράψω ούτε μία γραμμή κώδικα, δημιούργησα πρόσφατα μια εφαρμογή που αξιοποιεί τρεις διαφορετικές υπηρεσίες τεχνητής νοημοσύνης και δημιουργεί κατά παραγγελία μικρές ιστορίες, με ήχο προερχόμενο από φυσικούς ομιλητές. Οι ιστορίες αυτές είναι εμπλουτισμένες με δύσκολο λεξιλόγιο και ιδιωματισμούς προσαρμοσμένους στα μαθησιακά μου κενά. Όταν δυσκολεύομαι με λέξεις όπως Vergesslichkeit («το να ξεχνάς» στα Γερμανικά), τότε αυτές εμφανίζονται ξανά και ξανά, μαζί με δεκάδες άλλες που προσπαθώ να κατακτήσω τη χρήση τους. Στις πάνω από δύο δεκαετίες που μελετώ τις γλώσσες, δεν έχω χρησιμοποιήσει ποτέ τόσο ισχυρό εργαλείο. Όχι μόνο αυξάνει την παραγωγικότητά μου, αλλά επαναπροσδιορίζει την έννοια της αποτελεσματικότητας – τις θεμελιώδεις υποσχέσεις της παραγωγικής τεχνητής νοημοσύνης. Η κλίμακα και η ταχύτητα είναι πράγματι εντυπωσιακές. Πώς αλλιώς θα μπορούσα να βρω, μέσα σε μόλις δεκαπέντε λεπτά, εξήντα ιστορίες που ανταποκρίνονται στις ανάγκες μου, μαζί με ώρες ολόκληρες ηχητικού υλικού σε έξι γλώσσες – κι όλα αυτά ενώ περιηγούμαι χαλαρά στο διαδίκτυο; Και το καλύτερο; Για να φτιάξω την εφαρμογή, η οποία τώρα κάθεται ήσυχα στον φορητό υπολογιστή μου, χρειάστηκα λιγότερο από ένα απόγευμα, αφού το ChatGPT έγραψε όλο τον κώδικα για λογαριασμό μου. Vergesslichkeit, au revoir! Όμως, η τεχνητή νοημοσύνη δεν φέρνει μόνο την ευφορία της νέας τεχνολογικής εμπειρίας, φέρνει και νέες αγωνίες. Το εκπαιδευτικό πλαίσιο είναι χαρακτηριστική περίπτωση: το ChatGPT δεν προσφέρει μόνο δυνατότητες για εξατομικευμένη διδασκαλία αλλά και για εφαρμογή αθέμιτων πρακτικών. Η παραγωγική τεχνητή νοημοσύνη έχει δείξει ότι μπορεί να τη διευκολύνει – ένας σοβαρός λόγος για να οδηγηθούμε σε ηθικό πανικό. Γι’ αυτό και η δημόσια ανησυχία για τις πιθανές –και ενίοτε ήδη αισθητές– επιπτώσεις της αυξάνεται. Το πεδίο δράσης της τεχνητής νοημοσύνης εκτείνεται βαθιά στην κοινωνική και πολιτική ζωή, από την αυτοματοποιημένη λήψη αποφάσεων σε κυβερνητικούς και εταιρικούς φορείς έως τον ρόλο της στην παρακολούθηση, την ποινική δικαιοσύνη, ακόμη και τον πόλεμο. Είναι σε θέση να αναπαράγει προκαταλήψεις, να διευρύνει την ανισότητα του πλούτου και να κάνει πιο ασαφή τη λογοδοσία σε πολύ κρίσιμες διαδικασίες, εγείροντας επείγοντα ερωτήματα ως προς τον αντίκτυπό της. Πολλές από τις ανησυχίες που εκφράζονται παραπέμπουν σε ένα ευρύτερο διαρθρωτικό ζήτημα: η εξουσία επί της τεχνολογίας αυτής συγκεντρώνεται στα χέρια λίγων μόνο εταιρειών. Είναι άλλο πράγμα το να αφήνουμε τους κυρίαρχους τεχνολογικούς γίγαντες, ή αλλιώς Big Tech, να διαχειριστούν το υπολογιστικό νέφος (cloud computing), την επεξεργασία κειμένου ή ακόμη και την αναζήτηση· σε αυτούς τους τομείς οι δυνατότητες εφαρμογής αθέμιτων πρακτικών δείχνουν να είναι λιγότερες. Η παραγωγική τεχνητή νοημοσύνη μεγαλώνει το διακύβευμα και πυροδοτεί τον δημόσιο διάλογο για την ευρύτερη σχέση μεταξύ τεχνολογίας και δημοκρατίας. Σε ό,τι αφορά τη δημοκρατία, υπάρχει ήδη ευρεία συναίνεση ότι η τεχνητή νοημοσύνη έχει ανάγκη από περισσότερη – αν και το τι συνεπάγεται αυτό παραμένει έντονα αμφισβητούμενο. Για ορισμένους, ο εκδημοκρατισμός της τεχνητής νοημοσύνης σημαίνει τη μεγαλύτερη διαφάνεια των μοντέλων και των συνόλων δεδομένων με βάση τα οποία λειτουργούν τα εν λόγω συστήματα. Άλλοι υποστηρίζουν εναλλακτικά συστήματα ανοικτού κώδικα που θα λειτουργούσαν ανταγωνιστικά σε εταιρικούς γίγαντες όπως η OpenAI και η Anthropic. Κάποιοι ζητούν να μειωθούν τα εμπόδια πρόσβασης στον κλάδο ή να προσφερθούν εναλλακτικές υπηρεσίες από τον δημόσιο τομέα, αντί του ιδιωτικού που κυριαρχεί σήμερα στην προσφορά αυτών των υπηρεσιών. Οι περισσότερες προτάσεις, ωστόσο, επικεντρώνονται στενά στη διόρθωση των δημοκρατικών ελλειμμάτων στην ήδη εφαρμοσμένη τεχνητή νοημοσύνη, δίνοντας προτεραιότητα στην προσαρμογή των συστημάτων τεχνητής νοημοσύνης που έχουν ήδη αναπτυχθεί ή βρίσκονται υπό ανάπτυξη. Οι υποστηρικτές αυτής της άποψης –ας τους αποκαλέσουμε ρεαλιστές– υποστηρίζουν ότι η τεχνητή νοημοσύνη ήρθε για να μείνει, ότι η αξία της εξαρτάται από το πώς τη χρησιμοποιούμε και ότι χρειάζεται, αν μη τι άλλο, σοβαρή πολιτική εποπτεία. Στο μεταξύ, μια μικρή αλλά διευρυνόμενη ομάδα μελετητών και ακτιβιστών βάζει στο στόχαστρό της τα βαθύτερα συστημικά ζητήματα που συνοδεύουν την τεχνητή νοημοσύνη από τη γέννησή της, ιδίως το ότι προήλθε από την ανάπτυξη του κλάδου της πληροφορικής στα χρόνια του Ψυχρού Πολέμου. Για τους αρνητές της, η τεχνητή νοημοσύνη είναι κάτι παραπάνω από μια προβληματική τεχνολογία· είναι ένα αποικιοκρατικό, σοβινιστικό, ρατσιστικό, ακόμη και ευγονικό σχέδιο, αθεράπευτα άρρωστο από τα θεμέλιά του. Το να θεωρούμε ότι μπορεί να εκδημοκρατιστεί είναι σαν να ελπίζουμε να μετατρέψουμε μια βρετανική αριστοκρατική λέσχη σε προλεταριακή βιβλιοθήκη – οι επιφανειακές μεταρρυθμίσεις δεν αρκούν. Φωτογραφία της εγκατάστασης «Τεστ Ρόρσαχ» από τους καλλιτέχνες Αρνώ Ζιρού και Νταβίντ Λεσόρ στο 9ο Φεστιβάλ Δέντρων και Φώτων στη Γενεύη, 26 Νοεμβρίου 2009. © ΑΠΕ-ΜΠΕ / EPA / KEYSTONE / Martial Trezzini Οι ερευνητές, πάλι, της τεχνητής νοημοσύνης ισχυρίζονται ότι λειτούργησαν με μεγάλη ανεξαρτησία. Όπως το έθεσε ένας εξ αυτών σε ένα πολυσυζητημένο δοκίμιό του, δημοσιευμένο το 1997, «αν τις δεκαετίες εκείνες ο τομέας της τεχνητής νοημοσύνης ήταν υπηρέτης του στρατού, τότε διέθετε έναν εξαιρετικά επιεική αφέντη». Εάν όμως η κοινότητα της τεχνητής νοημοσύνης απολάμβανε πράγματι τέτοια αυτονομία, γιατί προέκυψαν τόσο λίγες ανατρεπτικές ή ριζοσπαστικές καινοτομίες; Μήπως ο συντηρητισμός και η εμπλοκή με το στρατιωτικο-βιομηχανικό σύμπλεγμα ήταν από την αρχή ενσωματωμένα στην ερευνητική ατζέντα; Θα μπορούσε άραγε να υπάρξει μια αντισυστημική τεχνητή νοημοσύνη και ποια θα ήταν η μορφή της; Και το σημαντικότερο, έχουν όλα αυτά σημασία σήμερα – ή μήπως πρέπει να δεχθούμε τη ρεαλιστική στάση, να αποδεχθούμε την τεχνητή νοημοσύνη ως έχει και να επικεντρωθούμε στον εκδημοκρατισμό της ανάπτυξής της; Τα όρια της κριτικής της τεχνητής νοημοσύνης έχουν μεταβληθεί με την πάροδο του χρόνου. Στους αρνητές, παραδείγματος χάριν, ανήκαν κάποτε πολλοί που πίστευαν στην ματαιότητα του εγχειρήματος της τεχνητής νοημοσύνης και έβρισκαν ιδιαίτερη ευχαρίστηση στην ανάλυση των λόγων για τους οποίους η τεχνητή νοημοσύνη δεν θα πετύχαινε ποτέ. Με τις πρόσφατες προόδους στην παραγωγική τεχνητή νοημοσύνη –που λειτουργεί με αρχές πολύ μακριά από εκείνες στις οποίες επιτίθενται οι φιλοσοφικά σκεπτόμενοι επικριτές της– η λογική αυτή δείχνει να απειλείται. Οι λίγοι που πιστεύουν πλέον ότι η τεχνητή νοημοσύνη είναι μάταιη στρέφουν το βλέμμα τους στις νέες παρουσίες οι οποίες διαφαίνονται στον ορίζοντα, τα ρομπότ δολοφόνους και τη γενική τεχνητή νοημοσύνη, που από καιρό βρίσκονται στο επίκεντρο των φουτουριστικών ονείρων της τεχνολογικής βιομηχανίας. Υπάρχουν βεβαίως και άλλες απόψεις – η σύντομη ανάλυσή μου δεν αποτυπώνει όλες τις διαστάσεις του διαλόγου. Πρέπει όμως να δεχθούμε ότι και τα δύο μεγάλα στρατόπεδα, ρεαλιστές και αρνητές, δίνουν στην τεχνητή νοημοσύνη σάρκα και οστά – οι πρώτοι για να την δεχτούν, λίγο ως πολύ, ως τη μοναδική εφικτή μορφή τεχνητής νοημοσύνης, οι δεύτεροι για να την καταγγείλουν ως προϊόν του στρατιωτικο-βιομηχανικού συμπλέγματος ή των ιδιοτελών φαντασιώσεων της τεχνολογικής βιομηχανίας από το οποίο δεν υπάρχει επιστροφή. Υπάρχει πάντως ελάχιστος σοβαρός προβληματισμός για το τι ακριβώς λείπει από την τεχνητή νοημοσύνη – μια ερευνητική ατζέντα, ένα πολιτικό πρόγραμμα, ένα σύνολο τεχνολογιών ή, καλύτερα, ένας συνδυασμός και των τριών. Ελπίζοντας να καλύψω αυτό το κενό, θέλω να προτείνω μια διαφορετική άποψη για την τεχνητή νοημοσύνη και τη δημοκρατία. Χωρίς να ευθυγραμμίζομαι είτε με τους ρεαλιστές είτε με τους αρνητές, θέτω ένα εντελώς ουτοπικό ερώτημα: Αν μπορούσαμε να γυρίσουμε τον χρόνο πίσω και να θωρακίσουμε τους επιστήμονες πληροφορικής από τη διαβρωτική επιρροή του Ψυχρού Πολέμου, τι μορφή –πιο δημοκρατική, κοινωφελή και λιγότερο μιλιταριστική– θα είχε πάρει η τεχνολογική ατζέντα; Το εναλλακτικό αυτό όραμα –είτε το ονομάσουμε «τεχνητή νοημοσύνη» είτε αλλιώς– λειτουργεί ως σημείο αναφοράς για να αξιολογήσουμε τις υποσχέσεις και τους κινδύνους της σημερινής εξέλιξής της. 2. Για να δούμε ποιον δρόμο θα μπορούσαμε να είχαμε ακολουθήσει, ας επιστρέψουμε στη σκηνή της γέννησης της τεχνητής νοημοσύνης. Από την πρώτη της εμφάνιση στα μέσα της δεκαετίας του 1950 –μόλις μία δεκαετία μετά την κατασκευή του ENIAC, του πρώτου ψηφιακού υπολογιστή, στο Πανεπιστήμιο της Πενσυλβάνιας– η ερευνητική κοινότητα της τεχνητής νοημοσύνης δεν έκρυβε ότι το είδος μηχανικής ευφυΐας που προσπαθούσε να δημιουργήσει είχε τελεολογικό χαρακτήρα: προσανατολιζόταν στην επίτευξη ενός συγκεκριμένου στόχου, ή τέλους. Πάρτε τον Γενικό Επιλυτή Προβλημάτων (General Problem Solver), ένα πρόγραμμα λογισμικού που αναπτύχθηκε το 1957 με την υποστήριξη της RAND Corporation. Οι δημιουργοί του (Χέρμπερτ Α. Σάιμον, Άλεν Νιούελ και Τζον Κλίφορντ Σο) εφάρμοσαν μια τεχνική που ονομάζεται «ανάλυση μέσων-σκοπών» (means-ends analysis) επιδιώκοντας να δημιουργήσουν έναν «καθολικό», όπως θα μπορούσε να ονομαστεί, επιλυτή προβλημάτων. Στην πράξη, τα προβλήματα που θα διαχειριζόταν το λογισμικό έπρεπε να είναι πολύ τυποποιημένα. Λειτουργούσε καλύτερα όταν οι στόχοι ήταν σαφώς καθορισμένοι, το περιβάλλον επίλυσης των προβλημάτων σταθερό (με τους κανόνες της διαδικασίας σαφώς προσδιορισμένους εξαρχής) και οι διαδοχικές προσεγγίσεις επέτρεπαν τη δοκιμή διαφορετικών μέσων για την επίτευξη των επιθυμητών σκοπών. Φυσικά, αυτό το «βασισμένο σε κανόνες» παράδειγμα έρευνας στην τεχνητή νοημοσύνη έχασε τελικά έδαφος προς όφελος μιας ανταγωνιστικής προσέγγισης βασισμένης στα νευρωνικά δίκτυα – τη βάση των σύγχρονων μεθόδων μηχανικής μάθησης (machine learning), μεταξύ των οποίων τα μεγάλα γλωσσικά μοντέλα (Large Language Models ή LLM) που τροφοδοτούν συστήματα όπως το ChatGPT. Ακόμα και τότε όμως, η νεοεμφανιζόμενη τεχνολογία των νευρωνικών δικτύων αναπτύχθηκε με άξονα την επίλυση προβλημάτων. Μια από τις σκοπούμενες εφαρμογές του Perceptron, ενός από τα πρώτα νευρωνικά δίκτυα, σχεδιασμένου για αναγνώριση προτύπων, ήταν στρατιωτική: ανατρέχοντας σε ένα πλήθος δορυφορικών εικόνων μπορούσε να εντοπίσει τους εχθρικούς στόχους. Τα νευρωνικά δίκτυα χρειάζονταν έναν απόλυτα καθορισμένο στόχο και μοντέλα εκπαιδευμένα έτσι ώστε να οδηγούν στην επίτευξή του. Χωρίς συγκεκριμένο στόχο ή σαφές ιστορικό προηγούμενων προσπαθειών, δεν μπορούσαν να λειτουργήσουν. Δεν θεωρώ τυχαίο ότι τα πρώτα εργαλεία τεχνητής νοημοσύνης αντανακλούσαν κατά πολύ την εργαλειακή λογική των υπαλλήλων που εργάζονταν στα γραφεία και τη διοίκηση των φορέων –κυβερνητικών, εταιρικών και στρατιωτικών– που πρωτοστατούσαν στην έρευνα για την τεχνητή νοημοσύνη. Οι εργαζόμενοι αυτοί διέθεταν περιορισμένο χρόνο και προσοχή, και ένα σφάλμα τους μπορούσε να κοστίσει ακριβά. Η αυτοματοποίηση των καθηκόντων τους μέσω των μηχανών έδειχνε να είναι το επόμενο λογικό βήμα και ένας αποτελεσματικός τρόπος μείωσης των σφαλμάτων και του κόστους. Η ανάπτυξη της τεχνητής νοημοσύνης με γνώμονα την επίτευξη στόχων ίσως οφείλεται εν μέρει στις απαιτήσεις των χρηματοδοτών· στα πρώιμα στάδιά της έπρεπε άλλωστε να αποδείξει την πρακτική αξία της. Μια βαθύτερη αιτία όμως συνδέεται με την πνευματική κληρονομιά της από τον κλάδο της κυβερνητικής (cybernetics), ο οποίος επηρέασε σοβαρά την αρχική ατζέντα της, αλλά παραγκωνίστηκε καθώς η τεχνητή νοημοσύνη προσπαθούσε να εδραιωθεί ως ξεχωριστός τομέας. Οι πρωτοπόροι της κυβερνητικής γοητεύτηκαν από τη δυνατότητα των τεχνολογιών ανάδρασης –από τηλεκατευθυνόμενους πυραύλους μέχρι θερμοστάτες– να λειτουργούν με στόχους αλλά χωρίς συνειδητή πρόθεση. Εστίασαν στις αναλογίες αυτών των συστημάτων με τις τελεολογικές πτυχές της ανθρώπινης νοημοσύνης –όπως το να σηκώνουμε ένα ποτήρι ή να στρίβουμε το χερούλι μιας πόρτας– που επιτρέπουν να πετύχουμε στόχους μέσω του ελέγχου της ανάδρασης. Οικειοποιούμενη αυτό το πλαίσιο λειτουργίας της κυβερνητικής, η τεχνητή νοημοσύνη πήγε ένα βήμα παραπέρα. Αν ένας θερμοστάτης μπορούσε να «επιδιώξει» μια θερμοκρασία-στόχο, γιατί να μην μπορεί ένας ψηφιακός υπολογιστής να «επιδιώξει» και αυτός έναν στόχο; Υπήρχε ωστόσο μια σημαντική διαφορά. Οι πρώτοι επιστήμονες της κυβερνητικής πατούσαν με το ένα πόδι στη μηχανολογική μηχανική και με το άλλο στις βιολογικές επιστήμες. Έβλεπαν τις αναλογίες τους ως μέσο κατανόησης της λειτουργίας του εγκεφάλου και του νευρικού συστήματος, διορθώνοντας στη συνέχεια, αν χρειαζόταν, τα υποκείμενα μοντέλα – μερικές φορές σχεδιάζοντας ένα νέο μηχάνημα που θα αντικατόπτριζε (ή, στη γλώσσα τους, θα «ενσωμάτωνε») καλύτερα την πραγματικότητα. Με άλλα λόγια, αναγνώριζαν ότι τα μοντέλα τους ήταν ακριβώς αυτό: μοντέλα της νοημοσύνης που υπήρχε στον πραγματικό κόσμο. Η επιστήμη της τεχνητής νοημοσύνης, αντίθετα, έκανε αυτές τις αναλογίες πραγματικότητα. Οι πρωτοπόροι της, ως επί το πλείστον μαθηματικοί και λογικοί φιλόσοφοι, δεν διέθεταν γνώσεις βιολογίας ή νευροεπιστημών. Έτσι, η νοημοσύνη ορίστηκε με βάση ό,τι μπορούσε να αναπαραχθεί σε έναν ψηφιακό υπολογιστή – και αυτό σήμαινε σε κάθε περίπτωση την επιδίωξη ενός στόχου ή την επίλυση ενός προβλήματος, ακόμη και στην εμπνευσμένη από τη βιολογία περίπτωση των νευρωνικών δικτύων. Η ειρωνεία είναι ότι η εμμονή στην επίλυση προβλημάτων με βάση τον στόχο δεν δέχθηκε καμία κριτική από κάποιους επιφανείς θεωρητικούς –και πρώτους φιλοσοφικούς σχολιαστές– της τεχνητής νοημοσύνης, όπως ο Χιούμπερτ Ντρέιφους, καθηγητής φιλοσοφίας στο Μπέρκλεϊ και συγγραφέας του επιδραστικού βιβλίου Τι δεν μπορούν να κάνουν ακόμη οι υπολογιστές (What Computers Can't Do) που εκδόθηκε το 1972. Στηριζόμενος στη θεωρία του Μάρτιν Χάιντεγκερ περί του καρφώματος μιας πρόκας, όπως διατυπώνεται στο Είναι και χρόνος, ο Ντρέιφους τόνισε τη δυσκολία κωδικοποίησης της άρρητης γνώσης που ενσωματώνεται στις ανθρώπινες παραδόσεις και τον πολιτισμό. Ακόμη και οι πιο κοινές εργασίες διαμορφώνονται βαθιά από το πολιτισμικό πλαίσιο, διατεινόταν ο Ντρέιφους· δεν ακολουθούμε σταθερούς κανόνες που μπορούν να τυποποιηθούν ως σαφείς, καθολικές κατευθυντήριες γραμμές. Παρ’ όλο που με το συγκεκριμένο επιχείρημα ήθελε να δείξει ότι δεν μπορούμε να ελπίζουμε να διδάξουμε στις μηχανές να ενεργούν όπως εμείς, απέτυχε να αντιταχθεί στον τελεολογικό χαρακτήρα της τεχνητής νοημοσύνης – τη λογική της επίλυσης προβλημάτων με βάση τον στόχο. Αυτό είναι περίεργο δεδομένου ότι στον ίδιο τον Χάιντεγκερ βρίσκουμε μια παραλλαγή μιας τέτοιας κριτικής. Και δεν μιλάμε για κάποιον Σταχανοβίτη, εμμονικό με την παραγωγικότητα, αποφασισμένο να μας διδάξει πώς να καρφώνουμε μια πρόκα πιο αποτελεσματικά, και σίγουρα ούτε για κάποιον ο οποίος θεωρούσε τη δράση που βασίζεται στον στόχο ως ουσιώδες χαρακτηριστικό της ανθρώπινης ζωής. Η αντιπρόεδρος των υπηρεσιών του διαδικτύου της Amazon (AWS) Ναντίνι Ραμάνι μιλάει κατά τη διάρκεια της Διάσκεψης AWS 2024 στην Πόλη του Μεξικού, 7 Αυγούστου 2024. Σύμφωνα με την Ραμάνι οι εξελίξεις στο cloud και την τεχνητή νοημοσύνη είναι η νέα τεχνολογική επανάσταση. © ΑΠΕ-ΜΠΕ / EPA / JosÃ© MÃ©ndez Αντιθέτως, ο Χάιντεγκερ παρατηρούσε ότι οι άνθρωποι αντιλαμβανόμαστε πώς λειτουργεί ο κόσμος όχι μόνο όταν σπάει το σφυρί αλλά και όταν βαριόμαστε να καρφώνουμε. Σε τέτοιες στιγμές ανίας, υποστήριζε, αποδεσμευόμαστε από την ανάγκη της επίτευξης του στόχου και βιώνουμε τον κόσμο πιο ανοιχτά, κάτι που υποδηλώνει την ύπαρξη μιας ευρύτερης, ρευστής, συνεκτικής μορφής νοημοσύνης, που δεν μεριμνά μόνο για την αποτελεσματική επίτευξη των στόχων αλλά αλληλεπιδρά σε βαθύτερο επίπεδο με το περιβάλλον και μας κατευθύνει στο νόημα και τον σκοπό με τρόπους που δύσκολα μπορούν να τυποποιηθούν. Ενώ ίσως ο κόσμος του Χάιντεγκερ δείχνει μοναχικός –περιέχει κυρίως σφυριά και Dasein– αντίστοιχες μεταβολές στους στόχους μας μπορούν να προκύψουν λόγω των αλληλεπιδράσεων μεταξύ μας. Για τους πρωτοπόρους όμως της Τεχνητής Νοημοσύνης της δεκαετίας του 1950, τα παραπάνω δεν σήμαιναν και πολλά. Έννοιες όπως η ανία και η διυποκειμενικότητα, που δεν διέθεταν τελεολογικό χαρακτήρα, έμοιαζαν να μην αφορούν τη νοημοσύνη. Αντίθετα, η πρώιμη τεχνητή νοημοσύνη επικεντρώθηκε στην αναπαραγωγή της νοημοσύνης ενός πλήρως αφοσιωμένου, εξωτερικά υποκινούμενου, συναισθηματικά αποστασιοποιημένου υπαλλήλου γραφείου – ένα είδος «ανθρώπου της οργάνωσης» (organization man) του Γουίλιαμ Γουάιτ, προορισμένου να αντικατασταθεί από πιο αξιόπιστα ψηφιακά αντίγραφα. Πέρασε σχεδόν μια δεκαετία έως ότου εισακουστεί η χαϊντεγκεριανή κριτική του Ντρέιφους στην κοινότητα της τεχνητής νοημοσύνης, αλλά όταν συνέβη αυτό οδήγησε σε σοβαρές αλλαγές κατεύθυνσης. Μια από τις πιο αξιοσημείωτες εντοπίζεται στο έργο του καθηγητή πληροφορικής του Στάνφορντ, Τέρι Γουίνογκραντ, μιας σπουδαίας μορφής στον χώρο της επεξεργασίας φυσικών γλωσσών, που το έργο του είχε γίνει αποδεκτό ακόμα και από τον Ντρέιφους. Στη δεκαετία του 1980 ο Γουίνογκραντ έκανε μια αποφασιστική στροφή, απομακρυνόμενος από την αντιγραφή της ανθρώπινης νοημοσύνης. Εστίασε την προσοχή του στην κατανόηση της ανθρώπινης συμπεριφοράς και του πλαισίου λειτουργίας της, θέλοντας να σχεδιάσει εργαλεία που θα ενίσχυαν την ανθρώπινη νοημοσύνη αντί να τη μιμούνται. Η θεωρητική αλλαγή κατεύθυνσης εφαρμόστηκε και πρακτικά με τη δημιουργία του Coordinator, ενός συστήματος λογισμικού που ο Γουίνογκραντ ανέπτυξε συνεργαζόμενος με τον Φερνάντο Φλόρες, έναν Χιλιανό πολιτικό ο οποίος στη συνέχεια στράφηκε στη φιλοσοφία και στις επιχειρήσεις. Όπως υποδηλώνει το όνομά του [Συντονιστής], το λογισμικό αυτό αποσκοπούσε στη διευκόλυνση του συντονισμού στον χώρο εργασίας, επιτρέποντας στους εργαζόμενους να κατηγοριοποιούν κάθε ηλεκτρονική αλληλεπίδραση με τους συναδέλφους τους –επρόκειτο για αίτημα, υπόσχεση ή εντολή;– έτσι ώστε να μειώνεται η ασάφεια για τον τρόπο ανταπόκρισης. Με την κατάλληλη ταξινόμηση τα μηνύματα μπορούσαν κατόπιν να εντοπίζονται και να επιλέγεται η κατάλληλη δράση. Η προσέγγιση αυτή, βασισμένη στις αρχές της αλληλεπίδρασης ανθρώπου-υπολογιστή και του σχεδιασμού αλληλεπίδρασης, εισήγαγε μια νέα θεωρητική ατζέντα: Αντί να προσπαθούμε να αντιγράψουμε την ανθρώπινη νοημοσύνη στις μηχανές, γιατί να μη χρησιμοποιούμε τις μηχανές για την ενίσχυση της ανθρώπινης νοημοσύνης, επιτρέποντας στους ανθρώπους να πετύχουν τους στόχους τους πιο αποτελεσματικά; Καθώς η πίστη στις μεγάλες υποσχέσεις της συμβατικής τεχνητής νοημοσύνης άρχισε πια να φθίνει, το όραμα του Γουίνογκραντ κέρδισε έδαφος, προσελκύοντας την προσοχή μελλοντικών τιτάνων της τεχνολογίας, όπως ο Λάρι Πέιτζ, ο Ριντ Χόφμαν και ο Πίτερ Τιλ, οι οποίοι παρακολουθούσαν τα μαθήματά του. Το Coordinator δέχθηκε και αυτό κριτική. Κάποιοι το κατηγόρησαν ότι ενίσχυε τον ιεραρχικό έλεγχο που καταπνίγει τη δημιουργικότητα στους γραφειοκρατικούς οργανισμούς. Το επιχείρημα ήταν ότι, όπως είχε συμβεί με το Perceptron, ο Coordinator εξυπηρετούσε τελικά την ατζέντα ενός «λόμπι προώθησης της αποτελεσματικότητας» (Efficiency Lobby) –όπως θα μπορούσαμε να το ονομάσουμε– μέσα στις εταιρείες και τα κυβερνητικά γραφεία. Έκανε μεν πιο αποτελεσματική την επικοινωνία, αλλά με τρόπο που συχνά ευθυγραμμιζόταν με τους σκοπούς των διευθυντών, συγκεντρώνοντας την εξουσία αντί να την κατανέμει. Αυτό δεν ήταν αναπόφευκτο· μπορούσε κανείς εξίσου εύκολα να φανταστεί κάποια κοινωνικά κινήματα –όπου η ασάφεια στην επικοινωνία είναι συνηθισμένο φαινόμενο– να χρησιμοποιούν το λογισμικό. (Θα λειτουργούσε ίσως καλύτερα για κινήματα με κεντρική δομή και καθαρούς στόχους, όπως το κίνημα για τα πολιτικά δικαιώματα, παρά για μεμονωμένα όπως το Occupy Wall Street ή οι Ζαπατίστας). Το βαθύτερο ζήτημα βρισκόταν στην ίδια την έννοια του κοινωνικού συντονισμού που οι Γουίνογκραντ και Φλόρες προσπαθούσαν να διευκολύνουν. Ενώ είχαν πάρει αποστάσεις από τον κόσμο της τεχνητής νοημοσύνης, η προσέγγισή τους παρέμενε βαθιά στη ρίζα της τελεολογική. Αφορούσε και πάλι την επίλυση προβλημάτων και την επίτευξη καθορισμένων στόχων – ένα πλαίσιο το οποίο δεν διαφοροποιούνταν πλήρως από την εργαλειακή λογική της τεχνητής νοημοσύνης που ήλπιζαν να αφήσουν πίσω τους. 3. Προς τιμήν του, ο Γουίνογκραντ έδειξε μεγαλύτερη διάθεση αυτοκριτικής από ό,τι οι περισσότεροι συνάδελφοί του στην κοινότητα της τεχνητής νοημοσύνης. Σε ομιλία του το 1987 επεσήμανε τις εντυπωσιακές ομοιότητες μεταξύ της συμβολικής τεχνητής νοημοσύνης –όπου τότε κυριαρχούσαν προγράμματα βασισμένα σε κανόνες, που επιδίωκαν να αναπαράγουν την κρίση επαγγελματιών όπως οι γιατροί και οι δικηγόροι– και της βεμπεριανής γραφειοκρατίας. «Οι τεχνικές της τεχνητής νοημοσύνης», σημείωνε, «είναι για τον νου ό,τι η γραφειοκρατία για την ανθρώπινη κοινωνική αλληλεπίδραση». Και τα δύο ευδοκιμούν σε περιβάλλον χωρίς ίχνος ασάφειας, συναισθήματος και ευρύτερου πλαισίου – τα ίδια στοιχεία που συχνά προσδιορίζονται ως αντίθετα στη γραφειοκρατική νοοτροπία. Ο Γουίνογκραντ δεν εξέτασε τις ιστορικές δυνάμεις που παρήγαγαν αυτές τις ομοιότητες. Πρόσφατα άρθρα όμως για την ιστορία της τεχνητής νοημοσύνης εισηγούνται ότι η σχετική έρευνα μπορεί να προσέλκυσε εξαρχής όσους ήδη μελετούσαν ή βελτιστοποιούσαν τα γραφειοκρατικά συστήματα. Όπως επισημαίνει ο ιστορικός της τεχνολογίας Τζόνι Πεν, ο Χέρμπερτ Α. Σάιμον είναι χαρακτηριστικό παράδειγμα: με αρχικό στόχο τη δημιουργία μιας «επιστήμης της δημόσιας διοίκησης» στη δεκαετία του 1940, έγινε πρωτεργάτης στη δημιουργία μιας «επιστήμης της νοημοσύνης» στα μέσα της δεκαετίας του 1950. Παρότι αναγνώριζαν τα όρια του ορθολογισμού, και οι δυο προσπάθειες εξυμνούσαν εντέλει την ίδια αξία: την αποτελεσματικότητα στην επίτευξη των στόχων. Εν ολίγοις, τα εγχειρήματα αποσκοπούσαν και τα δυο στην τελειοποίηση του ιδεώδους της εργαλειακής λογικής. Δεν μας εκπλήσσει επίσης το γεγονός ότι οι γραφειοκρατικοί μηχανισμοί του Λόμπι της Αποτελεσματικότητας –από τις μεγάλες εταιρείες μέχρι τους κυβερνητικούς χρηματοδοτικούς φορείς και τον στρατό– στράφηκαν στην τεχνητή νοημοσύνη. Ακόμα και πριν από το Συνέδριο του Ντάρτμουθ (Dartmouth Workshop), το 1956, που συχνά θεωρείται σημείο μηδέν της τεχνητής νοημοσύνης, οι φορείς αυτοί είχαν ήδη επιδιώξει παρόμοιους στόχους, και ο Ψυχρός Πόλεμος είχε παίξει σε αυτό μεγάλο ρόλο. Οι γεωπολιτικές εντάσεις της εποχής απαιτούσαν ταχείες εξελίξεις στην τεχνολογία, την παρακολούθηση και την άμυνα, πιέζοντάς τους να αναπτύξουν εργαλεία που θα μπορούσαν να επεξεργαστούν τεράστιες ποσότητες πληροφοριών, να βελτιώσουν τη λήψη αποφάσεων και να διατηρήσουν το ανταγωνιστικό πλεονέκτημα έναντι της Σοβιετικής Ένωσης. Η προώθηση της τεχνητής νοημοσύνης στον ακαδημαϊκό χώρο ευθυγραμμιζόταν απόλυτα με την ατζέντα της αυτοματοποίησης που κυριαρχούσε στους προαναφερθέντες φορείς: αυστηροποίηση της τήρησης των κανόνων, διευκόλυνση της παραγωγής, και επεξεργασία των μυστικών και πολεμικών πληροφοριών. Η μηχανοποίηση της λήψης αποφάσεων και η μεγιστοποίηση της αποτελεσματικότητας αποτελούσαν από καιρό βασικές επιδιώξεις τους. Θα πρέπει εδώ να κάνουμε ένα βήμα πίσω και να αναρωτηθούμε τι θα μπορούσε να είχε συμβεί δίχως τις πιέσεις του Ψυχρού Πολέμου. Γιατί έπρεπε η παγκόσμια ιστορική υπόσχεση της πληροφορικής να περιοριστεί στην αναπαραγωγή του γραφειοκρατικού ορθολογισμού; Γιατί έπρεπε όσοι δεν ανήκαν σε αυτούς τους φορείς να αποδεχθούν μια τόσο στενή θεώρηση του δυνητικού ρόλου μιας πολλά υποσχόμενης νέας τεχνολογίας –του ψηφιακού υπολογιστή– στην ανθρώπινη ζωή; Είναι πράγματι αυτό το όριο όσων μπορούν να προσφέρουν οι συγκεκριμένες μηχανές; Δεν έπρεπε η επιστήμη να έχει στραφεί στη μελέτη του πώς οι υπολογιστές θα υπηρετήσουν καλύτερα τους πολίτες, την κοινωνία των πολιτών και τη δημόσια σφαίρα – όχι απλώς αυτοματοποιώντας διαδικασίες, αλλά προσομοιώνοντας δυνατότητες και μοντελοποιώντας εναλλακτικά σενάρια για το μέλλον; Υπήρχε άραγε κάποιος να υπερασπιστεί αυτά τα ευρύτερα συμφέροντα, και ποιος ήταν αυτός; Σε μια κοινωνία με μια επίφαση εποπτείας της επιστήμης από τους δημοκρατικούς θεσμούς, θα περιμέναμε τα παραπάνω ερωτήματα να αποτελέσουν αφορμή για σοβαρή μελέτη και έρευνα. Όμως στην Αμερική των μέσων της δεκαετίας του 1950 δεν συνέβαινε κάτι τέτοιο. Αντίθετα, ο Τζον Μακάρθι –ο επιστήμονας υπολογιστών που επινόησε τον όρο «τεχνητή νοημοσύνη» και το όνομά του συνδέεται περισσότερο από κάθε άλλου με το Συνέδριο του Ντάρτμουθ (δίδασκε εκεί τότε)– καθόρισε το πεδίο όπως θεώρησαν σκόπιμο ο ίδιος και οι στενότεροι θεωρητικοί σύμμαχοί του. Έχτισαν συμμαχίες με εταιρικούς κολοσσούς όπως η IBM και εξασφάλισαν χρηματοδότηση από τον στρατό, παρακάμπτοντας εντελώς την ευρύτερη επιστημονική κοινότητα. Αργότερα, ο Μακάρθι εκθείαζε αυτό το αντιδημοκρατικό ξεκίνημα, λέγοντας ότι: Η τεχνητή νοημοσύνη θα είχε αναπτυχθεί πολύ πιο αργά στις ΗΠΑ αν έπρεπε να πείσουμε το ευρύ πλήθος των φυσικών, μαθηματικών, βιολόγων, ψυχολόγων ή ηλεκτρολόγων μηχανικών στις συμβουλευτικές επιτροπές να διαθέσουν σημαντικά κεφάλαια από το Εθνικό Ίδρυμα Επιστημών (NSF) των ΗΠΑ για την έρευνα της τεχνητής νοημοσύνης. … Η τεχνητή νοημοσύνη ήταν ένας από τους τομείς της επιστήμης των υπολογιστών … που η Υπηρεσία Έρευνας Προηγμένων Αμυντικών Προγραμμάτων (DARPA) θεωρούσε ότι αφορούσε τα προβλήματα του Υπουργείου Άμυνας. Η γνώμη της επιστημονικής κοινότητας ζητήθηκε ελάχιστα έως καθόλου. Τα άρθρα που ανατρέχουν στην ιστορία της τεχνητής νοημοσύνης συχνά αποδοκιμάζουν την άγνοια άλλων κλάδων, ωστόσο οι πρώτοι που ασχολήθηκαν μαζί της είχαν τα δικά τους τυφλά σημεία. Η αδυναμία τους να συλλάβουν θεωρητικά καταστάσεις όπως η ανία δεν ήταν μεμονωμένη αβλεψία: αντανακλά μια θεμελιώδη αποτυχία να λάβουν υπόψη τις μη τελεολογικές μορφές νοημοσύνης – αυτές που δεν εστιάζουν στην επίλυση προβλημάτων ή στην επίτευξη στόχων. Περιορίζοντας την έννοια της νοημοσύνης στις δυο παραπάνω κατευθύνσεις, παρέβλεψαν τις εναλλακτικές πορείες που θα τους επέτρεπαν να διερευνήσουν πώς η τεχνολογία υπολογιστών μπορούσε να ενισχύσει, να επαυξήσει ή να μετασχηματίσει άλλες μορφές νοημοσύνης ή πώς θα έπρεπε να εξελιχθεί η ίδια για να τις διευκολύνει και καλλιεργήσει. Για να είμαστε δίκαιοι, δεν μας εκπλήσσει το ότι δεν έθεσαν αυτά τα ερωτήματα. Το Λόμπι της Αποτελεσματικότητας ήξερε ακριβώς τι ήθελε: βελτιστοποίηση των διαδικασιών, αύξηση της παραγωγικότητας και αυστηρότερο ιεραρχικό έλεγχο. Το παράδειγμα τεχνητής νοημοσύνης που προέκυψε τα υποσχόταν όλα αυτά κι ακόμη περισσότερα. Στο μεταξύ, δεν υπήρξε καμία οργανωμένη αντίθεση από πολίτες ή κοινωνικά κινήματα –κανένα λόμπι υπέρ των συμφερόντων της ανθρωπότητας, για να το πούμε έτσι– που να υποστηρίζει μια εναλλακτική λύση. Αν υπήρχε, ποια πορεία θα είχε ακολουθήσει; 4. Το 1953, το Colorado Quarterly, η περιοδική έκδοση του Πανεπιστημίου του Κολοράντο, δημοσίευσε μετά θάνατον ένα δοκίμιο[1] του Χανς Ότο Στορμ, ηλεκτρολόγου μηχανικού και εφευρέτη, που έγινε επίσης γνωστός ως μυθιστοριογράφος. Ο Στορμ βρήκε τραγικό θάνατο από ηλεκτροπληξία στο Σαν Φρανσίσκο μόλις τέσσερις ημέρες μετά την επίθεση στο Περλ Χάρμπορ, ενώ εγκαθιστούσε έναν ραδιοφωνικό πομπό για τον αμερικανικό στρατό. Παρά την αξιοσημείωτη λογοτεχνική καριέρα του, η κληρονομιά του έμεινε ζωντανή χάρη σε αυτό το σύντομο δοκίμιο, που αρχικά οι εκδότες του είχαν απορρίψει. Ο Στορμ ήταν μαθητής και φίλος του αντισυμβατικού οικονομολόγου Θόρσταϊν Βέμπλεν. Ενώ ο Βέμπλεν είναι ευρέως γνωστός για τη θεωρία του περί της «έμφυτης εργατικότητας»[2] (workmanship) και περί του επιστήμονα μηχανικού ως αντίδοτο στην καπιταλιστική υπερβολή, η σκέψη του ακολούθησε μια πιο συναρπαστική και παιγνιώδη κατεύθυνση, μετά την επαφή του με τον επιστημονικό κόσμο. Εκεί, πιθανώς επηρεασμένος από τη σχέση του με τους πραγματιστές, ο Βέμπλεν ανακάλυψε μια διαφορετική δύναμη σε λειτουργία: την «άεργη εγγενή περιέργεια» (idle curiosity), όπως την αποκάλεσε, ένα είδος άσκοπου σκοπού που βρίσκεται πίσω από την επιστημονική ανακάλυψη. Η αντίθεση μεταξύ προσανατολισμένης και μη προσανατολισμένης σκέψης είχε ιδιαίτερα σημαντικό ρόλο στις θεωρητικές καινοτομίες που εισηγήθηκε ο Στορμ. Ο Στορμ περιγράφει μια ανάλογη αντίθεση μεταξύ δύο μορφών αυτού που αποκαλεί «δεξιοτεχνία» (craftsmanship). Η πιο γνώριμη σε μας είναι ο «σχεδιασμός» (design), που χαρακτηρίζει τον τρόπο σκέψης του μηχανικού του Βέμπλεν. Ξεκινά με έναν συγκεκριμένο στόχο –ας πούμε, την κατασκευή ενός κτιρίου– και προχωρά με την επιλογή των καλύτερων υλικών για την επίτευξή του. Στην ουσία, πρόκειται καθαρά για εργαλειακή λογική. (Ο Στορμ ήταν αρκετά εξοικειωμένος με το έργο του Βέμπερ, το οποίο μάλιστα είχε σχολιάσει στα γραπτά του). Τι γίνεται με τη δεύτερη μορφή «δεξιοτεχνίας»; Ο Στορμ της έδωσε το παράξενο όνομα «ηωλιθισμός» (eolithism). Για να την περιγράψει, μας καλεί να φανταστούμε «ηώλιθους» της Λίθινης Εποχής, με άλλα λόγια πέτρες που «συνέλεξε και χρησιμοποίησε ο άνθρωπος, τις οποίες ως ένα βαθμό διαμόρφωσε για την επιθυμητή χρήση τους». Οι σύγχρονοι αρχαιολόγοι αμφιβάλλουν για το αν οι ηώλιθοι είναι αποτέλεσμα μιας τέτοιας ανθρώπινης παρέμβασης –πιθανώς δεν είναι παρά αποτέλεσμα φυσικών διεργασιών, όπως η διάβρωση ή το τυχαίο σπάσιμο– αλλά αυτό δεν μειώνει τη δύναμη του οράματος του Στορμ. Κατ’ αυτόν, το σημαντικό στοιχείο είναι ότι οι πέτρες συλλέχθηκαν … σε μορφή που ήδη εξυπηρετούσε επαρκώς τον επιδιωκόμενο σκοπό και –το πιο σημαντικό– παρέπεμπε στον επιδιωκόμενο σκοπό. Μπορούμε να φανταστούμε [τον προϊστορικό άνθρωπο] να περπατάει σε ένα λιβάδι με πέτρες, χορτάτος, ικανοποιημένος, ιδανικά χωρίς να σκέφτεται τίποτε απολύτως –γιατί αυτές είναι οι συνθήκες που ευνοούν την τέχνη– όταν το μάτι του πέφτει τυχαία πάνω σε μια πέτρα που πιθανόν να είναι κατάλληλη για αιχμή δόρατος. Εκείνη τη στιγμή γεννιέται το σχέδιο της διαμόρφωσης ενός δόρατος· η πέτρα συλλέγεται· το δόρυ είναι πλέον υπό μεταποίηση, για να χρησιμοποιήσουμε έναν σύγχρονο όρο … Και αν … κάτι πάει λάθος στην απλή αυτή διαδικασία και η πέτρα δεν είναι πια κατάλληλη για αιχμή δόρατος, υπάρχει πάντα η εύκολη εναλλακτική να προοριστεί για κάποια άλλη χρήση, στην οποία ενδεχομένως παραπέμπει. Η απόσταση από τον σχεδιασμό και την εργαλειακή λογική δεν θα μπορούσε να είναι μεγαλύτερη. Ο ηωλιθισμός δεν θέτει προκαθορισμένα προβλήματα προς επίλυση, ούτε σταθερούς στόχους προς επιδίωξη. Ο περιπλανώμενος (flâneur) της Λίθινης εποχής του Στορμ, βρίσκεται σε πλήρη αντίθεση με το είδος ορθολογισμού που βλέπουμε στα πειράματα σκέψης της ψυχροπολεμικής εποχής, όπως το δίλημμα του φυλακισμένου – γι’ αυτό και υπερέχει. Η απουσία προκαθορισμένων στόχων επιτρέπει στον περιπλανώμενο να δει τον κόσμο με πιο πλούσια ματιά, καθώς η πολλαπλότητα των πιθανών σκοπών αυξάνει τον αριθμό των μέσων που μπορούν να θεωρηθούν κατάλληλα για την επίτευξή τους. Η εκκλησία της ενορίας Kβέρντρουπ (Δανία) εκθέτει πρόταση για μια εναλλακτική Αγία Τράπεζα που δημιούργησε ο Τζιμ Λύνγκβιλντ μέσω της τεχνητής νοημοσύνης, 14 Μαΐου 2024. © ΑΠΕ-ΜΠΕ / EPA / Bo Amstrup Denmark Out Αυτή ακριβώς είναι η άεργη έμφυτη περιέργεια του Βέμπλεν στην πράξη. Εάν ο σχεδιασμός αποκοπεί από αυτήν τότε υφίσταται έναν σοβαρό περιορισμό, καθώς οι σταθεροί, προκαθορισμένοι στόχοι και η απουσία ποικιλομορφίας από τις μεθόδους και τα υλικά μειώνουν την εγγενή αξία του καθιστώντας τον μέσον εξυπηρέτησης προκαθορισμένων στόχων. Ο Στορμ υποστηρίζει στη συνέχεια ότι οι προσπάθειες εφαρμογής του σχεδιασμού στην επίλυση προβλημάτων σε μεγάλη κλίμακα, μέσω των ομοιόμορφων μεθόδων της μαζικής παραγωγής, κάνουν τους ανθρώπους να νοσταλγούν τις απλές, λαϊκές, ετερογενείς λύσεις, που μόνον ο ηωλιθισμός μπορεί να προσφέρει. Το πνεύμα του ηωλιθισμού είναι παρόν στη νεωτερικότητα και ενσαρκώνεται σε απροσδόκητες μορφές – ο Στορμ αναφέρεται στον παλιατζή ως τον κατεξοχήν ηωλιθικό χαρακτήρα. Αυτό που ξεχωρίζει τον Στορμ από άλλους στοχαστές που έχουν μελετήσει παρόμοια θεωρητικά πεδία –όπως ο Κλοντ Λεβί Στρος με την έννοια του «μαστορέματος» (bricolage) και ο Ζαν Πιαζέ με τις παρατηρήσεις του για τα παιδιά και τα παιχνίδια τους– είναι η άρνησή του να δει την ηωλιθική νοοτροπία ως απαρχαιωμένη ή ως απλώς μια φάση στην εξέλιξη των πρωτόγονων κοινωνιών ή των νηπίων. Η λαχτάρα για το ετερογενές, που ξεφεύγει από τα όρια του αυστηρώς καθορισμένου, θα συνεχίσει να διακατέχει τους ανθρώπους ή τις κοινωνίες καθώς αναπτύσσονται. Είναι θεμελιώδες συστατικό της ανθρώπινης εμπειρίας που το συναντάμε ακόμη και στη νεωτερικότητα. Θα μπορούσε μάλιστα αυτή η λαχτάρα να κινητοποιεί το πνεύμα που κάποιοι συνδέουν με τη μετανεωτερικότητα, αυτό του απλού ανθρώπου, παιγνιώδες, ιδιοσυγκρασιακό, μακριά από άκαμπτα σχέδια και ενιαίες λύσεις. Αυτό δεν σημαίνει ότι η ηωλιθική προσέγγιση δεν διέτρεχε κίνδυνο από την εποχή του Στορμ, ιδίως δεδομένων των απαιτήσεων του Λόμπι της Αποτελεσματικότητας. Ο Στορμ υποστήριζε ότι η επαγγελματική εκπαίδευση έφερε σε μεγάλο βαθμό μια εγγενή αντι-ηωλιθική προκατάληψη, και διαπίστωνε με θλίψη ότι «οι καλοί, ανώριμοι ηωλιθικοί τεχνίτες» δέχονταν «προτροπές να σπουδάσουν μηχανική, μόνο και μόνο για να ανακαλύψουν μετέπειτα, και ίσως όταν θα ήταν πια πολύ αργά, ότι η ευρηματικότητα και οι απλές λύσεις που κάποτε [τους] προσέλκυσαν το ενδιαφέρον είναι κάτι που πρέπει να ξεμάθουν». Ωστόσο, ακόμη και στην επιστήμη και τη μηχανική, η αποτελεσματική μάθηση –ιδίως στα αρχικά της στάδια– επιτυγχάνεται μακριά από τις αλγοριθμικές ακαμψίες του σχεδιασμού. Πιο συχνά ξεκινά, όπως το διατύπωσε ο Ντέιβιντ Χόκινς, φιλόσοφος της εκπαίδευσης και μια περίοδο συνεργάτης του Σάιμον, «χαζολογώντας». (Φίλος του Στορμ και πρώην βοηθός του Ρόμπερτ Οπενχάιμερ –όλοι κινούνταν στους ίδιους αριστερούς κύκλους της Καλιφόρνιας στα τέλη της δεκαετίας του 1930– ο Χόκινς φρόντισε για τη μεταθανάτια έκδοση του δοκιμίου του Στορμ και μερίμνησε προκειμένου να γίνει γνωστό μεταξύ άλλων και στους τεχνολόγους). Ο Στορμ δεν ήταν φιλόσοφος και το σύντομο δοκίμιό του δεν περιέχει παραπομπές σε άλλα άρθρα, όμως η οπτική του συνδέεται με ένα βασικό ζήτημα της πραγματιστικής φιλοσοφίας. Μπορούμε άραγε να μιλάμε για μέσα και σκοπούς ως ξεχωριστές κατηγορίες, όταν η διάδρασή μας με τα μέσα –και του ενός ανθρώπου με τον άλλον– μας οδηγεί συχνά στην αναθεώρηση των ίδιων των επιδιωκόμενων σκοπών μας; Με τη λογική του Στορμ, η σκόπιμη δράση θα μπορούσε να προκύψει ως αποτέλεσμα μιας σειράς ηωλιθικών παρορμήσεων. 5. Πόση σχέση έχουν όλα αυτά με ένα ουτοπικό όραμα για την τεχνητή νοημοσύνη; Αν ορίσουμε τη νοημοσύνη καθαρά ως επίλυση προβλημάτων και επίτευξη στόχων, ίσως όχι πολλή. Στην ειδυλλιακή προϊστορική σκηνή του Στορμ δεν υπάρχουν δουλειές που πρέπει να γίνουν, ούτε μεγάλα έργα που πρέπει να ολοκληρωθούν. Ο περιφερόμενός του της Λίθινης Εποχής θα μπορούσε ακόμα και να νιώθει έντονη ανία – και «ιδεωδώς δεν σκεφτόταν τίποτε απολύτως», όπως προτείνει ο Στορμ. Μπορούμε όμως πραγματικά να θεωρήσουμε ότι η στιγμή που ο περιπλανώμενος παρατηρεί ξαφνικά τον ηώλιθο –είτε γιατί φαντάζεται μια χρήση του είτε γιατί απλώς τον βρίσκει όμορφο– είναι άσχετη με την αντίληψή μας περί νοημοσύνης; Σε μια τέτοια περίπτωση τι θα κάνουμε με τις ιδιότητες που από καιρό θεωρούμε χαρακτηριστικές της ανθρώπινης λογικής: τη φαντασία, την περιέργεια, την πρωτοτυπία; Μπορεί αυτές να ενδιαφέρουν ελάχιστα το Λόμπι της Αποτελεσματικότητας, πρέπει όμως άραγε να απορριφθούν από όσους ενδιαφέρονται για την εκπαίδευση, τις τέχνες ή για έναν υγιή δημοκρατικό πολιτισμό που είναι σε θέση να εξερευνά και να συζητά εναλλακτικά σενάρια για το μέλλον; Με μια πρώτη ματιά, ο περιφερόμενος του Στορμ μοιάζει να μην κάνει τίποτα περισσότερο από μια επανακατηγοριοποίηση, σχεδόν σαν παιχνίδι – βγάζει την πέτρα από το βασίλειο των φυσικών αντικειμένων και την εντάσσει στην κατηγορία των εργαλείων. Ωστόσο η διαδικασία δεν συμβαίνει μηχανικά ούτε χωρίς τη χρήση της ευφυΐας. Το αν κάτι είναι χρήσιμο εργαλείο ή έργο τέχνης που έγινε με διάθεση αναζήτησης εξαρτάται συχνά από το βλέμμα του θεατή – ρωτήστε τον Μαρσέλ Ντυσάν (που έγινε διάσημος όταν ανακήρυξε ως έργο τέχνης ένα ουρητήριο) ή τον Μπράιαν Ίνο (ο οποίος ούρησε μέσα στην Κρήνη του Ντυσάν για να την επαναφέρει στο επίπεδο του τεχνουργήματος και όχι του εκθέματος μιας γκαλερί). Ο Στορμ υποδεικνύει το παιδικό παιχνίδι ως χαρακτηριστικό παράδειγμα ηωλιθισμού. Ξεκαθαρίζει επίσης ότι οι διαφορετικές κοινωνικές καταστάσεις, ανθρώπινοι παράγοντες και θεσμικά περιβάλλοντα, δεν ευνοούν εξίσου μια τέτοια νοοτροπία. Καταρχάς διότι κάποιοι από εμάς ίσως εκπαιδεύτηκαν στο σχολείο να σκέφτονται διαφορετικά. Άλλοι πάλι ίσως περιβάλλονται από εξαιρετικά εξελιγμένα, μη τροποποιήσιμα αντικείμενα που δεν μπορούν να μπουν σε διαφορετική χρήση. Όμως ο κατάλογος του Στορμ δεν είναι εξαντλητικός. Παίζουν ρόλο και πολλοί άλλοι παράγοντες, από την ικανότητα, την περιέργεια και την εκπαίδευση του περιπλανώμενου έως την ακαμψία των κανόνων και προτύπων που καθοδηγούν την ατομική συμπεριφορά, αλλά και την ικανότητα των ηωλιθικών αντικειμένων να «υπαινίσσονται» και να «αποδέχονται» τις πιθανές χρήσεις τους. Έχουμε φτάσει έτσι σε μια εικόνα της ανθρώπινης νοημοσύνης που υπερβαίνει κατά πολύ την εργαλειακή λογική. Θα μπορούσαμε να την ονομάσουμε, σε αντίθεση με αυτήν, οικολογική λογική – μια άποψη της νοημοσύνης που δίνει έμφαση τόσο στην απροσδιοριστία όσο και στη διαδραστική σχέση ανάμεσα σε εμάς και το περιβάλλον μας. Το σχέδιο ζωής του καθενός είναι μοναδικό, και μέσα από αυτά τα ατομικά σχέδια αναδύονται για τον καθένα μας οι πολλές πιθανές χρήσεις των «ηωλίθων». Σε αντίθεση με την εργαλειακή λογική, η οποία σχεδόν εξ ορισμού δεν εξαρτάται από το πλαίσιο και μπορεί εύκολα να τυποποιηθεί, η οικολογική λογική ευδοκιμεί όταν υπάρχουν λεπτές αποχρώσεις και διαφορές, άρα αντιστέκεται στην αυτοματοποίησή της. Είναι αδύνατον να τυποποιηθεί το πλήρες και διαρκώς μεταβαλλόμενο σύμπαν των νοημάτων από το οποίο προκύπτει. Όχι επειδή είναι μη εφικτό, αλλά επειδή δεν μπορεί να υπάρξει λογική συνοχή: το να ζητάμε από μια μηχανή να ασκήσει μια τέτοια μορφή νοημοσύνης είναι σαν να της ζητάμε να κάνει ένα τεστ Ρόρσαχ (Rorschach). Ναι μεν μπορεί να απαντήσει, ιδίως εάν εκπαιδευτεί σε έναν τεράστιο όγκο δεδομένων ανθρώπινων απαντήσεων, όμως οι απαντήσεις της θα είναι αναπόφευκτα ανούσιες για έναν απλό λόγο: η μηχανή δεν έχει κοινωνικοποιηθεί με τρόπο που θα μπορούσε να υπάρχει νόημα στο πώς αντιλαμβάνεται τις κηλίδες μελάνης του τεστ. Ωστόσο, το ότι αποκλείουμε την τυποποίηση δεν σημαίνει ότι δεν μπορεί να δοθεί με άλλους τρόπους τεχνική διάσταση στην οικολογική λογική. Ίσως το σωστό ερώτημα αντανακλά εκείνο που έθεσε ο Γουίνογκραντ πριν τέσσερις δεκαετίες: αντί να ρωτάμε αν τα εργαλεία τεχνητής νοημοσύνης μπορούν να ενσωματώσουν την οικολογική λογική, θα πρέπει να ρωτάμε αν μπορούν να ενισχύσουν την άσκησή της από τους ανθρώπους. Η συγκεκριμένη διατύπωση του ερωτήματος επιτρέπει τη συγκρατημένη αισιοδοξία – αν μη τι άλλο επειδή η τεχνητή νοημοσύνη έχει εξελιχθεί δραματικά από την εποχή της κριτικής του Γουίνογκραντ, τη δεκαετία του 1980. Η σημερινή τεχνητή νοημοσύνη δίνει τη δυνατότητα για πιο ετερογενείς και ανοιχτές χρήσεις – η γενικότητα και η απουσία ενός εγγενούς τέλους την καθιστούν πρόσφορο έδαφος για πειραματισμό. Εκεί που τα παλαιότερα συστήματα ίσως κατέληγαν σε μια άκαμπτη προεπιλογή, του τύπου «ο υπολογιστής λέει όχι», η σύγχρονη τεχνητή νοημοσύνη αφήνει τη φαντασία της να οργιάσει για να δώσει μια απάντηση. Η αλλαγή αυτή πηγάζει από τη μέθοδο στην οποία στηρίζεται: σε αντίθεση με τα εξειδικευμένα και βασισμένα σε κανόνες συστήματα που ο Γουίνογκραντ επέκρινε ως έκφραση βεμπεριανής γραφειοκρατίας, τα σημερινά μεγάλα γλωσσικά μοντέλα τροφοδοτούνται από δεδομένα και στατιστικές. Παρ’ όλο που εξακολουθούν να διαμορφώνονται με βάση κανόνες, τα αποτελέσματά τους εξαρτώνται από μεταβαλλόμενα δεδομένα και όχι από σταθερά πρωτόκολλα. Επιπλέον, τα μοντέλα αυτά θυμίζουν περισσότερο την ευελιξία της αγοράς παρά την ακαμψία της γραφειοκρατίας. Ακριβώς όπως οι παράγοντες της αγοράς βασίζονται στις παλαιότερες τάσεις και μπορεί να κάνουν λάθος εκτίμηση μέσα σε ένα ταχέως μεταβαλλόμενο πλαίσιο, τα μεγάλα γλωσσικά μοντέλα παράγουν αποτελέσματα που βασίζονται σε στατιστικά μοτίβα. Υπάρχει βέβαια ο κίνδυνος να υποπέσουν περιστασιακά σε πλάνες ή να ερμηνεύσουν λάθος το πλαίσιο. Δεν είναι ίσως τυχαίο ότι ο Φρίντριχ Χάγιεκ, του οποίου το έργο στον τομέα της ψυχολογίας επηρέασε τα πρώιμα νευρωνικά δίκτυα, διέκρινε μια ισοδυναμία μεταξύ του τρόπου λειτουργίας του εγκεφάλου και της αγοράς. (Ο Φρανκ Ρόζενμπλατ, δημιουργός του Perceptron, προσυπογράφει τις απόψεις του Χάγιεκ). Στη μικρή μου προσπάθεια να δημιουργήσω μια γλωσσική εφαρμογή, ξεκίνησα σαν τον περιπλανώμενο του Στορμ – χωρίς να με ενδιαφέρει να λύσω ένα συγκεκριμένο πρόβλημα. Δεν μετρούσα τις ώρες που χρειαζόμουν για την εκμάθηση μιας γλώσσας ή την αναζήτηση της πιο αποτελεσματικής στρατηγικής. Αντίθετα, καθώς χρησιμοποιούσα μία από τις τρεις υπηρεσίες που βασίζονται στην τεχνητή νοημοσύνη –το αντίστοιχο του να σκοντάψω στην πέτρα του Στορμ– παρατήρησα κάτι που με έκανε να αναρωτηθώ αν μπορώ να συνδέσω αυτό το εργαλείο με τα άλλα δύο. Ήταν άραγε σωστή η αίσθησή μου ότι μπορούσε κάποιος τόσο αγράμματος στον κώδικα όσο εγώ να συνδυάσει εύκολα αυτές τις υπηρεσίες; Δεν χρειάστηκε να αναρωτηθώ περισσότερο – με το ChatGPT μπορούσα να δοκιμάσω αμέσως. Υπ’ αυτή την έννοια το ChatGPT δεν είναι ηώλιθος –είναι πολύ άμορφο, χωρίς σχήμα, και γενικό– αλλά λειτουργεί περισσότερο ως πειραματικό εργαστήριο όπου ο ηωλιθικός περιπλανώμενος πηγαίνει την ανακάλυψή του για να δει σε τι πραγματικά χρησιμεύει. Με άλλα λόγια, μας επιτρέπει να δοκιμάσουμε αν η πέτρα που βρήκαμε είναι καταλληλότερη για αιχμή δόρατος, παιχνίδι ή αντικείμενο τέχνης. Εν συντομία, ναι μεν υπάρχουν εδώ στοιχεία ηωλιθισμού, αλλά θεωρώ ότι απέχουμε πολύ από μια ιδανική κατάσταση. Καταρχάς και οι τρεις υπηρεσίες που χρησιμοποίησα έχουν συνδρομή ή τέλη χρήσης· εκείνη που μετατρέπει το κείμενο σε ήχο χρεώνει 99 δολάρια το μήνα. Πολύ πιθανώς οι χρεώσεις αυτές, που επιδοτούνται σε μεγάλο βαθμό από επιχειρηματικά κεφάλαια, να μην επαρκούν καν για την κάλυψη του ενεργειακού κόστους της λειτουργίας μιας τόσο ενεργοβόρας παραγωγικής τεχνητής νοημοσύνης. Είναι σαν κάποιος να ιδιωτικοποίησε το λιβάδι με τις πέτρες, όπου ανακαλύφθηκε ο αρχικός ηώλιθος, και οι νέοι ιδιοκτήτες χρεώνουν ακριβό εισιτήριο εισόδου. Σίγουρα με αυτόν τον τρόπο δεν πρόκειται να μεγιστοποιηθεί η οικολογική νοημοσύνη. Υπάρχει επίσης κάτι υπερβολικά ατομιστικό σε όλο αυτό το σκηνικό – ένα ζήτημα που το εκτός κοινωνίας, προϊστορικό παράδειγμα του Στορμ παρακάμπτει. Βεβαίως και μπορώ να χρησιμοποιήσω ένα σύνολο ιδιωτικών υπηρεσιών για να δημιουργήσω μια εξατομικευμένη εφαρμογή εκμάθησης γλωσσών, η οποία μάλιστα να είναι εξαιρετικά αποτελεσματική. Είναι όμως το μοντέλο επεκτάσιμο σε μεγαλύτερη κλίμακα; Είναι κοινωνικά επιθυμητό; Μήπως είναι σαν να πηγαίνω κάπου με το αυτοκίνητο ενώ το τρένο θα με εξυπηρετούσε εξίσου καλά; Θα μπορούσαμε άραγε να χάσουμε ένα μέρος της αποτελεσματικότητας και της εξατομίκευσης, ξαναχρησιμοποιώντας κάποιες προτάσεις ή μικρές ιστορίες που δημιούργησα στην εφαρμογή μου, προκειμένου να μειώσουμε το ενεργειακό κόστος της νέας χρήσης των υπηρεσιών από κάθε χρήστη; Φτάνουμε έτσι στο βασικό πρόβλημα της σημερινής παραγωγικής τεχνητής νοημοσύνης. Δεν αντανακλά απλώς τις αρχές λειτουργίας της αγοράς, αλλά ενσαρκώνει το ήθος της. Κάτι που δεν προκαλεί έκπληξη δεδομένου ότι οι υπηρεσίες αυτές κυριαρχούνται από τεχνολογικούς γίγαντες που αντιμετωπίζουν τους χρήστες πάνω απ’ όλα ως καταναλωτές. Έχει άραγε κάποιο συμφέρον η OpenAI ή οποιαδήποτε άλλη υπηρεσία τεχνητής νοημοσύνης να με ενθαρρύνει, κατά τη δημιουργία της εφαρμογής μου, να στείλω λιγότερα ερωτήματα στους διακομιστές της ή να χρησιμοποιήσω τις απαντήσεις που έχουν ήδη λάβει άλλοι; Μια τέτοια πρακτική θα υπονόμευε το επιχειρηματικό της μοντέλο, ακόμη και αν μπορεί να είναι καλύτερο από κοινωνική ή πολιτική (πόσο μάλλον οικολογική) άποψη. Αντ’ αυτού, η διεπαφή προγραμματισμού εφαρμογών (API) του OpenAI με χρεώνει –εκπέμποντας μια διόλου αμελητέα ποσότητα διοξειδίου του άνθρακα– ακόμη και για να μου πει ότι το Λονδίνο είναι η πρωτεύουσα του Ηνωμένου Βασιλείου ή ότι το κιλό έχει χίλια γραμμάρια. Εάν με κάποιο τρόπο τα εργαλεία όπως το ChatGPT συμβάλλουν στην οικολογική λογική, τότε συγχρόνως την υπονομεύουν σε βαθύτερο επίπεδο – κυρίως με το να χτίζουν την ταυτότητα ενός απομονωμένου, πιθανώς αποξενωμένου, μεταμοντέρνου καταναλωτή και να περικλείουν τις δραστηριότητές μας σε αυτό το πλαίσιο. Όταν καταφεύγουμε σε τέτοια εργαλεία για να λύσουμε ένα πρόβλημα δεν είμαστε ανοιχτοί σε όλα, όπως ο περιπλανώμενος του Στορμ· λειτουργούμε περισσότερο σαν επιχειρηματίες που αναζητούν ευκαιρίες εξισορροπητικής κερδοσκοπίας (arbitrage) μέσα σε ένα πλέγμα προκαθορισμένο και προσανατολισμένο στο κέρδος. Ενώ μπορεί κάτω από αυτές τις συνθήκες να συμβεί ένα είδος ηωλιθικού μαστορέματος, η όλη συνθήκη περιορίζει το πλήρες δυναμικό και πεδίο εφαρμογής της οικολογικής λογικής. Και σε αυτό το σημείο η ChatGPT μοιάζει με τον Coordinator, όπως η δική μας καπιταλιστική μετανεωτερικότητα εξακολουθεί να μοιάζει στην προηγούμενη νεωτερικότητα, των στρατιωτικών-προνοιακών (warfare-welfare) διλημμάτων. Ενώ ο Coordinator ενίσχυε την άσκηση της εργαλειακής λογικής από τον «άνθρωπο της οργάνωσης», το ChatGPT επιτρέπει στο σημερινό νεοφιλελεύθερο υποκείμενο –εν μέρει καταναλωτής, εν μέρει επιχειρηματίας– να κοιτάξει φευγαλέα την οικολογική λογική και ίσως να φλερτάρει μαζί της, έστω και για λίγο. Η φαινομενική αύξηση της ανθρώπινης ελευθερίας κρύβει μια βαθύτερη ανελευθερία· πίσω και από τα δύο βρίσκεται το Λόμπι της Αποτελεσματικότητας, που εξακολουθεί να έχει τον έλεγχο. Γι’ αυτό ακριβώς η χειραφέτησή μας μέσω αυτών των παντοδύναμων τεχνολογιών μοιάζει τόσο ακρωτηριασμένη. Παρά τις επανειλημμένες διαβεβαιώσεις της Σίλικον Βάλεϊ, το αίσθημα της ακρωτηριασμένης ελευθερίας δεν θα γίνει λιγότερο έντονο, ακόμη και αν οι τεχνολογίες της αποκτήσουν τη δυνατότητα να αντιμετωπίζουν ακόμη σοβαρότερα προβλήματα. Αν η μεγάλη γοητεία των συστημάτων βαθιάς μάθησης (deep learning systems) οφείλεται στην ικανότητά τους να εκτελούν μια σειρά από άκρως ανόμοιες, πολύπλοκες, ακόμα και μοναδικές εργασίες με σχετικά απλή (αν όχι φθηνή ή φιλική προς το κλίμα) προσέγγιση, ας θυμηθούμε ότι είχαμε ήδη μια τέτοια τεχνολογία: την αγορά. Αν θέλατε να μετατρέψετε τη λίστα σας για ψώνια σε σονέτο του Σαίξπηρ, δεν χρειαζόταν να περιμένετε το ChatGPT. Μπορούσε να το κάνει κάποιος άλλος για λογαριασμό σας – αν καταφέρνατε να βρείτε αυτό το άτομο και ήσασταν διατεθειμένοι να πληρώσετε την αναλογούσα τιμή. Οι νεοφιλελεύθεροι το αντιλήφθηκαν αυτό από νωρίς. Στη θεωρία τουλάχιστον, οι αγορές υπόσχονται μια καθολική μέθοδο επίλυσης προβλημάτων, πολύ πιο απλή και αποτελεσματική από τη δημοκρατική πολιτική. Ωστόσο, η πραγματικότητα μας προσγειώνει. Οι πραγματικές αγορές δείχνουν να παραπατούν πολύ συχνότερα απ’ ό,τι θα θέλαμε, δυσκολεύονται να λύσουν τα προβλήματα και ενίοτε τα χειροτερεύουν. Συχνά δε υστερούν σε επιδόσεις σε σχέση με τα εκτός αγοράς συστήματα, που βασίζονται στην κοινή λαϊκή σοφία ή στη δημόσια εποπτεία. Καθώς δεν είναι φυσικά ή αυθόρμητα φαινόμενα, απαιτούν ηράκλεια προσπάθεια για να λειτουργήσουν αποτελεσματικά. Δεν μπορούν να χρησιμοποιήσουν τα τεράστια αποθέματα άρρητης και ρητής γνώσης που διαθέτουν οι πολίτες, ή τουλάχιστον ένα είδος γνώσης πέραν της επιχειρηματικής σκέψης: οι αγορές μπορούν να τα αξιοποιήσουν μόνο εισβάλλοντας σε τεράστια κομμάτια της ζωής μας. (Οι γραφειοκρατικές δομές, από την πλευρά τους, αντιμετώπιζαν παρόμοιους περιορισμούς πολύ πριν τον νεοφιλελευθερισμό, αν και η αδιαφορία τους για τη συμμετοχή των πολιτών προερχόταν από διαφορετικά κίνητρα). Οι περιορισμοί αυτοί είναι γνωστοί, γι’ αυτό και υπάρχει διαρκής αντίσταση στην εμπορευματοποίηση βασικών υπηρεσιών και αυξανόμενη πίεση για την απο-ιδιωτικοποίηση των δημόσιων αγαθών. Δύο χρόνια μετά τα πρώτα εμπορικά βήματα της παραγωγικής τεχνητής νοημοσύνης, αρχίζει να διαφαίνεται μια παρόμοια πορεία για τη γενική τεχνητή νοημοσύνη. Όσο η τεχνητή νοημοσύνη παραμένει στον μεγαλύτερο βαθμό της υπό τον έλεγχο των μεγάλων εταιρειών, το να την εμπιστευθούμε για τη λύση μεγάλων κοινωνικών προβλημάτων θα ήταν σαν να εμπιστευόμαστε την αγορά. 6. Ποια είναι η εναλλακτική λύση; Για να αρχίσουμε πράγματι να απομακρυνόμαστε από την εργαλειακή λογική πρέπει να μπει στην ατζέντα η ρήξη των δεσμών με το Λόμπι της Αποτελεσματικότητας. Μια ρήξη που πρέπει να συμβεί πολύ πέρα από την καθημερινή, κοινωνική ή ακόμη και αστική ζωή, με αναθεωρήσεις σε εθνικό ή και τοπικό επίπεδο. Καθώς αυτό δεν έχει προηγούμενο στις Ηνωμένες Πολιτείες –με την εξαίρεση ίσως κάποιων δράσεων στο πλαίσιο του New Deal του Ρούσβελτ, όπως η υποστήριξη των καλλιτεχνών μέσω του Ομοσπονδιακού Σχεδίου για τις Τέχνες (Federal Art Project)– μπορούμε να πάρουμε ιδέες για το πώς θα μπορούσε να συμβεί, μέσα από την ιστορία άλλων κρατών. Στις αρχές της δεκαετίας του 1970, ο Σαλβαδόρ Αλιέντε στη Χιλή φιλοδοξούσε να δώσει δύναμη στους εργαζόμενους, κάνοντάς τους ιδιοκτήτες αλλά και διαχειριστές μεγάλων βιομηχανιών. Μέσα σε ένα εξαιρετικά ασταθές πολιτικό κλίμα που τελικά οδήγησε σε πραξικόπημα, η κυβέρνηση του Αλιέντε προσπάθησε να αξιοποιήσει την λιγοστή τεχνολογία της πληροφορικής που διέθετε για να διευκολύνει τη μετάβαση. Το σύστημα –γνωστό ως Πρόγραμμα Cybersyn– στόχευε στην προώθηση της εργαλειακής και τεχνολογικής λογικής, και συνδύαζε την εκτέλεση κοινών διοικητικών καθηκόντων με διαβουλεύσεις για εναλλακτικές λύσεις σε επίπεδο εταιρείας, κλάδου ή κράτους. Οι εργαζόμενοι, σε διευθυντικούς ρόλους πλέον, χρησιμοποιούσαν εργαλεία οπτικοποίησης και στατιστικής ανάλυσης στην περίφημη Αίθουσα Επιχειρήσεων (Operations Room) για να λάβουν τεκμηριωμένες αποφάσεις. Το πρόσωπο που εισηγήθηκε το έργο δεν ήταν άλλο από τον Φερνάντο Φλόρες, υπουργό του Αλιέντε και μελλοντικό συνεργάτη του Γουίνογκραντ. Την ίδια περίπου εποχή, μια ομάδα Αργεντινών επιστημόνων ξεκινούσε τις δικές της προσπάθειες για να πυροδοτήσει, μέσω της τεχνολογίας των υπολογιστών, τον δημόσιο διάλογο για πιθανές εθνικές –και παγκόσμιες– εναλλακτικές λύσεις. Η πιο σημαντική πρωτοβουλία προήλθε από το Ίδρυμα Μπαριλότσε (Bariloche Foundation), το οποίο αμφισβήτησε πολλές γεωπολιτικές παραδοχές που περιλαμβάνονταν σε εκθέσεις, όπως στην έκθεση του 1972 με τίτλο «Τα όρια της ανάπτυξης» (“The limits to growth”) – και ιδίως την αντίληψη ότι ο υπανάπτυκτος Παγκόσμιος Νότος πρέπει να κάνει θυσίες για να «σώσει» τον υπερανεπτυγμένο Παγκόσμιο Βορρά. Καρναβαλιστής με ρομποτικό κοστούμι στο καρναβάλι της Παγιέν της Ελβετίας στις 18 Φεβρουαρίου 2024. © ΑΠΕ-ΜΠΕ / EPA / Valentin Flauraud Μια άλλη σημαντική προσωπικότητα σε αυτούς τους θεωρητικούς κύκλους ήταν ο Όσκαρ Βαρσάβσκι, ένας ταλαντούχος επιστήμονας που έγινε στη συνέχεια ακτιβιστής, ο οποίος προωθούσε αυτό που αποκαλούσε «κανονιστικό σχεδιασμό» (normative planning). Σε αντίθεση με τους υπέρμαχους της θεωρίας του εκσυγχρονισμού, οι οποίοι χρησιμοποιούσαν τους υπολογιστές για να προβάλλουν μια μοναδική, προκαθορισμένη τροχιά οικονομικής και πολιτικής προόδου, ο Βαρσάβσκι και οι ιδεολογικοί του σύμμαχοι είχαν ως όραμα να χαρτογραφήσουν μέσω της τεχνολογίας, με μια μέθοδο που ονόμασαν «αριθμητικό πειραματισμό», μια σειρά από διαφορετικές κοινωνικές τροχιές, έτσι ώστε να προσδιορίσουν τις εναλλακτικές μορφές κοινωνικοοικονομικής ανάπτυξης. Ανάμεσά τους, ο Βαρσάβσκι εντόπισε ένα φάσμα διαφορετικών μοντέλων, που περιλάμβανε το «μποέμ», το «αυταρχικό», το «εταιρειο-κεντρικό», το «δημιουργικό» και το «ανθρωποκεντρικό», και εξέφρασε την προτίμησή του στα δύο τελευταία. Η τεχνολογία των υπολογιστών θα έδινε έτσι τη δυνατότητα στους πολίτες να ερευνήσουν τις δυνατότητες, τις συνέπειες και το κόστος κάθε διαφορετικής διαδρομής, επιτρέποντάς τους να επιλέξουν εκείνη που ανταποκρίνεται στις αξίες και τους διαθέσιμους πόρους τους. Υπ’ αυτή την έννοια, η τεχνολογία της πληροφορικής έμοιαζε με το εργαστήριο του ηωλιθικού flâneur μας: ένας χώρος όχι μόνο για άσκηση διαχείρισης ή επιδίωξη της αποτελεσματικότητας, αλλά ένας χώρος που επιτρέπει τη φαντασία, την προσομοίωση και τον πειραματισμό. Η χρήση στατιστικού λογισμικού στα σύγχρονα πειράματα συμμετοχικού προϋπολογισμού –ακόμη και αν τα περισσότερα εξ αυτών παραμένουν ακόμα σε τοπικό, και όχι εθνικό επίπεδο– αντανακλά την ίδια δέσμευση: στόχος είναι να αναδειχθούν με χρήση στατιστικών εργαλείων οι επιπτώσεις των διαφορετικών επιλογών δαπανών και στη συνέχεια να επιλέξουν οι πολίτες. Και στις δύο περιπτώσεις, η διαδικασία αφορά τόσο τη βελτίωση της κατά τον Πάουλο Φρέιρε «διατύπωσης προβλημάτων» –που επιτρέπει να δούμε διαφορετικές όψεις των προβλημάτων μέσω της έκθεσής τους σε δημόσιο έλεγχο και διαβούλευση– όσο και της επίλυσης προβλημάτων. Αυτό που συνδέει τα παραδείγματα της Λατινικής Αμερικής είναι η κοινή αντίληψη ότι η προώθηση της οικολογικής λογικής προϋποθέτει την αποδέσμευση των εθνικών σχεδίων από την ατζέντα της αποτελεσματικότητας που επιβάλλει –ιδεολογικά, οικονομικά, στρατιωτικά– ο Παγκόσμιος Βορράς. Όλοι αναγνώριζαν ότι η δήθεν απολιτική γλώσσα αυτού του υποτιθέμενου «εκσυγχρονισμού» συχνά συγκάλυπτε τα πολιτικά συμφέροντα των φατριών του Λόμπι της Αποτελεσματικότητας. Θεωρούσαν, με άλλα λόγια, ότι έπρεπε πρώτα να θέσουν το ζήτημα σε πολιτικό επίπεδο και μόνον αργότερα σε τεχνολογικό. Ο δρόμος που οδηγεί στην οικολογική λογική είναι στρωμένος με αποτυχημένες προσπάθειες. Στα τέλη της δεκαετίας του 1960, μια ομάδα εκκεντρικών επιστημόνων τεχνολογίας –πολλοί εκ των οποίων συνδέονταν με το ΜΙΤ– εμπνεύστηκαν από το δοκίμιο του Στορμ και δημιούργησαν το ιδιωτικά χρηματοδοτούμενο Εργαστήριο Περιβαλλοντικής Οικολογίας (Environmental Ecology Lab). Στόχος τους ήταν να ερευνήσουν πώς μπορούσε η τεχνολογία να οδηγήσει σε δράσεις χωρίς να καθοδηγείται από μια λογική επίλυσης προβλημάτων ή από συγκεκριμένους στόχους. Όμως ως μποέμ, επαναστάτες και αντιπολεμικοί ακτιβιστές, δεν είχαν κανένα ενδιαφέρον να συνεργαστούν με το Λόμπι της Αποτελεσματικότητας και απέτυχαν να κάνουν πρακτικά βήματα προς μια εναλλακτική πολιτική λύση. Ένας νεαρός καθηγητής αρχιτεκτονικής, που διατηρούσε σχέσεις με τους ιδρυτές του εργαστηρίου, ο Νίκολας Νεγκροπόντε, δεν συμμεριζόταν αυτή την αποστροφή. Επηρεασμένος βαθιά από τις ιδέες τους, ίδρυσε το εργαστήριο πληροφορικής MIT Media Lab – έναν χώρο που καλλιεργούσε μια πιο παιγνιώδη διάθεση εξερεύνησης των δυνατοτήτων των υπολογιστών, παρ’ όλο που η χρηματοδότησή του προερχόταν από τις μεγάλες αμερικανικές επιχειρήσεις και το Πεντάγωνο. Το βιβλίο του Η αρχιτεκτονική μηχανή: Προς ένα πιο ανθρώπινο περιβάλλον (The Architecture Machine: Toward a More Human Environment), που εκδόθηκε το 1970, περιέχει αναφορές ακόμα και στο δοκίμιο του Στορμ. Με την πάροδο του χρόνου όμως αυτή η διάθεση εξερεύνησης πήρε εργαλειακή μορφή. Προβαλλόμενη πια ως «διαδραστικότητα» ή «ευφυΐα» έγινε μέσο προώθησης και πώλησης των τελευταίων μοντέλων ηλεκτρονικών συσκευών, στη μεγαλύτερη έκθεση ηλεκτρονικής τεχνολογίας για τον καταναλωτή, το Consumer Electronics Show. Κάτι που απείχε πολύ από την δεξιοτεχνία και τη δημιουργικότητα του οράματος του Στορμ. Ομοίως, ήδη από τη δεκαετία του 1970, ο Σίμορ Πάπερτ, συνάδελφος του Νεγκροπόντε στο MIT και επίσης πρωτοπόρος της τεχνητής νοημοσύνης, είχε διακρίνει ότι η εμμονή στην αποτελεσματικότητα και την εργαλειακή λογική ήταν καταστροφική για την κουλτούρα των υπολογιστών εν γένει. Ακόμη χειρότερα, αποξένωνε πολλούς νεαρούς σπουδαστές, που πλέον φοβούνταν την ενσάρκωση αυτής ακριβώς της λογικής: τον υπολογιστή. Παρ’ όλο που ο Πάπερτ –επιβλέπων της διατριβής του Γουίνογκραντ– δεν εγκατέλειψε πλήρως την τεχνητή νοημοσύνη, έστρεψε όλο και περισσότερο την προσοχή του στην εκπαίδευση, υποστηρίζοντας μια ηωλιθική προσέγγιση. (Έχοντας συνεργαστεί με τον Πιαζέ, γνώριζε επίσης το έργο του Ντέιβιντ Χόκινς, του φιλοσόφου της εκπαίδευσης που είχε δημοσιεύσει το δοκίμιο του Στορμ). Ωστόσο, όπως συνέβη στα δύο εργαστήρια που προανέφερα, οι λύσεις του Πάπερτ κατέληξαν τελικά να είναι τεχνολογικές διορθώσεις, με αποκορύφωμα την ατυχή πρωτοβουλία για παροχή «ενός φορητού υπολογιστή ανά παιδί». Αν αφαιρέσουμε από τον ηωλιθισμό την πολιτική του διάσταση, πολύ εύκολα μπορεί να μετατραπεί σε κάτι που θα ονομάζαμε «επιλυσιμότητα» (solutionism).[3] 7. Τα παραδείγματα της Λατινικής Αμερικής καταρρίπτουν την ιδεολογία της «μη ύπαρξης εναλλακτικής λύσης» στην τεχνολογική ανάπτυξη του Παγκόσμιου Βορρά. Στις αρχές της δεκαετίας του 1970, η συγκεκριμένη ιδεολογία στηριζόταν στη θεωρία του εκσυγχρονισμού· σήμερα στηρίζεται στον νεοφιλελευθερισμό. Το αποτέλεσμα, ωστόσο, είναι ίδιο: καταργείται κάθε όραμα ενός εναλλακτικού θεσμικού περιβάλλοντος για αυτές τις τεχνολογίες. Είναι λοιπόν κρίσιμης σημασίας να αποδείξουμε –μέσω της πρότυπης εφαρμογής τους στον πραγματικό κόσμο και μέσω θεσμικών μεταρρυθμίσεων– ότι η αποσύνδεση αυτών των εργαλείων από ένα μοντέλο ανάπτυξης καθοδηγούμενο από την αγορά είναι όχι μόνο δυνατή αλλά και επωφελής για τη δημοκρατία, την ανθρωπότητα και τον πλανήτη. Στην πράξη, αυτό θα σήμαινε ότι το ηωλιθικό δυναμικό της παραγωγικής τεχνητής νοημοσύνης θα πρέπει να ανακατευθυνθεί προς εναλλακτικές λύσεις που είναι δημόσιες, βασίζονται στην αλληλοϋποστήριξη και ωφελούν την κοινωνία. Όσο κι αν είμαι περήφανος για τη μικρή γλωσσική εφαρμογή μου, ξέρω ότι υπάρχουν χιλιάδες παρόμοια προχειροφτιαγμένα προγράμματα, δημιουργημένα με το ίδιο πνεύμα πειραματισμού. Ενώ πολλοί στον χώρο της τεχνολογίας έχουν αποκομίσει κέρδη από ανάλογες μεμονωμένες προσπάθειες όσων θέλουν να μάθουν μια ξένη γλώσσα, δεν υπάρχει κανένας λόγος να μην μπορούμε να τις συνθέσουμε σε ένα ενιαίο πλαίσιο και να πιέσουμε για λιγότερο ατομικές και περισσότερο συλλογικές λύσεις. Κάτι που ισχύει και για πολλούς άλλους τομείς. Το να σταματήσουμε όμως εδώ –στην απαρίθμηση τρόπων για να κάνουμε τα μεγάλα γλωσσικά μοντέλα λιγότερο ευνοϊκά για τον νεοφιλελευθερισμό– θα ήταν κοντόφθαλμο. Θα υπονοούσε λανθασμένα ότι τα εργαλεία στατιστικής πρόβλεψης είναι ο μόνος τρόπος να προωθήσουμε την οικολογική λογική. Σίγουρα υπάρχουν πολύ περισσότερες τεχνολογίες για να αναπτύξουμε την ανθρώπινη νοημοσύνη από όσες ονειρευόμαστε με βάση την κυρίαρχη φιλοσοφία μας. Πρέπει η οικολογική λογική να αποτελέσει ένα ολοκληρωμένο ερευνητικό παράδειγμα και να αναρωτηθούμε τι μπορεί να κάνει η τεχνολογία για τον άνθρωπο – με την προϋπόθεση βέβαια να πάψουμε να τον βλέπουμε ως είδος βιολογικού θερμοστάτη ή πυραύλου. Στο μεταξύ, ας μην ξεχνάμε τη σημαντικότερη γνώση που αποκομίσαμε από τα πειράματα της Λατινικής Αμερικής: οι δυνατότητες χειραφέτησης που προσφέρει η τεχνολογία θα διασφαλιστούν μόνο μέσω ενός ριζοσπαστικού πολιτικού σχεδίου. Χωρίς αυτό, είναι απίθανο να συγκεντρώσουμε τους απαιτούμενους πόρους ούτως ώστε η ατζέντα του Λόμπι της Αποτελεσματικότητας να μην κυριαρχήσει σε αυτήν του Λόμπι της Ανθρωπιάς. Η τραγική αποτυχία των παραπάνω πειραμάτων δείχνει πως αυτό δεν θα είναι εύκολο. Όσον αφορά το δύσκολο αρχικό ερώτημα, της σχέσης της τεχνητής νοημοσύνης με τη δημοκρατία, η λύση είναι απλή. Η «δημοκρατική τεχνητή νοημοσύνη» απαιτεί πραγματική δημοκρατία, με σεβασμό στην αξιοπρέπεια, τη δημιουργικότητα και τη νοημοσύνη των πολιτών. Δεν συνδέεται μόνο με τη μεγαλύτερη διαφάνεια των μοντέλων ή τη μείωση του κόστους τους, ούτε μπορεί να επιτευχθεί με μικρές πολιτικές διορθώσεις ή τεχνολογικές καινοτομίες. Η πραγματική πρόκληση έγκειται στην καλλιέργεια της σωστής κοσμοαντίληψης (Weltanschauung) –αυτή η εφαρμογή κάνει θαύματα!– βασισμένης στην οικολογική λογική. Εδώ ακριβώς, η ικανότητα της τεχνητής νοημοσύνης να παρεμβαίνει ιδεολογικά προς όφελος της άρχουσας τάξης, είτε αυτή πρόκειται για τη γραφειοκρατία παλαιότερα είτε για την αγορά σήμερα, αποτελεί τη μεγαλύτερη απειλή. Παρεμπιπτόντως πρέπει να αναφέρουμε πως εκείνοι που πλησίασαν περισσότερο στο να περιγράψουν τις λειτουργίες της οικολογικής λογικής ήταν οι Αμερικανοί πραγματιστές. Αν στο αρχικό της στάδιο η κοινότητα της τεχνητής νοημοσύνης είχε δείξει ενδιαφέρον στα λόγια του Τζον Ντιούι και στο έργο του για την «ενσώματη νοημοσύνη» (embodied intelligence), θα είχαμε ίσως αποφύγει πολλές εσφαλμένες κατευθύνσεις που ακολουθήσαμε. Είναι λοιπόν άξιο απορίας τι είδους τεχνητή νοημοσύνη –και κριτική της τεχνητής νοημοσύνης– θα είχαμε, αν οι επικριτές της είχαν στρέψει το βλέμμα τους σε εκείνον και όχι στον Χάιντεγκερ. Όμως μπορεί να μην είναι πολύ αργά για να ακολουθήσουμε, έστω και τώρα, αυτόν τον εναλλακτικό δρόμο. © 2025 Evgeny Morozov / Boston Review — Μετάφραση: Νατάσα Μωράκη [1] “Eolithism and Design”, διαθέσιμο στο λινκ https://tinyurl.com/atys223k [2] Ακολουθούμε την απόδοση στο Μιχάλης Ζουμπουλάκης κ.ά. (επιμ.), Ιστορία της οικονομικής σκέψης, εκδόσεις Μπένου, Αθήνα 2022. Στα ελληνικά έχει αποδοθεί και τεχνουργία, στο δοκίμιο του Βέμπλεν “The Instinct of Workmanship, and the State of Industrial Arts” (1914), σε μετάφραση Ν. Κελεμένη («Το ένστικτο της τεχνουργίας και η οχληρότητα της εργασίας»), στο: Η ριζοσπαστική σκέψη του Thorstein Veblen, Πεδίο, Αθήνα 2023. (Σ.τ.Μ.) [3] Η θεωρία ότι όλα τα προβλήματα είναι επιλύσιμα, κυρίως μέσω της τεχνολογίας. (Σ.τ.Μ.)

Η τεχνητή νοημοσύνη που μας αξίζει

Σύνδεση