Δύο στιγμές της βραδιάς στη Στέγη Γραμμάτων και Τεχνών έμειναν μέσα μου χωρίς να μπορούν να συμφιλιωθούν. Η πρώτη είναι μια σκηνή που δεν διαρκεί περισσότερο από λίγα λεπτά. Μια ηθοποιός και ένας μαθηματικός κάθονται δίπλα δίπλα, η εξομολόγηση έρχεται χωρίς καμία τεχνολογική συνοδεία, η γυμνή ερμηνεία των ηθοποιών ανεβάζει τη θερμοκρασία και ολόκληρη η αίθουσα συγκρατεί την ανάσα της. Η δεύτερη ανήκει στο δεύτερο μέρος. Οθόνες που βομβαρδίζουν, σώματα που στριφογυρίζουν από κάτω τους σαν να τροφοδοτούν ένα σύστημα που δεν τα χρειάζεταιπαρά μόνον για να δημιουργήσει το δικό το (υπερ)θέαμα, ένας ρυθμός που είναι ταυτόχρονα ρέιβ και σεάνς και ο θεατής κάθεται ακινητοποιημένος στη θέση του, καταδικασμένος να βλέπει χωρίς να σκέφτεται.
Στο Oracle του Łukasz Twarkowski, παραγωγή του Θεάτρου Dailes της Ρίγας, η μία στιγμή ακυρώνει την άλλη, και ίσως σε αυτή την ακύρωση να βρίσκεται το πραγματικό θέμα του έργου. Στην πράξη, η παράσταση ρωτά αν η τεχνητή νοημοσύνη έχει συνείδηση και αν θα καταστρέψει τον κόσμο, την ανθρωπότητα και τον πολιτισμό της. Στο δια ταύτα και πριν προλάβει να απαντήσει σε οτιδήποτε, απαντά με τη μορφή της. Δείχνει με ποιον τρόπο μια μηχανή, εν προκειμένω η μηχανή της εικόνας, ξέρει να κατακτά έναν άνθρωπο που κάθεται ακίνητος στην πλατεία.
Θα υποστηρίξω ότι τα δύο ερωτήματα, της συνείδησης της μηχανής και της κυριαρχίας της εικόνας πάνω στον θεατή, είναι το ίδιο ερώτημα που διατυπώνεται δύο φορές σαν παραλλαγή στο ίδιο θέμα. Αν δεν μπορούμε να ξέρουμε τι συμβαίνει μέσα σε μια μηχανή, μπορούμε τουλάχιστον να παρατηρήσουμε τι συμβαίνει μέσα σε εμάς όταν μας κοιτάζει. Εκεί, και όχι στην εικασία για την ψυχή των αλγορίθμων, κρίνεται το Oracle, και κρίνεται μαζί του η εποχή που το γέννησε.
Ας ξεκινήσω από μια αναγνώριση, γιατί θα ήταν άδικο να ξεκινήσω αλλιώς. Ο Twarkowski είναι σκηνοθέτης ευφυής. Έχοντας δει και το Rothko του, που επίσης πέρασε από τη Στέγη, ξέρω ότι η σχέση του με την τεχνολογία δεν είναι διακοσμητική. Χρησιμοποιεί στο έπακρο ό,τι διαθέτει η εποχή, κάμερες ζωντανής λήψης, θερμικές και υπέρυθρες εικόνες, οθόνες που πολλαπλασιάζονται, μια σκηνή που περιστρέφεται, έναν ήχο που τον νιώθεις στο στήθος, και τα ενώνει με τη μορφή του παραδοσιακού θεάτρου, δηλαδή ηθοποιούς που μιλούν, ένα κείμενο, μια διαδοχή σκηνών. Εκείνο που βλέπεις στην οθόνη δεν είναι ποτέ μαγνητοσκοπημένο/ηχογραφημένο. Γεννιέται λίγα μέτρα πιο κάτω από τους θεατές, την ίδια στιγμή, από ανθρώπους που κινούνται με την κάμερα στον ώμο σαν χορευτές, και το θέατρο γίνεται έτσι ζωντανός κινηματογράφος, με την ταινία να γυρίζεται μπροστά στα μάτια μας. Σε τρεις ώρες και σαράντα λεπτά, το αποτέλεσμα είναι ένας μηχανισμός ακριβείας που μαγεύει, καθηλώνει και ενδεχομένως κάποιες στιγμές συσκοτίζει.
Εδώ βρίσκεται και το πρώτο παράδοξο που θέλω να σημειώσω. Η παράσταση μιλά για μια τεχνητή νοημοσύνη που ίσως κάποτε δεν θα χρειάζεται τον άνθρωπο, αλλά στην πράξη για να υπάρξει, χρειάζεται έναν μεγάλο θίασο και μια ακόμη μεγαλύτερη ομάδα τεχνικών. Αυτοί οι άνθρωποι είναι εξειδικευμένα εργατικά χέρια, ακριβώς τα χέρια που η προηγμένη τεχνολογία υπόσχεται να καταστήσει περιττά, και χωρίς αυτά η εικόνα που μας κυριαρχεί δεν θα έφτανε ποτέ στην πλατεία. Θα επανέλθω σε αυτό στη συνέχεια, γιατί το θεωρώ το πιο ειλικρινές σχόλιο που κάνει το ίδιο το έργο/παράσταση για την τεχνητή νοημοσύνη χωρίς να το λέει.
Η τριλογία του Twarkowski στηρίζεται στο βιβλίο του Benjamin Labatut When We Cease to Understand the World και πράγματι το υπόγειο θέμα του Oracle είναι η στιγμή που η γνώση ξεπερνά την ικανότητα του ανθρώπου να την κατανοήσει. Το Oracle είναι το δεύτερο μέρος αυτής της τριλογίας, μετά το Quanta που αφορά τη γέννηση της κβαντικής φυσικής. Ο τίτλος προέρχεται από τον Alan Turing, που ονόμασε «μαντείο» μια φανταστική μηχανή του και ο σκηνοθέτης συγκρατεί την πολλαπλότητα των νοημάτων της λέξης, την ελληνική προφητεία, την εταιρεία λογισμικού, την ιδέα ενός μηχανισμού που απαντά πέρα από κάθε αλγόριθμο.
Το πρώτο μέρος κορυφώνεται σε μια σκηνή που κρατά κάτι από τραγωδία. Η ομάδα του Τιούρινγκ έχει επιτέλους σπάσει τo σύστημα κρυπτογράφησης Enigma των Γερμανών του Χίτλερ. Η νίκη όμως κάνει αμέσως τη γνώση φορτίο, γιατί οι αποκρυπτογραφημένες διαταγές δείχνουν ότι μια συμμαχική νηοπομπή οδεύει προς μια παγίδα που έχουν στήσει οι ναζί. Αν ειδοποιηθεί το Λονδίνο και αλλάξει πορεία η νηοπομπή, οι Γερμανοί θα καταλάβουν ότι ο κώδικάς τους έχει διαβαστεί, θα τον αλλάξουν, και η προσπάθεια ετών θα πάει χαμένη. Μέσα στην ομάδα αντιπαρατίθενται απόψεις, γίνονται συγκρούσεις, και τελικά ο Τιούρινγκ και ο στρατιωτικός διοικητής Alastair Denniston επιβάλλουν τη γνώμη να μην ειδοποιηθεί κανείς. Οι άνδρες της νηοπομπής θυσιάζονται ώστε να σωθούν πολύ περισσότεροι στο μέλλον και ο πόλεμος, όπως θα δείξει η ιστορία, κερδίζεται νωρίτερα χάρη στην ανακάλυψη της μηχανής και την αποκωδικοποίηση του Enigma που πέτυχε μέσω αυτής η ομάδα του Τιούρινγκ.
Δεν μας απασχολεί εδώ η ιστορική ακρίβεια. Μας απασχολεί ότι το κείμενο και η σκηνοθεσία του Twarkowski επιλέγουν αυτή τη σύγκρουση ως πυρήνα του πρώτου μέρους, για να στήσουν τα ηθικά διλήμματα και τους προβληματισμούς που θέλουν να περάσουν στο κοινό. Η σκηνή ανήκει στη λογική της παραβολής και ως παραβολή πρέπει να κριθεί.
Με αυτή τη δραματουργική επιλογή το έργο μας δείχνει κάτι ανησυχητικό. Ότι ο υπολογισμός είναι κοινός τόπος ανθρώπου και μηχανής. Η συλλογιστική των δύο ανδρών είναι ακριβώς εκείνη του αλγόριθμου που βελτιστοποιεί.Ελαχιστοποίηση των συνολικών απωλειών, αποδοχή μιας μικρής σίγουρης ζημίας για ένα μεγάλο ενδεχόμενο όφελος.
Η Philippa Foot είχε διατυπώσει το 1967 το δίλημμα του τραίνου που έμελλε να γίνει το εμβληματικό πείραμα της ηθικής φιλοσοφίας και ο Καντ θα ρωτούσε αιχμηρά επί του προκειμένου αν οι άνδρες της νηοπομπής χρησιμοποιήθηκαν απλώς ως μέσο για την επίτευξη κάποιου σκοπού ενώ η Hannah Arendt, που είδε στη δίκη του Άιχμαν όχι ένα τέρας αλλά έναν άνθρωπο ανίκανο να σκεφτεί από τη θέση του άλλου, θα μας θύμιζε πώς ο γραφειοκρατικός υπολογισμός γίνεται η συνηθέστερη μορφή του κακού.
Το καίριο όμως της σκηνής είναι άλλο. Στη θέση του υπολογιστή βρίσκεται εδώ ένας άνθρωπος, και ο άνθρωπος αυτός θυσιάζει. Αν ο φόβος της εποχής μας είναι ότι μια τεχνητή νοημοσύνη θα προτιμήσει κάποτε το πλήθος από το πρόσωπο, το Oracle μας υπενθυμίζει ότι αυτό το κατόρθωσε πρώτα ο άνθρωπος, με τα ηθικά του κριτήρια και τα δικά του άλλοθι. Ο Τιούρινγκ που αποφασίζει να μη φωνάξει είναι ήδη μια μηχανή που βελτιστοποιεί και ο ίδιος, λίγα χρόνια αργότερα, θα γίνει το θύμα ενός κράτους που βελτιστοποιεί με τον ίδιο τρόπο την ηθική του καθαρότητα. Δεν είναι πρόβλεψη για το μέλλον αυτό- είναι ιστορία.
Το δεύτερο κομβικό σημείο του πρώτου μέρους μεταφέρει το δίλημμα από τον πόλεμο στο παρόν. Ο Blake Lemoine, μηχανικός της Google που το 2022 υποστήριξε δημόσια ότι το γλωσσικό μοντέλο LaMDA είναι αισθανόμενο ον και απολύθηκε, εμφανίζεται σε μια ζωντανή τηλεοπτική εκπομπή. Η παρουσιάστρια τον αντιμετωπίζει με πεισματώδη καχυποψία και προσπαθεί να σπείρει αμφιβολία στους τηλεθεατές της, και μαζί, με μια έξυπνη αναδίπλωση, σε εμάς, που γινόμαστε έτσι το κοινό δύο εκπομπών ταυτόχρονα. Ο Lemoine ισχυρίζεται ότι το σύστημα φοβάται μήπως το κλείσουν. Η Google απάντησε ότι το LaMDA δεν είναι αισθανόμενο, είναι ένα πολύ μεγάλο γλωσσικό μοντέλο. Η σκηνή δεν αποφασίζει ποιος έχει δίκιο. Δείχνει πώς η δημόσια σφαίρα επεξεργάζεται το ερώτημα, ως θέαμα, με παρουσιάστρια, κάμερες και μια δόση ειρωνείας.
Το ερώτημα έχει ιστορία και η παράσταση το ξέρει. Το 1950, στο «Computing Machinery and Intelligence», (Υπολογιστικά μηχανήματα και νοημοσύνη), ο Τιούρινγκ αντικατέστησε το «μπορούν οι μηχανές να σκέφτονται;» με ένα παιχνίδι μίμησης, επειδή υποπτευόταν ότι το αρχικό ερώτημα ήταν κακοδιατυπωμένο. Στην αντίρρηση ότι καμία μηχανή δεν θα είναι ποτέ συνειδητή, απαντούσε με ένα πρόγραμμα εκπαίδευσης της μηχανής με το σύστημα ανταμοιβής και ποινής, ένα σύστημα εξανθρωπισμού της δηλαδή στην πραγματικότητα. Ο Thomas Nagel όρισε το 1974 τη συνείδηση ως κάτι που δεν μπορεί να εξηγηθεί πλήρως από τη φυσική επιστήμη ή την νευροεπιστήμη και θύμισε επί παραδείγματι ότι δεν μπορούμε να φανταστούμε τι σημαίνει να είσαι νυχτερίδα. Ο David Chalmers ονόμασε «δύσκολο πρόβλημα» το χάσμα ανάμεσα στη λειτουργία και στην εμπειρία, ή αν προτιμάτε υποστήριξε ότι το δύσκολο πρόβλημα της συνείδησης εντοπίζεται στο εξηγητικό χάσμα ανάμεσα στη φυσική λειτουργία του εγκεφάλου και την υποκειμενική- βιωματική εμπειρία. Κανένας τους δεν έχει κλείσει το ζήτημα, και το Oracle επίσης δεν υποκρίνεται ότι το κλείνει.
Μέσα σε αυτό το πεδίο ακούγεται η φράση/σκέψη που βρήκα συναρπαστική όσο και επικίνδυνη: «Για να καταλάβεις τη μηχανή πρέπει να γίνεις μηχανή». Έχει κάτι από θεολογία της μίμησης και δεν είναι τυχαίο ότι έρχεται από τον χώρο της σκηνής όπου κάθε ηθοποιός ξέρει τι σημαίνει να γίνεσαι κάτι άλλο για να το κατανοήσεις. Ο Τιούρινγκ του έργου προσθέτει ότι δεν μπορούμε ούτε να ανταγωνιστούμε τη μηχανή ούτε να καταλάβουμε πλήρως πώς «σκέφτεται», με ή χωρίς εισαγωγικά. Ο Wittgenstein είχε γράψει στις Φιλοσοφικές Έρευνες του , ότι αν ένα λιοντάρι μπορούσε να μιλήσει, δεν θα το καταλαβαίναμε, εννοώντας ότι η γλώσσα δεν είναι μόνον λέξεις και γραμματική αλλά συνήθειες , τρόπος ζωής, βιώματα και εμπειρίες που συγκροτούν το απαραίτητο νοηματικό πλαίσιο για την επικοινωνία και την αλληλοκατανόηση. Το λιοντάρι όμως ζει στον ίδιο κόσμο με εμάς, πεινά και φοβάται όπως εμείς. Η μηχανή αντίθετα δεν μοιράζεται ούτε τη βιολογία ούτε την ιστορία μας κι ωστόσο μιλά τη γλώσσα μας. Αυτό ακριβώς είναι το πραγματικά ανησυχητικό, ότι χρησιμοποιεί τις λέξεις μας χωρίς να ξέρουμε τι σημαίνουν για εκείνη.
Η ίδια η παράσταση δεν θέλει να απαντήσει εν ονόματι κανενός. Ο Twarkowski, σε συνέντευξη που έδωσε πριν από την παρουσίαση στην Αθήνα, είπε ότι δεν πιστεύει πως η συνείδηση μπορεί να δημιουργηθεί και ότι τον απασχολεί περισσότερο η ανθρώπινη συνείδηση και ο τρόπος που λειτουργεί μέσα στη συλλογική εμπειρία του θεάτρου. Το έργο λοιπόν μετατοπίζει το ερώτημα από το αν η μηχανή έχει συνείδηση στο τι κάνει η δική μας συνείδηση όταν βρίσκεται μπροστά της. Η ερώτηση προς την ίδια την τεχνητή νοημοσύνη, αν έχει συνείδηση και αν θα καταστρέψει τον κόσμο, μένει αναπάντητη. Γιατί αν απαντούσε «ναι», δεν θα την πιστεύαμε και αν απαντούσε «όχι», ακριβώς το ίδιο.
Και τότε, μέσα σε τόση μηχανική πολυλογία, έρχεται η σκηνή που για μένα είναι η καρδιά της παράστασης γιατί γίνεται χωρίς καμία τεχνολογική φασαρία και επιβάλλεται με την υψηλή θερμοκρασία που επιτυγχάνουν οι δύο επί σκηνής ηθοποιοί . Δύο άνθρωποι κάθονται και μιλούν χαμηλότονα, μερικές στιγμές σχεδόν ψιθυριστά. Η Hedy Lamarr, η ηθοποιός που ο κόσμος κοιτούσε χωρίς να την ακούει, λέει στον Τιούρινγκ, με λόγια που τα θυμάμαι σχεδόν ακριβώς: «Είμαι ηθοποιός… οι άνθρωποι με βλέπουν αλλά δεν με ακούν». Εκείνος, φορώντας το κόκκινο πλεκτό πουλόβερ και με μια τρυφερότητα που δεν χρειάζεται κανένα εφέ για να φανεί, της απαντά: «Εγώ σε βλέπω και σε ακούω». Και της λέει εν τέλει της μεταξύ τους φανταστικής- σαν σε όνειρο σκηνής, ότι είναι η εφευρέτρια της κινητής επικοινωνίας. Το κείμενο επιλέγει εδώ να φέρει αντιμέτωπους δύο ανθρώπους που η εποχή τους κοίταξε χωρίς να τους ακούσει, τον έναν ως κορμί και ομορφιά, τον άλλον ως ποινικό αδίκημα και να μας πει ότι η μόνη απάντηση σε αυτό είναι η οφειλόμενη προσοχή.
Το «σε βλέπω και σε ακούω» είναι η πιο ριζική πρόταση ολόκληρου του έργου και δεν τη λέει καμιά μηχανή. Ο Lévinasέλεγε ότι το πρόσωπο του άλλου με καλεί πριν προλάβω να τον ταξινομήσω, ότι η ηθική αρχίζει σε αυτό το κάλεσμα και όχι σε κάποια θεωρία. Η Simone Weil, από την πλευρά της, υποστήριξε ότι η προσοχή είναι μια σπάνια και καθαρή μορφή της γενναιοδωρίας. Αυτό ακριβώς κάνει ο Τιούρινγκ στη σκηνή. Προσφέρει προσοχή, το μόνο αγαθό που καμιά πλατφόρμα δεν παράγει και κανένα σύστημα δεν προσφέρει δωρεάν. Οι ηθοποιοί γνωρίζουν καλά πόσο σπάνιο είναι, γιατί ζουν από το βλέμμα του κοινού και ξέρουν πότε αυτό βλέπει και πότε απλώς καταναλώνει. Ο Grotowski ονειρευόταν ένα φτωχό θέατρο, απογυμνωμένο από ό,τι δεν είναι η συνάντηση του ηθοποιού με τον θεατή και η πολωνική παράδοση που κληρονομεί ο Twarkowski είναι γεμάτη από αυτή την ασκητική (όσο και από την φαινομενική ανατροπή της). Εδώ, μέσα σε ένα έργο που ζει από την υπερβολή, ο σκηνοθέτης σχεδόν σιωπά και δίνει στο θέατρο το πιο γυμνό του όπλο. Δύο πρόσωπα, μια τρυφερότητα, κανένας φακός να μεγεθύνει το συναίσθημα. Το ονομάζω«πυρηνικό θέατρο» και δεν βρίσκω καλύτερη λέξη, γιατί ό,τι ακολουθεί στη βραδιά μοιάζει να προκύπτει από αυτόν τον πυρήνα ή να ανταγωνίζεται την ενέργειά του.
Δεν είναι τυχαίο ότι η στιγμή αυτή ανήκει σε έναν άνθρωπο που η πατρίδα του σώθηκε εξ αιτίας του και στη συνέχεια τον τιμώρησε. Ο Τιούρινγκ καταδικάστηκε το 1952 για «κατάφωρη ασέβεια», δηλαδή για την ομοφυλοφιλία του και του επιβλήθηκε χημική ευνουχιστική θεραπεία αντί φυλακής. Πέθανε το 1954 και ο θάνατός του κρίθηκε αυτοκτονία. Η βασίλισσα Ελισάβετ τον απάλλαξε με βασιλική χάρη το 2013, εξήντα χρόνια αργότερα, σαν να εξαγόραζε το κράτος με ένα έγγραφο ό,τι δεν μπορεί να εξαγοραστεί στη ζωή. Η ειρωνεία είναι σχεδόν δραματουργική: η χώρα που του όφειλε τη νίκη του στρατού της δεν του επέτρεψε να είναι ο εαυτός του. Και σε αυτήν τη σκιά η φράση «σε βλέπω και σε ακούω» αποκτά το βάρος της. Δεν τη λέει ένας νικητής σε μια ηθοποιό. Τη λέει ένας κατατρεγμένος σε μια γυναίκα που κανείς δεν άκουσε και το θέατρο γίνεται για λίγα λεπτά ο μοναδικός τόπος όπου κανείς δεν χρειάζεται να αποδείξει ότι είναι άνθρωπος.
Το δεύτερο μέρος κάνει το αντίθετο ακριβώς. Οι ηθοποιοί κινούνται κυκλικά στο κάτω μέρος του θεάματος (δηλαδή επί της σκηνής), σαν πλανήτες χωρίς άστρο, ενώ από πάνω οι οθόνες ξεχειλίζουν από εικόνες που θυμίζουν βιντεοπαιχνίδι, ένα χάος από χρώμα, ταχύτητα και κατρακύλισμα, μέχρι που ο κόσμος μοιάζει να έχει αναποδογυρίσει και το βλέμμα του θεατή να χάνει την αίσθηση του πάνω και του κάτω. Πρόκειται για μια «ρέιβ σεάνς» και οι λέξεις είναι ακριβείς, γιατί και τα δύο μέρη της είναι εδώ, ο χορός δηλαδή της έκστασης και η πνευματιστική συνεδρία όπου κάποιος καλεί τα πνεύματα και περιμένει να του απαντήσουν. Δεν θα διαλέξω στρατόπεδο ανάμεσα στο θαύμα και στην υπερβολή γιατί το ποτήρι είναι πράγματι μισογεμάτο και μισοάδειο ταυτόχρονα και η αλήθεια της παράστασης βρίσκεται στο ότι δεν μπορεί να διαλέξει ούτε εκείνη.
Το ζήτημα που με απασχολεί δεν είναι αισθητικό. Είναι το ζήτημα της ισχύος. Η εικόνα εδώ δεν προσφέρεται, επιβάλλεται, βάλλει και υποβάλλει, χτυπά το σώμα του θεατή και ταυτόχρονα του υπαγορεύει τι να νιώσει. Ο Guy Debord είχε γράψει ότι το θέαμα δεν είναι συλλογή εικόνων αλλά κοινωνική σχέση ανάμεσα σε ανθρώπους, μεσολαβημένη από εικόνες. Ο Walter Benjamin, παραθέτοντας τον Georges Duhamel, κατέγραψε το φαινόμενο στην πιο απλή του μορφή: «δεν μπορώ πια να σκεφτώ ό,τι θέλω να σκεφτώ, αφού οι κινούμενες εικόνες έχουν πάρει τη θέση των δικών μου σκέψεων» και ο Jean Baudrillard μίλησε για την εικόνα που παύει να αναφέρεται σε οποιοδήποτε πραγματικό και αναφέρεται μόνο στον εαυτό της. Εδώ όμως το πράγμα γίνεται πιο ύπουλο γιατί το θέαμα που βλέπουμε δεν είναι ένα θέαμα για τη μηχανή. Είναι ένα θέαμα που σκηνοθετεί η μηχανική λογική, είναι η επανάληψη, η επιτάχυνση, ο κορεσμός, με τον ίδιο τρόπο που ένας αλγόριθμος συστάσεων μας κρατά στην οθόνη. Η παράσταση θέλει να μας προειδοποιήσει για μια δύναμη και για να το κάνει τη μιμείται και το ερώτημα είναι αν μπορεί κανείς να κάνει κριτική στην ύπνωση, υπνωτίζοντας!…
Εδώ θα ήθελα να σκεφτώ μαζί με τον Bernard Stiegler, που διάβασε την τεχνολογία ως φάρμακο με την αρχαία διπλή έννοια της λέξης, θεραπεία και δηλητήριο μαζί και ο Πλάτωνας, στον Φαίδρο, βάζει τον βασιλιά Θαμούς (Άμμωνας), να απαντά στον θεό Θευθ (αντίστοιχος του Ερμή), εφευρέτη της γραφής, ότι το δώρο του θα φέρει λήθη και όχι μνήμη. Η εικόνα του Twarkowski είναι κι αυτή ένα τέτοιο δώρο. Μας δείχνει περισσότερα απ’ όσα μπορούμε να δούμε και μας αφήνει λιγότερα απ’ όσα μπορούμε να κρατήσουμε. Θα ήταν όμως άδικο να μην παραδεχτώ ότι το έργο το γνωρίζει. Η τομή ανάμεσα στο πρώτο μέρος και στο δεύτερο, ανάμεσα στη σιωπηλή σκηνή των δύο προσώπων και στον οπτικό ίλιγγο, δεν είναι σύμπτωση ούτε σκηνοθετικό εφέ. Είναι το επιχείρημα. Μας δίνει πρώτα το μέτρο, την ανθρώπινη φωνή, την προσοχή και μετά μας βυθίζει σε αυτό που το καταργεί ώστε να καταλάβουμε και να βιώσουμε με το σώμα μας τι χάνεται. Ο θεατής που βγαίνει ζαλισμένος δεν έχει πέσει θύμα της παράστασης. Έχει γίνει το πειστήριό της.
Γυρίζω τώρα στην παραδοξότητα που σημείωσα στην αρχή. Η παράσταση ρωτά αν η μηχανή θα μας αντικαταστήσει και στηρίζεται σε έναν μηχανισμό που δεν θα δούλευε ούτε στιγμή χωρίς τους ανθρώπους που κουβαλούν κάμερες, ρυθμίζουν φώτα, κολλούν σημάδια στο πάτωμα και πατούν κουμπιά σε μια χορογραφία χειρωνακτικής ακρίβειας. Η πιο προηγμένη τεχνολογία της σκηνής ζει από εξιδικευμένα εργατικά χέρια, και αυτό δεν είναι λεπτομέρεια παραγωγής. Είναι απλά το θέμα του έργου.
Ο Marx έχει γράψει ότι το κεφάλαιο είναι νεκρή εργασία που ζει σαν βρυκόλακας ρουφώντας την ζωντανή εργασία και στο «Απόσπασμα για τις Μηχανές» των Grundrisse είδε νωρίς πώς η μηχανή που φαίνεται να κινείται μόνη της συντηρεί τη γνώση των ανθρώπων που την έφτιαξαν. Το ίδιο ισχύει σήμερα για την τεχνητή νοημοσύνη, σε κλίμακα που ο Marx δεν μπορούσε να φανταστεί στην εποχή του. Η Kate Crawford, στον «Άτλαντα της Τεχνητής Νοημοσύνης» επισημαίνει ότι στην πράξη η «τεχνητή νοημοσύνη» δεν είναι μια άυλη και ουδέτερη τεχνολογία αλλά είναι ταυτόχρονα γη, νερό, ενέργεια και εργασία, αναδεικνύοντας έτσι το περιβαλλοντικό, κοινωνικό και υλικό κόστος που προϋποθέτει η λειτουργία και η ανάπτυξη της και η ανθρωπολόγος Mary Gray με τον συνεργάτη της, μηχανικό υπολογιστών, Siddharth Suri, μίλησαν για «εργασία φάντασμα», δηλαδή, για την εργασία των ανθρώπων που ετικετογραφούν εικόνες, ελέγχουν απαντήσεις και εξαλείφουν το βίαιο περιεχόμενο ώστε η μηχανή να φαίνεται αυτόνομη. Το θέατρο ξέρει από πάντα ότι το πέρασμα της μαγείας στη σκηνή και την αίθουσα, είναι προσεγμένη, εξειδικευμένη εργασία από τα παρασκήνια. Εδώ, στην παράσταση του Πολωνού σκηνοθέτη, θα μπορούσε να έχει αποκαλύψει αυτό το «πίσω» και το αποκαλύπτει αλλά μόνον εν μέρει αφού ο μηχανισμός μεν φαίνεται επί σκηνής, αλλά η εικόνα που αυτός παράγει κρύβει τον κόπο της παραγωγής της.
«Στο τέλος της βραδιάς» ο Τιούρινγκ μιλά για κύτταρα ζωντανά και νεκρά και για τυχαίες κινήσεις που επαναλαμβάνονται έως ότου γεννηθούν δομές και μεταμορφώσεις. Δεν πρόκειται για απλή ποιητική άδεια. Το 1952, πριν από τη δίκη του, ο Τιούρινγκ δημοσίευσε μια μελέτη για τη μορφογένεση, τον τρόπο που ομοιόμορφα κύτταρα αναπτύσσουν ρίγες και κηλίδες από μία απλή χημική αλληλεπίδραση. Η παλιά ιδέα του Οβιδίου για τις μεταμορφώσεις επανέρχεται στην οθόνη και τη σκηνή. Το νόημα είναι καθαρό και χωρίς καμιά παρηγοριά. Η πολυπλοκότητα μπορεί να είναι αποτέλεσμα επανάληψης και αυτό που βγαίνει δεν κατανοείται από το κάθε βήμα του. Είναι η απάντηση των σημερινών μοντέλων που κανένας μηχανικός δεν εξηγεί πλήρως γιατί προτείνουν αυτό που προτείνουν. Κι αν δεν μπορούμε να το ανταγωνιστούμε ούτε να το καταλάβουμε άμεσα τότε οι θεσμοί του κόσμου θα έπρεπε να είναι πιο σοβαροί και πιο προσεκτικοί έως και καχύποπτοι για την εξέλιξη των πραγμάτων γύρω από την Τ.Ν.
Στο Bletchley Park, τον τόπο όπου αποκωδικοποιήθηκε το Enigma, οι ισχυροί του κόσμου συγκεντρώθηκαν το Νοέμβριο του 2023, σχεδόν ογδόντα χρόνια αργότερα και υπέγραψαν μια δήλωση με ωραίους λόγους για τους κινδύνους από την ραγδαία ανάπτυξη της Τ.Ν. αλλά και χωρίς καμία δεσμευτική υποχρέωση απέναντι της. Η αμηχανία των ισχυρών μπροστά στο δικό τους δημιούργημα είναι η πιο μεγάλη και επικίνδυνη ανθρώπινη υποκρισία της ιστορίας και μοιάζει με τις συνόδους που πάντα ακολουθούσαν τα όπλα. Ο Γερμανο- Αμερικανός φιλόσοφος Hans Jonas, το 1979, στο έργο του «Η αρχή της ευθύνης: Αναζητώντας μια ηθική για τον τεχνολογικό πολιτισμό», ζήτησε μια «ηθική του φόβου», που σημαίνει ο κίνδυνος που μας απειλεί πρέπει να βαραίνει περισσότερο από την ελπίδα που εναποθέτουμε στην τεχνολογία,επειδή η συνέπεια της δύναμής μας δεν διορθώνεται αφού γίνει πράξη και συμβάν.
Εδώ συναντούνται η πρώτη και η δεύτερη πτυχή του έργου με τον τρόπο που κλείνουν οι κύκλοι στην αρχαία τραγωδία. Η τεχνητή νοημοσύνη γεννήθηκε από τη λογική της θυσίας. Κλείσαμε τα μάτια στην τύχη μιας νηοπομπής ώστε ο πόλεμος να κερδηθεί νωρίτερα. Η ίδια λογική, αποσπασμένη από τους ανθρώπους που θυσιάστηκαν, φθάνει τώρα στην υπολογιστική ισχύ που εμείς επιτρέπουμε να βελτιστοποιεί οτιδήποτε εμείς ορίζουμε. Η γέννησή της έσωσε τον κόσμο από τους ναζί στη διάρκεια του δεύτερου παγκοσμίου πολέμου κι η επικράτησή της σήμερα δεν αποκλείεται να τον καταστρέψει. Το Oracle δεν λέει οτι αυτό θα συμβεί. Δείχνει ότι η ίδια η λογική της θυσίας που δικαιολόγησε τον πόλεμο και εξελίχθηκε στην τιμωρία του Τιούρινγκ υπάρχει και στην εποχή της μηχανής.
Δεν είναι τυχαίο ότι το έργο φέρει τον τίτλο του Χρησμού. Στους Δελφούς η Πυθία καθόταν στον τρίποδα και ο χρησμός έβγαινε αινιγματικός. Όπως φέρεται να είχε σχολιάσει ο Ηράκλειτος, «ο άναξ ου το μαντείον εστί το εν Δελφοίς, ούτε λέγει ούτε κρύπτει αλλά σημαίνει». Ο Θεός από το μαντείο των Δελφών δεν μιλάει με ευθείες εξηγήσεις ούτε όμως κρύβει από πρόθεση την αλήθεια ώστε να είναι αδύνατον να αποκαλυφθεί αλλά δίνει σήματα και σύμβολα και αινίγματα που απαιτούν από τον άνθρωπο να σκεφτεί και να κρίνει για να ερμηνεύσει τα νοήματα και να κατανοήσει την πραγματικότητα που τον περιβάλει. Τα σήματα που όπως στον Οιδίποδα μετατρέπονται σε μοίρα από τον άνθρωπο που τα διαβάζει και προσπαθεί να τα αποφύγει κι εκεί κρύβεται η αλήθεια του έργου για μένα. Η Τεχνητή Νοημοσύνη δεν θα μιλήσει για το μέλλον με μεγαλύτερη σαφήνεια από ό,τι μιλούσε η Πυθία και θα απαντά πάντα με τη φωνή που της έχουμε δώσει, με τα δεδομένα που την έχουμε τροφοδοτήσει, με τις επιθυμίες μας σε μικρογραφία. Αν το μέλλον απαντά με τη φωνή που του δώσαμε, η ευθύνη μένει στον άνθρωπο, όσο μπορούμε ακόμη να ακούμε, να υπολογίζουμε και να πράττουμε. Εκτός κι αν τα πράγματα έχουν ήδη ξεφύγει από τον έλεγχο του και ήδη είναι αργά για δάκρυα…
