Η «Μηχανή» στο δωμάτιο των παιδιών μας: Μια προφητεία από το 1909
Το 1909, ο Άγγλος συγγραφέας Ε. Μ. Forster έγραψε μια ιστορία για έναν κόσμο όπου οι άνθρωποι ζουν απομονωμένοι και επικοινωνούν μόνο μέσω οθονών. Σήμερα, ο Γιώργος Ντούτσουλης "δανείζεται" τη φωνή του Forster για να γράψει ένα γράμμα προς τους σημερινούς γονείς: Πώς η Τεχνητή Νοημοσύνη και τα smartphones εγκλωβίζουν τους εφήβους μας σε μια ψηφιακή μοναξιά;
«Οποιαδήποτε ομοιότητα με καταστάσεις και προσωπα της εξουσίας είναι απόλυτα εσκεμένη».
Γεννήθηκα στο Λονδίνο, από εύπορη οικογένεια. Σε μια πολύ γρήγορα μεταβαλλόμενη κοινωνία άρχισα να φοβάμαι την πρόοδο γιατί δεν είχα εμπιστοσύνη στον άνθρωπο. Πίστευα ότι στην προσπάθειά του να σωθεί από τις αδυναμίες του, θα κατασκεύαζε έναν κόσμο τόσο άνετο, τόσο οργανωμένο, τόσο μηχανικά φροντισμένο, ώστε τελικά δεν θα χρειαζόταν πια να «ζήσει». Ο «προκάτοχός» μου από την άλλη έγραφε για τον κόσμο με μια τεχνολογική αισιοδοξία. Δεν είχε εντελώς άδικο. Η γνώση πράγματι μπορεί να σπάσει δεσμά και η πρόοδος που εκείνος φαντάστηκε πράγματι μπορούσε να γίνει εργαλείο απελευθέρωσης.
Ένα εργαλείο όμως που θα χειρίζονται άνθρωποι…;
Εκείνος λοιπόν είδε τη Μηχανή σαν δυνατότητα, εγώ πάλι σαν πειρασμό που κάποιος χωρίς γερά θεμέλια και κρίση, δεν θα χρειάζεται δάσκαλο, γιατί θα έχει όλες τις απαντήσεις. Δεν θα χρειάζεται δρόμο, γιατί θα έχει δίκτυο. Δεν θα χρειάζεται να ταξιδέψει, γιατί θα έχει εικόνα. Δεν θα χρειάζεται φιλία, γιατί θα έχει επικοινωνία. Και εν τέλει, δεν θα χρειάζεται σώμα, γιατί η μηχανή θα του προσφέρει παρουσία παντού.
Μέσα στις πολλές δεκαετίες που πέρασαν, συνάντησα πολλούς άλλους που προσπαθούσαν να φανταστούν το μέλλον. Ένας φοβήθηκε την ευτυχία χωρίς ελευθερία, σε έναν κόσμο όπου τα παιδιά δεν μεγαλώνουν, αλλά προγραμματίζονται, σε μια κοινωνία που δεν καταπιέζει τον άνθρωπο, απλά τον μαθαίνει από νωρίς να αγαπά το κλουβί του. Ένας άλλος, σχεδόν παιδικά αισιόδοξος, έγραψε κάτι μικρό αλλά θλιβερό. Για τα παιδιά που μαθαίνουν μόνα τους από μηχανικούς δασκάλους με απεριόριστες γνώσεις και υπομονή, αλλά παρόλα αυτά ακόμα ονειρεύονται το παλιό σχολείο, εκείνο που καθόταν μαζί με τους φίλους τους, γελούσαν μαζί, βαριόνταν μαζί και μάθαιναν μαζί.
Κάπου εκεί άρχισα να καταλαβαίνω, έστω και αργά, πως τελικά η μοναξιά θα φορούσε τη στολή της προόδου.
Αρκετά αργότερα, και αφού είχα ήδη κατά-μπερδευτεί, γνώρισα έναν άνθρωπο της «νύχτας», των καλωδίων, των σωμάτων που μπερδεύονται με μηχανές, των εταιρειών που γίνονται ισχυρότερες από κράτη. Έγραψε για τον “κυβερνοχώρο”, όπου ο ψηφιακός κόσμος ήταν αγορά, δρόμος, εξουσία, παρανομία, ταυτότητα, επιθυμία. Με έκανε να συνειδητοποιήσω πως η Μηχανή δεν θα είναι πάντα ένα κεντρικό τέρας, αλλά μπορεί να είναι και ένα δίκτυο από πολλά μικρά συμφέροντα, εφαρμογές, αγορές και συνήθειες που θα ήταν σχεδόν αδύνατο ή έστω πολύ δύσκολο να παρακολουθήσει κανείς.
Σε αυτό τον χώρο ο κίνδυνος θα είναι παντού.
Κοντά στο σήμερα, μου είπαν για ένα κορίτσι και ένα (παν)έξυπνο βιβλίο που μιλούσε, δίδασκε, προστάτευε και καθοδηγούσε. Εκεί σκέφτηκα πως τελικά η τεχνολογία μπορεί να γίνει δώρο για το παιδί που ψάχνει την γνώση μέχρι που ένας Ιάπωνας μου διηγήθηκε για ένα τεχνητό πλάσμα που αγοράζεται για να κρατά συντροφιά σε ένα παιδί.
Από όλα τα χρόνια και από όλες τις ιστορίες που άκουσα, αυτό με τρόμαξε περισσότερο, γιατί εδώ η Μηχανή δεν ήθελε να μας μεταφέρει, να μας ταΐσει, να μας διδάξει ή να μας διασκεδάσει αλλά να αντικαταστήσει τον ίδιο τον άνθρωπο.
Τώρα είμαι στο σήμερα κι δεν χρειάζεται να φανταστώ πια τη Μηχανή. Σε βλέπω που την κρατάς. Σας βλέπω να την ακουμπάτε δίπλα στο κρεβάτι, να τη δίνετε στα παιδιά πριν μάθουν πλήρως τι είναι μοναξιά, φιλία, θυμός, υπομονή, ντροπή, σώμα, σκέψη, αναμονή, επιθυμία.
Τις αλλάζετε όνομα για να είναι περισσότερο «γοητευτική». Τη λέτε συσκευή, πλατφόρμα, δίκτυο, εφαρμογή, τεχνητή νοημοσύνη, ότι σας κάνει να νιώθετε καλύτερα… Όμως εγώ δεν ξεγελιέμαι… είναι η Μηχανή!
Η ζωή των εφήβων επηρεάζετε ίσως περισσότερο από την Μηχανή αφού γεννιούνται μέσα σε αυτήν. Από τις πρώτες ήδη στιγμές της ζωής τους είναι ήδη μισή ορατοί και μισή κρυμμένοι. Στην αρχή ορατή σε εικόνες, προφίλ, μηνύματα, βίντεο, αντιδράσεις, ψηφιακές ομάδες, σχόλια, στιγμιότυπα που εμείς, οι μεγάλοι «ανεβάζουμε» και μετά εκείνοι ακολουθούν. Συνεχίζουν μόνοι τους , κρυμμένοι σε άγχος, σύγκριση, αϋπνία, μικρές ταπεινώσεις, φόβο αποκλεισμού, μυστικές συνομιλίες και σιωπές που οι γονείς συχνά δεν ξέρουν πώς να διαβάσουν.
Τα παιδιά δεν χρειάζεται να φύγουν πια από το σπίτι για να χαθούν. Χάνονται και μέσα στο δωμάτιό τους.
Σε επτά χρόνια από τώρα, τα σημερινά παιδιά θα έχουν μπει βαθύτερα σε αυτόν τον κόσμο και εσείς που διαβάζετε αυτό το κείμενο θα είστε ήδη έξω από το «παιχνίδι». Είναι πιθανό να μην μπορούμε καν να επικοινωνήσουμε μαζί τους, γονείς, εκπαιδευτικοί … όλοι.
Το σχολείο θα γίνει περισσότερο ψηφιακό, περισσότερο μετρήσιμο, περισσότερο συνδεδεμένο, με βοηθούς τεχνητής νοημοσύνης για την εργασία, την περίληψη, τη μετάφραση, τη διόρθωση, την αναζήτηση, την επανάληψη.
Οι γονείς θα λαμβάνουν ειδοποιήσεις για απουσίες, βαθμούς, συμπεριφορές, καθυστερήσεις, επιδόσεις, την υγεία των παιδιών τους, αν έφαγαν και τι έφαγαν.
Στο καλό σενάριο, ο δάσκαλος θα γίνει φύλακας της ανθρώπινης προσοχής και θα μάθει στα παιδιά να χρησιμοποιούν τη Μηχανή χωρίς να την υπηρετούν μαθαίνοντάς τους τι είναι κριτική σκέψη.
Στο κακό σενάριο, το σχολείο θα γίνει ένας γραφειοκρατικός σταθμός επεξεργασίας παιδικών δεδομένων. Τα παιδιά θα μαθαίνουν να φαίνονται παραγωγικά χωρίς όμως να είναι βαθιά μορφωμένα. Θα παραδίδουν εργασίες καθαρές, καλογραμμένες αλλά όχι δικές τους. Θα αποκτήσουν δεξιότητες, αλλά θα χάσουν στη κρίση.
Η σχέση με τους συνομηλίκους θα γίνει επίσης πιο έντονη και πιο εύθραυστη. Οι παρέες θα ζουν σε ομάδες συνομιλίας – αγέλες, σε παιχνίδια, σε πλατφόρμες, σε εικόνες που κυκλοφορούν γρήγορα στον κυβερνοχώρο, εκεί που δεν συγχωρείται το παραμικρό. Ένα βλέμμα, μια λάθος φράση, μια αστεία φωτογραφία, ένα ιδιωτικό μήνυμα, όλα θα γίνουν μια δημόσια δίκη. Η φιλία θα έχει πολλά περισσότερα κανάλια, αλλά λιγότερη εμπιστοσύνη.
Τα παιδιά θα είναι μαζί πιο συχνά αλλά θα νιώθουν μόνα πιο βαθιά. Θα φοβούνται όχι μόνο να μη μείνουν χωρίς φίλους, αλλά να μη μείνουν χωρίς ψηφιακή απόδειξη ότι έχουν φίλους. Θα μετρούν την ένταξη με απαντήσεις, αντιδράσεις, προσκλήσεις, κοινοποιήσεις, παρουσίες σε ομάδες. Η παιδική σκληρότητα, που πάντα υπήρχε, τώρα θα αποκτήσει καταγραφή, αρχείο με εύκολη πρόσβαση και μνήμη.
Η οικογένεια θα δοκιμαστεί ακόμη περισσότερο. Ο γονιός θα θέλει να προστατεύσει. Ο έφηβος θα θέλει να αναπνεύσει. Ο γονιός θα ζητά διαφάνεια. Ο έφηβος θα ζητά ιδιωτικότητα. Ο γονιός θα βλέπει κίνδυνο. Ο έφηβος θα βλέπει έλεγχο.
Αν οι γονείς και η κοινωνία απαντήσουν μόνο με απαγορεύσεις, θα σπρώξουν τα παιδιά σε δεύτερους λογαριασμούς, σε κρυφές εφαρμογές και αν νομίζετε ότι δεν θα μπορέσουν, γελιέστε.
Αν απαντήσουν μόνο με ανοχή, θα τα αφήσουν μόνα μπροστά στη δύναμη της Μηχανής που ούτε ενήλικες δεν θα μπορούν εύκολα να διαχειριστούν. Η οικογένεια που ήδη πιέζεται αρκετά, θα πιεστεί περισσότερο.
Η σχέση με την εξουσία επίσης θα γίνει πιο καχύποπτη. Τα παιδιά ήδη μεγαλώνουν σε κοινωνίες που μιλούν συνεχώς για προστασία, ασφάλεια, ψυχική υγεία, ψηφιακή παιδεία, καινοτομία, ενώ τα ίδια βλέπουν σχολεία κουρασμένα, δασκάλους εξαντλημένους, οικογένειες πιεσμένες, δημόσιες υπηρεσίες αργές, πολιτικούς να τους κατηγορούν μαζί με τους γονείς τους.
Έτσι μπορεί να γεννηθεί μια επικίνδυνη μορφή κυνισμού και μορφή που ήδη την βλέπουμε στους ενήλικες. Δεν θα είναι επανάσταση με ιδέες, αλλά απόλυτη απόσυρση, με ειρωνεία, με ακαταλαβίστικα για τους ενήλικες σχόλια… απόλυτη απάθεια.
Η γενιά αυτή δεν θα πιστεύει ότι αξίζει να μιλήσει αφού όποτε το έκανε μόνο απαξίωση εύρισκε. Αυτή η γενιά θα έχει μάθει μόνο να αντιδρά.
Και πού μπορεί να οδηγήσει όλο αυτό;
Μπορεί να οδηγήσει σε παιδιά πιο ενημερωμένα, πιο δημιουργικά, πιο γλωσσομαθή, πιο ανεξάρτητα και πιο ικανά να μαθαίνουν μόνα τους;
Η Μηχανή μπορεί να βοηθήσει τα παιδιά που σε παλαιότερες εποχές μπορεί να έμεναν «πίσω», μπορεί όμως και να τα κάνει πιο νευρικά, πιο εκτεθειμένα, πιο μόνα, πιο εξαρτημένα από εξωτερική επιβεβαίωση, πιο δύσπιστα απέναντι στους γονείς, πιο κουρασμένα από την ίδια τους την κοινωνική ζωή και εν τέλει πιο εξαρτημένα.
Το καθήκον των ενηλίκων, όσων αντέχουν ακόμα, είναι να μην παραδώσουν την παιδική ηλικία στη Μηχανή που την καταλαβαίνει μόνο ως δεδομένο, αγορά, συμπεριφορά ή πρόβλεψη.
Ο παλιός φίλος και αισιόδοξος της τεχνολογίας είχε δίκιο ότι χωρίς γνώση, το παιδί μένει φυλακισμένο, αλλά και πάλι εγώ θα προσθέσω το δικό μου φόβο. Με υπερβολική μηχανική διαμεσολάβηση, το παιδί μπορεί να μείνει φυλακισμένο όχι από άγνοια, αλλά από συνεχή σύνδεση.
Το παιδί των επόμενων επτά ετών δεν θα χρειαστεί μόνο πρόσβαση. Θα χρειαστεί καταφύγιο, όχι από τον κόσμο αλλά μέσα στον κόσμο. Ένα σπίτι όπου μπορεί να μιλήσει χωρίς να αξιολογηθεί αμέσως. Ένα σχολείο όπου μπορεί να αποτύχει χωρίς να καταχωριστεί για πάντα ως αποτυχία. Μια κοινωνία όπου μπορεί να γίνει άνθρωπος πριν γίνει χρήστης.
Η Μηχανή δεν θα σταματήσει να λειτουργεί. Μπορεί να αλλάξει πάλι όνομα αλλά θα είναι πάντα εδώ. Θα συνεχίσει με περισσότερη ευγένεια, με προσχηματικά άψογα όρια, θα είναι «χρήσιμα» φωτεινή.
Και εμείς, και τα παιδιά θα την ευχαριστούμε, ενώ σιγά σιγά θα χάνουμε την ικανότητα να ζούμε χωρίς αυτήν.
Αυτός ήταν ο φόβος μου τότε και αυτός παραμένει ο φόβος μου τώρα.
Αλλά και κάτι άλλο….. όσο πλησιάζω στο σήμερα, βλέπω ότι η φαντασία δεν προλαβαίνει πια την πραγματικότητα. Παλιά γράφαμε για όσα δεν υπήρχαν ενώ σήμερα, σχεδόν τίποτα από όσα γράφονται για το αύριο δεν φαίνεται πραγματικά αδύνατο. Η έκπληξη είναι πια σύντομη.
Ο φίλος μου και εγώ ονειρευτήκαμε τον κόσμο του σήμερα και γράψαμε για αυτόν, όχι για να σας φοβίσουμε αλλά να σας προειδοποιήσουμε! Ακολούθησαν και άλλοι. Οι περισσότεροι αντί για μυθιστοριογράφοι κατέληξαν προφήτες.
Το όνομά μου είναι Edward Morgan Forster, γεννήθηκα το 1879 και έγραψα για όλα αυτά πριν 100 και πλέον χρόνια. Ο Φίλος μου Herbert George Wells ήταν 13 χρόνια μεγαλύτερος!
Αν ζούσαν οι δυο αυτοί πρωτοπόροι της λογοτεχνίας της, όχι πια, «επιστημονικής φαντασίας» ίσως αυτά να έλεγαν.
* Εκτός από τους HG Wells και EM Forstser, το κείμενο δανείζεται ιδέες και από βιβλία των Aldous Huxley, Isaac Asimov, Ray Bradbury, William Gibson, Neal Stephenson και Kazuo Ishiguro.