6.5 Κίνδυνοι από την υλοποίηση νοήμονων προγραμμάτων

Η παρούσα ανάρτηση ανήκει στο σύνολο των άρθρων του Χάρη Φουνταλή επί θεμάτων νοολογίας

Το “όραμα” του Kurzweil που περιέγραψα παραπάνω, με τις μηχανές να παίρνουν τα ηνία της νοημοσύνης από τους ανθρώπους, και με ολόκληρο το σύμπαν να μετατρέπεται σε νοήμονα οντότητα μέσα σε λιγότερο από 100 χρόνια, προϊδεάζει για ένα μέλλον ζοφερό μεν, αλλά ευτυχώς μοιάζει να μην έχει επαφή με την πραγματικότητα. Εντούτοις υπάρχει μια διαφορετική διάσταση των δυνατοτήτων των νοήμονων μηχανών, που είναι ακόμη πιο ανησυχητική, και καθόλου εξωπραγματική κατά τη γνώμη-μου.

Μέχρι την εποχή που γράφτηκε το παρόν, ο μοναδικός τρόπος για να στείλει ένα κράτος μια βόμβα σε ένα άλλο κράτος — γειτονικό ή μη — ήταν μέσω πυραύλου, μέσου ή μεγάλου βεληνεκούς. Επειδή κάποιοι πύραυλοι μπορούν να μεταφέρουν και πυρηνικές κεφαλές, ένας τέτοιος πύραυλος ισοδυναμεί με πυρηνική βόμβα, άρα μπορεί να προκαλέσει ολική καταστροφή — π.χ. να εξαλείψει μια ολόκληρη πόλη. Ομως οι πύραυλοι, εν γένει, έχουν λίγες δυνατότητες πλοήγησης. Μπορούν μεν να κάνουν κάποιες κινήσεις ώστε η τροχιά-τους να μην είναι μια απλή ευθεία (ή μάλλον απλή καμπύλη, ακολουθώντας την κυρτότητα της Γης), αλλά γενικά δεν κάνουν πολύπλοκες μανούβρες στον αέρα — π.χ. δεν μπορούν να κάνουν πίσω, ή να διαγράψουν κυκλικό βρόχο στον αέρα, κλπ.

Φανταστείτε τώρα έναν πύραυλο εφοδιασμένο με πυρηνική κεφαλή, αλλά και μ’ ένα νοήμονα υπολογιστή στο εσωτερικό-του που του προσδίδει τη νοημοσύνη του ανθρώπου, τουλάχιστον ως προς ορισμένες νοητικές λειτουργίες. Όταν π.χ. τα όργανά του εντοπίσουν κάποια εχθρική απειλή, τότε ο πύραυλος αντιδρά όπως θα αντιδρούσε ένας έμπειρος πιλότος που δεν χάνει ποτέ την ψυχραιμία-του, για τον απλούστατο λόγο οτι ο υπολογιστής του πυραύλου έχει σχεδιαστεί χωρίς αισθήματα. Η μόνη σχέση-του με “ανώτερη σκέψη” είναι οτι πρέπει να εντοπίσει το στόχο-του και να τον καταστρέψει. Προφανώς, μη έχοντας αισθήματα, η σκέψη οτι ο στόχος-του περιλαμβάνει άμαχο πληθυσμό, γυναίκες, βρέφη, κλπ., είναι εντελώς έξω από τις νοητικές δυνατότητές του. Ο πύραυλος αυτός είναι ουσιαστικά ένας “καμικάζι”, όπως οι Ιάπωνες του Β΄ Παγκοσμίου Πολέμου, αλλά πολύ πιο ικανός και εξελιγμένος, γιατί διαθέτει όργανα τελευταίας τεχνολογίας, καμιά συνείδηση που να τον αποτρέπει από την πράξη-του, και μια πυρηνική βόμβα.

Τί λέτε, είναι δυνατόν ποτέ να γίνει αυτός ο εφιάλτης πραγματικότητα; Από τις συζητήσεις-μου με τον Hofstadter συμπέρανα οτι εκείνος πίστευε πως μια τέτοια νοήμων μηχανή δεν είναι δυνατό να υλοποιηθεί, γιατί τα αισθήματα “πάνε πακέτο” με την ανθρώπινη νόηση· δηλαδή οτι δεν είναι δυνατό να φτιαχτούν ρομπότ με τη συμπεριφορά του περίφημου “Δόκτορα Σποκ”, της τηλεοπτικής (και μετέπειτα κινηματογραφικής) σειράς “Σταρ Τρεκ”. (Για τους μη γνωρίζοντες, ο εξωγήινος Δρ. Σποκ σαν χαρακτήρας λειτουργούσε αποκλειστικά βάσει της λογικής, και μη έχοντας καθόλου συναισθήματα.) Ο Hofstadter υποστήριζε οτι είναι αδύνατο να καταλάβει κανείς τον κόσμο χωρίς να έχει την ικανότητα να χαίρεται, να λυπάται, να αγαπάει, να μισεί, να φοβάται, κλπ. κλπ.

Όμως η δική-μου ενασχόληση στον τομέα της νοολογίας μου έδωσε την αντίθετη εντύπωση. Το προϊόν της εργασίας-μου όταν έκανα τη διατριβή-μου ήταν ένα πρόγραμμα που μπορούσε να λύνει κάποια οπτικά αινίγματα, τα περίφημα “προβλήματα του Μπόνγκαρντ”, όπως αυτό που φαίνεται στην εικόνα που ακολουθεί:

Ένα τυπικό (αλλά εύκολο) πρόβλημα του Μπόνγκαρντ:
Τί το κοινό έχουν τα έξι σχήματα στην αριστερή σελίδα
που δεν το έχει κανένα από τα σχήματα στη δεξιά σελίδα;

Παρόλο που το πρόγραμμά μου έλυνε μόνο μερικά — τα πιο απλά — απ’ αυτά, εντούτοις τα κατάφερνε γρηγορότερα από τους ανθρώπους όταν εκείνοι προσπαθούσαν να λύσουν τα ίδια προβλήματα. Η παρακάτω εκόνα δίνει μια ιδέα του τί βλέπει ο παρατηρητής καθώς το πρόγραμμά μου λύνει τα προβλήματα αυτά:

Εδώ βλέπουμε με τί μοιάζει η επεξεργασία που κάνει το πρόγραμμα προκειμένου να λύσει το παραπάνω πρόβλημα.
Όταν η ανάλυση της εικόνας αρχίζει, το πρόγραμμα βρίσκει τις ευθείες που αποτελούν τα πολύγωνα των σχημάτων,
βρίσκει πού ενώνονται ή πού τέμνονται, κλπ., και τελικά διατυπώνει μια υπόθεση (“τρίγωνο – τετράπλευρο”), που όσο
φαίνεται σε κόκκινο χρώμα είναι υπό εξέταση. Όταν εξεταστούν τα 6 κουτιά στ’ αριστερά κ’ επιβεβαιωθούν (γίνονται
πράσινα), και τα 6 κουτιά στα δεξιά (τα πλαίσιά τους γίνονται κόκκινα), ανακοινώνεται η τελική λύση (μαύρο χρώμα).
Σε άλλες περιπτώσεις, το πρόγραμμα μπορεί ν’ απορρίψει την υπόθεση γιατί κάποιο κουτί δεν συμφωνεί μ’ αυτήν.

Αν δεν έπρεπε να σταματήσω κάποτε την εργασία-μου προκειμένου να αποφοιτήσω, τίποτε δεν θα με εμπόδιζε από το να κάνω το πρόγραμμα να μπορεί να λύνει όλα τα προβλήματα του Μπόνγκαρντ — είχα στη συλλογή-μου 100 αρχικά που είχε φτιάξει ο ίδιος ο Μπόνγκαρντ (ένας Ρώσος επιστήμονας υπολογιστών της Σοβιετικής εποχής), άλλα 56 του Hofstadter, 44 δικά-μου, και διάφορα άλλα γνωστών και φίλων. Τί θα σήμαινε αυτό; Οτι θα είχα στη διάθεσή μου έναν υπολογιστή προγραμματισμένο να λύνει προβλήματα που οι άνθρωποι συχνά έχουν μεγάλη δυσκολία να τα λύσουν, χωρίς όμως να προσεγγίζει οτιδήποτε που να μοιάζει με συναίσθημα. Θα πείτε, άλλο λύση τέτοιων προβλημάτων, άλλο γενική νοημοσύνη. Και όμως, για να λυθούν προβλήματα σαν κι αυτά χρειάζεται μια νοημοσύνη γενικής φύσης, που να στηρίζεται στις ίδιες θεμελιώδεις αρχές στις οποίες στηρίζεται και η ανθρώπινη. Χωρίς τις αρχές αυτές (των οποίων η διατύπωση ουσιαστικά ήταν και παραμένει ο στόχος της έρευνάς μου) τα προβλήματα του Μπόνγκαρντ δεν λύνονται^(*) — τελεία.

Μπορεί τώρα να σκέφτεστε τί σχέση έχουν όλ’ αυτά με τους κινδύνους από την αυτοματοποίηση της νόησης. Μπορεί να μη βλέπετε τη σχέση των αφηρημένων και “εγκεφαλικών” προβλημάτων του Μπόνγκαρντ με τους πυραύλους και τους στρατιωτικούς κινδύνους. Όμως ο νοήμων πύραυλος που περιέγραψα παραπάνω δεν χρειάζεται να καταλαβαίνει από ποίηση, ή να συνθέτει μουσική, ή γενικά να αισθάνεται κάποιο ανθρώπινο συναίσθημα, αλλά να εκτελεί νοητικές λειτουργίες που δεν νομίζω οτι έχουν κάποια ουσιαστική, ποιοτική διαφορά από το ταπεινό-μου πρόγραμμα, που έλυνε τα συγκεκριμένα “εγκεφαλικά” προβλήματα. Κοιτάξτε π.χ. με προσοχή την παρακάτω κινούμενη εικόνα:

Αυτό που βλέπουμε στο αρχικό καρέ είναι η εικόνα μιας περιοχής της Αθήνας, όπως φαίνεται από το δορυφόρο. Βλέπουμε δηλαδή μερικά οικοδομικά τετράγωνα. Τα επόμενα καρέ δείχνουν την επεξεργασία που υφίσταται η εικόνα μέσω του προγράμματός μου, οπότε οι λεπτομέρειες και τα χρώματα αφαιρούνται. Μετά από αλλεπάλληλα αφαιρετικά στάδια, καταλήγουμε σε μια “κατανόηση”, ας το πούμε, της θέσης των οικοδομικών τετραγώνων στην εικόνα, δηλαδή αναγνωρίζεται το περίγραμμά τους, και το κέντρο-τους. Σημειώστε οτι αυτό που παίρνει αρκετά δευτερόλεπτα προκειμένου να δειχτεί στην κινούμενη εικόνα (επίτηδες καθυστερώ το κάθε καρέ ώστε ο αναγνώστης να έχει το χρόνο να διαβάσει τις λεζάντες), γίνεται σε λιγότερο από ένα δευτερόλεπτο από το πρόγραμμα.

Ποιος λοιπόν θα επιθυμούσε την ύπαρξη ενός “έξυπνου” (αλλά απόλυτα αναίσθητου) πυραύλου, που να μπορεί να βλέπει μια εικόνα σαν και την παραπάνω και να στοχεύει το οικοδομικό-του τετράγωνο; Αν νομίζετε οτι μόνο “εμείς” θα μπορούσαμε να έχουμε τέτοια όπλα, υποτιμάτε τη νοημοσύνη του “εχθρού”. Αυτό το λάθος είναι που κάνουν οι Αμερικανοί όταν ονειρεύονται τις “αντιπυραυλικές ασπίδες”-τους και τον “πόλεμο των άστρων”-τους. Νομίζουν οτι οι εχθροί-τους δεν θα έχουν ποτέ πρόσβαση σε τέτοια όπλα. Αλλά όπως αποδείχτηκε από τα πυρηνικά όπλα, και όπως επιχειρηματολογώ σε αυτό το κείμενο (όπου εξηγώ τους λόγους για τους οποίους σταμάτησα την περαιτέρω έρευνα στην κατεύθυνση αυτή), τελικά όλοι μπορούν κάποτε ν’ αποκτήσουν τέτοια όπλα. Αν ποτέ τα όπλα αυτά στοχεύσουν το οικοδομικό τετράγωνό σας, θα είναι πια πολύ αργά για να παραδεχτείτε οτι κάνατε λάθος.

Σήμερα υπάρχουν ήδη στρατιωτικά όπλα που κάνουν στοιχειώδη επεξεργασία εικόνας, αλλά δεν έχουν την ανθρώπινη ικανότητα πραγματικής κατανόησης του τί είναι αυτό που βλέπουν. Γιαυτό τα όπλα αυτά συχνά κάνουν λάθη και χτυπούν λάθος στόχους, οπότε δεν χρησιμοποιούνται ακόμα ευρέως σε πολέμους. Όταν όμως η τεχνογνωσία φτάσει στο σημείο να μπορεί να τοποθετήσει έξυπνους και αναίσθητους υπολογιστές στα όπλα, τότε θα έχει γίνει πραγματικότητα ο εφιάλτης που περιγράφω στις παραγράφους αυτές, όπου η 11η Σεπτεμβρίου του 2001 δεν θα μοιάζει παρά σαν ένα ερασιτεχνικό αρχαίο πρελούδιο.

Η μόνη παρηγοριά είναι ο εφιάλτης αυτός να έχει τόσο λίγη σχέση με την πραγματικότητα όσο και το επιστημονικοφανταστικό όραμα του Kurzweil περί νοητικής αφύπνησης του σύμπαντος.

• Περί ψυχής
• 1. Ψυχές;
• 2. Ύλη
• 2.1 Αναφυόμενες ιδιότητες
• 2.2 Αναφυόμενες, αλλά και Ανακυκλούμενες!
• 3. Ζωή
• 4. Σκέψη
• 5. Ψυχή
• 5.1 Οι έννοιες: τα “μόρια” της νόησης
• 5.2 Η έννοια του “άλλου” και η έννοια του “εγώ”
• 5.3 Η Δυτική Σκέψη και η εξάρτησή της από την Ελλη...
• 6. Τεχνητές ψυχές;
• 6.1 Δυϊσμός: η φιλοσοφική άρνηση “με το έτσι θέλω”...
• 6.2 John Searle, ο πατριάρχης των αρνητών
• 6.3 Επιχειρήματα που υποστηρίζουν τη δυνατότητα κα...
• 6.4 Γιατί δεν έχουν υλοποιηθεί “τεχνητές ψυχές” μέ...
• 6.5 Κίνδυνοι από την υλοποίηση νοήμονων προγραμμάτ...
• 6.6 Πιθανά οφέλη από την υλοποίηση νοήμονων προγρα...