Ετοιμάσου να πεθάνεις:
Έχουμε την τεχνολογία του drone, του Gps, της αναγνώρισης προσώπων και τα εκρηκτικά.
Η συζήτηση για την τεχνητή νοημοσύνη (Τ.Ν.) τείνει σήμερα να γίνει μόδα. Όπως όμως με όλα τα περίπλοκα πράγματα, πολλοί μιλούν αλλά λίγοι είναι εκείνοι που πραγματικά ξέρουν. Ο Μαξ Τέγκμαρκ ανήκει αναμφίβολα στην κατηγορία των επιστημόνων που ενώ ξέρουν καλά για τι μιλούν, αποφεύγουν να θολώνουν τα νερά.
Ο Τέγκμαρκ διδάσκει Φυσική στο ΜΙΤ, είναι ο άμεσα υπεύθυνος για την πρώτη συνάντηση των σημαντικότερων ερευνητών του πεδίου το 2015 στο Πουέρτο Ρίκο και είναι ο συγγραφέας του διαφωτιστικού δοκιμίου «Life 3.0, Τι θα σημαίνει να είσαι άνθρωπος στην εποχή της τεχνητής νοημοσύνης».
Το βιβλίο του ανέβηκε αμέσως μετά την κυκλοφορία του το καλοκαίρι του 2017 στη λίστα ευπώλητων των New York Times, μπήκε στη λίστα των αγαπημένων της χρονιάς του Μπαράκ Ομπάμα, σύντομα μεταφράστηκε σε 32 γλώσσες, ενώ στα ελληνικά κυκλοφόρησε μόλις πρόσφατα από τις εκδόσεις Τραυλός, σε μετάφραση του Νίκου Αποστολόπουλου.
Ο Τέγκμαρκ είναι συνιδρυτής του Ινστιτούτου για το Μέλλον της Ζωής, μιας πρωτοβουλίας που έλαβε γενναία χρηματοδότηση από τον διάσημο επιχειρηματία της Σίλικον Βάλεϊ, Ιλον Μασκ, και στοχεύει στην ανάπτυξη της ωφέλιμης κι ασφαλούς Τ.Ν.
– Κύριε Τέγκμαρκ, εφόσον δεν γνωρίζουμε τι θα συμβεί αν επιτύχουμε την κατασκευή τεχνητής γενικής νοημοσύνης (ΤΓΝ), τι είναι όλες αυτές οι σχετικές προβλέψεις που ακούμε και διαβάζουμε τον τελευταίο καιρό;
– Νομίζω ότι το σημαντικό δεν είναι να προσπαθούμε να προβλέψουμε αυτά που μπορεί να συμβούν αν καταφέρουμε να κατασκευάσουμε ΤΓΝ, αλλά πρώτα να αναρωτηθούμε τι θέλουμε να συμβεί, και έπειτα να δούμε τι συγκεκριμένα βήματα πρέπει να κάνουμε για να φτάσουμε εκεί. Γιατί στην πραγματικότητα μπορεί να συμβεί οτιδήποτε.
Μπορεί να φτιάξουμε ένα υπέροχο μέλλον που οι φτωχοί θα γίνουν πλουσιότεροι, οι πλούσιοι πλουσιότεροι, και όλοι θα είναι ελεύθεροι και υγιείς για να ζήσουν ωραιότατα. Μπορεί να φτιάξουμε έναν δυστοπικό εφιάλτη με πρωτοφανή παγκόσμια δικτατορία. Μπορεί ακόμα να φτιάξουμε ένα μέλλον όπου οι άνθρωποι θα εξολοθρευτούν. Το ζήτημα είναι να μην καθόμαστε ως παθητικοί θεατές να αναρωτιόμαστε τι μπορεί να μας συμβεί σαν να μην μπορούμε να το επηρεάσουμε.
– Είναι η πιο σημαντική συζήτηση της εποχής μας, η ηθική της Τ.Ν.;
– Νομίζω ότι η πιο σημαντική συζήτηση της εποχής μας συνολικά είναι το τι κάνει η Τ.Ν. στην ανθρωπότητα. Βλέπουμε την Τ.Ν. σταδιακά να αντικαθιστά ολοένα και περισσότερες θέσεις εργασίας, αυξάνοντας τις οικονομικές ανισότητες καθώς οι μισθοί σταματούν να πηγαίνουν στους εργαζομένους και αρχίζουν να κατευθύνονται στους ιδιοκτήτες των μηχανών, είμαστε επίσης στα πρόθυρα μιας κούρσας εξοπλισμών για φονικά αυτόνομα όπλα, ενώ οι ερευνητές της Τ.Ν. προβλέπουν ότι μέσα στις επόμενες δεκαετίες θα καταλήξουμε να κατασκευάσουμε ΤΓΝ, που θα μπορεί να κάνει όλες τις δουλειές καλύτερα απ’ τους ανθρώπους.
Αν συμβεί αυτό, είναι ξεκάθαρο ότι είτε θα είναι το καλύτερο πράγμα που έχει συμβεί στην ανθρωπότητα, ή το χειρότερο. Γιατί τότε θα έχουμε φτιάξει μια νέα οντότητα κατά πολύ εξυπνότερη από εμάς και θα είναι σαν να έχουμε δημιουργήσει μια νέα μορφή ζωής.
Οι άνθρωποι είμαστε το κυρίαρχο είδος στον πλανήτη, όχι γιατί έχουμε περισσότερη δύναμη απ’ τις τίγρεις, αλλά γιατί είμαστε εξυπνότεροι.
Κι αν κατορθώσουμε να φτιάξουμε μηχανές που θα μας ξεπερνούν σε ευφυΐα, τότε αυτοί ή αυτό που τις ελέγχει θα μπορούσε εύκολα να ελέγχει όλη την ανθρωπότητα. Δεν χρειάζεται να είναι ένα τρομερό πράγμα, εσύ κι εγώ ήμασταν περιτριγυρισμένοι από πιο έξυπνα όντα όταν ήμασταν παιδιά, τη μαμά και τον μπαμπά μας, και αυτό λειτουργούσε αρκετά καλά γιατί οι στόχοι των γονιών μας ήταν σε συμφωνία με τους δικούς μας στόχους, ήθελαν δηλαδή πράγματα που μας βοηθούσαν. Μπορούμε όμοια να έχουμε ένα καλό μέλλον με την ΤΓΝ εάν καταφέρουμε την Τ.Ν. να καταλάβει τους στόχους μας, να τους υιοθετήσει, και να τους διατηρήσει.
– Ακούγεται πολύ δύσκολο αυτό. Πώς μπορεί να επιτευχθεί κάτι τέτοιο;
– Είναι όντως πολύ δύσκολο. Είναι τρία άλυτα προς το παρόν προβλήματα πάνω στα οποία πρέπει οι τεχνικοί να δουλέψουν σκληρά. Μπορεί να τους πάρει 30 χρόνια να τα λύσουν, γι’ αυτό είναι καλό να ξεκινήσουν από τώρα, και όχι τη νύχτα πριν κάποιος «ανάψει» τον διακόπτη της υπερνοημοσύνης.
Αν πεις, για παράδειγμα, στο σούπερ μελλοντικό αυτοκινούμενο όχημά σου να σε πάει στο αεροδρόμιο όσο γρηγορότερα γίνεται και φτάσεις εκεί καλυμμένος με εμετό, θα πεις «όχι, όχι, δεν εννοούσα αυτό», και το όχημα θα σου πει με τη ρομποτική του φωνή «αυτό ζήτησες ακριβώς», τότε θα εκτιμήσεις πόσο δύσκολο είναι να κάνεις τις μηχανές να καταλάβουν αυτό που πραγματικά θέλεις. Οταν τα παιδιά μου ήταν μικρά, ήταν ενθουσιασμένα με τα Lego, αλλά σήμερα όλα τα Lego τους σκονίζονται στο υπόγειο, γιατί τα βαριούνται.
Εάν δημιουργήσουμε πολύ έξυπνες μηχανές που θα είναι πραγματικά ενθουσιασμένες με τον στόχο της προσφοράς βοήθειας στην ανθρωπότητα, δεν θα θέλουμε να βαρεθούν με αυτό το στόχο όσο γίνονται εξυπνότερες, όπως οι γιοι μου, ο Φίλιππος και ο Αλέξανδρος με τα Lego τους.
Κι έπειτα υπάρχει μία ακόμα ερώτηση: αν καταφέρουμε τις μηχανές να καταλάβουν, να υιοθετήσουν και να διατηρήσουν τους στόχους μας, τι είδους στόχοι πρέπει να είναι αυτοί; Πρέπει να είναι οι στόχοι του Ντόναλντ Τραμπ; Οι στόχοι του Βαρουφάκη; Του ISIS; Του Σι Τζιπίνγκ;
Τι μέλλον θέλουμε;
Θέλουμε οι άνθρωποι να ζούμε βασικά σε περιβάλλοντα που μοιάζουν με ζωολογικούς κήπους, με απεριόριστα κοκτέιλ και ρομπομασάζ, ή θέλουμε μια κοινωνία με περισσότερες προκλήσεις που θα μας δίνουν νόημα και σκοπό; Οσο περισσότερο συζητάμε για όλα αυτά τόσο αυξάνονται οι πιθανότητες να καταλήξουμε σε ένα καλό μέλλον.
– Στο βιβλίο σας, τα τρία από τα δώδεκα μελλοντικά σενάρια δεν συμπεριλαμβάνουν τον άνθρωπο στην εξίσωση. Πώς το βλέπετε αυτό;
– Οταν έγραφα το βιβλίο, συζητούσα πολύ με τη γυναίκα μου, και ήταν εντυπωσιακό ότι για κανένα απ’ αυτά τα δώδεκα σενάρια δεν ένιωθα 100% ενθουσιασμένος, γι’ αυτό κι είναι τόσο σημαντικό να συμμετάσχουμε όλοι σ’ αυτή την συζήτηση. Υπάρχουν σίγουρα σενάρια που δεν επιθυμώ, αν η ανθρωπότητα καταλήξει σύντομα να εξαφανιστεί, τότε σημαίνει ότι είμαστε ελάχιστα φιλόδοξος ως πολιτισμός.
Τώρα ο βαθμός των εφευρέσεών μας περιορίζεται απ’ τη δική μας ικανότητα να τις εφευρίσκουμε, αλλά αν ενισχύσουμε τη νοημοσύνη μας με την Τ.Ν., τότε πολλές απ’ τις τεχνολογίες που μπορεί να είχαμε σκεφθεί και θα χρειάζονταν χιλιάδες ή εκατομμύρια χρόνια για να εφευρεθούν, θα μπορούσαν να αποκτηθούν μέσα στον χρόνο της δικής μας ζωής.
Σίγουρα δεν υπάρχει έλλειψη θετικών προοπτικών, αλλά την ίδια στιγμή, δεν υπάρχει ούτε και έλλειψη τρόπων να πάνε τα πράγματα άσχημα. Εάν ήμασταν μία αγέλη από γορίλλες που έκαναν αυτή τη συζήτηση, ρωτώντας «έι, τι θα γινόταν αν εφευρίσκαμε ανθρώπους και τους απελευθερώναμε;», δεν νομίζω ότι οι γορίλλες θα χαίρονταν με τον τρόπο που θα τελείωνε όλο αυτό, οι άνθρωποι θα τους σκότωναν, θα κατέστρεφαν τις κατοικίες τους, και κάποιοι θα κατέληγαν σε κλουβιά. Με τον ίδιο τρόπο θα πρέπει να είμαστε πολύ προσεκτικοί πριν απελευθερώσουμε κάτι εξυπνότερο από εμάς.
Ακόμα και αν πολλές ταινίες τείνουν να εστιάζουν σε προβλήματα που προκύπτουν από μηχανές που στρέφονται εναντίον μας, που αποφασίζουν να μας ξεφορτωθούν ή ό,τι άλλο, το ακόμα πιο προφανές πρόβλημα είναι ότι άλλοι άνθρωποι που δεν μας αρέσουν θα μπορούν να χρησιμοποιήσουν την Τ.Ν. εις βάρος μας.
Έχουμε ήδη δει την Cambridge Analytica να χρησιμοποιείται για να επηρεάσει εκλογές, κι αν μια μέρα φτιάξουμε υπεράνθρωπη νοημοσύνη, φαντάζομαι ότι θα είναι αρκετοί οι άνθρωποι σε αυτό τον πλανήτη που δεν θα ήθελες να ήταν υπεύθυνοι γι’ αυτήν, γιατί ουσιαστικά θα ήταν υπεύθυνοι και για εσένα.
Πρέπει να απαγορευθούν τα φονικά αυτόνομα ρομπότ
– Υπάρχει όντως κούρσα εξοπλισμών στην Τ.Ν.;
– Υπάρχουν δύο είδη κούρσας Τ.Ν. Υπάρχει μία κούρσα πολιτών και μία κούρσα στρατιωτική. Η κούρσα των πολιτών βασίζεται στην παραδοχή ότι η Τ.Ν. τροφοδοτεί την οικονομία και ότι οι χώρες που θα μείνουν πίσω στην Τ.Ν., θα μείνουν πίσω και οικονομικά. Η Ευρώπη ήταν πρώτη στον τομέα, μετά έγινε δεύτερη και τώρα είναι τρίτη, και δεν υπάρχει χώρα χωρίς κάποιο σχέδιο για την Τ.Ν., για το πώς θα μπορέσει να έχει καλύτερη Τ.Ν. πολιτών. Αυτό το καλωσορίζω.
Παράλληλα, όμως, υπάρχει δυστυχώς και μια στρατιωτική κούρσα εξοπλισμών, η οποία μόλις τώρα αρχίζει.
Η Τ.Ν. δυνητικά μπορεί να παραγάγει τα πιο απεχθή όπλα που θα έχει γνωρίσει ποτέ η ανθρωπότητα.
Έχουμε κάνει αυτό το βίντεο, το Slaughterbots, που προβάλλαμε στα Ηνωμένα Έθνη, για να μιλήσουμε για ένα είδος όπλου που ελπίζω να μη δούμε ποτέ.
Είναι πολύ εύκολο με την Τ.Ν. να φτιάξεις μικρά drones στο μέγεθος ενός μικρού κουτιού, που θα έχουν GPS και λογισμικό αναγνώρισης προσώπου και θα μπορείς να τα προγραμματίζεις να σκοτώσουν όλους τους λευκούς ανθρώπους, όλους τους μαύρους, ή συγκεκριμένους τύπους ανθρώπων, να δολοφονήσουν μια πρώην φίλη σου, πολιτικούς σου αντιπάλους, και αυτό που είναι φριχτό μ’ αυτά τα όπλα είναι ότι θα γίνουν απίστευτα φθηνά και θα είναι εν πολλοίς ανώνυμα. Ακόμα δεν ξέρουμε ποιος πέταξε το drone στο αεροδρόμιο του Στάνστεντ τον Δεκέμβριο του ’18.
Είναι πολύ εύκολο με την Τ.Ν. να φτιάξεις μικρά drones στο μέγεθος ενός μικρού κουτιού, που θα έχουν GPS και λογισμικό αναγνώρισης προσώπου και θα μπορείς να τα προγραμματίζεις να σκοτώσουν όλους τους λευκούς ανθρώπους, όλους τους μαύρους, ή συγκεκριμένους τύπους ανθρώπων, να δολοφονήσουν μια πρώην φίλη σου, πολιτικούς σου αντιπάλους, και αυτό που είναι φριχτό μ’ αυτά τα όπλα είναι ότι θα γίνουν απίστευτα φθηνά και θα είναι εν πολλοίς ανώνυμα. Ακόμα δεν ξέρουμε ποιος πέταξε το drone στο αεροδρόμιο του Στάνστεντ τον Δεκέμβριο του ’18.
– Πώς θα αποφευχθεί αυτό το δυστοπικό σενάριο;
– Οι περισσότεροι ερευνητές της Τ.Ν. θέλουν πραγματικά να αποφύγουμε αυτό το μέλλον και πιέζουν πολύ για την επίτευξη ενός διεθνούς αποκλεισμού των φονικών αυτόνομων όπλων, των αυτόνομων φονικών ρομπότ. Είναι αυτό που συνέβη με τη βιολογία στις αρχές του ’70. Τότε οι βιολόγοι επιτυχώς πίεσαν για τον αποκλεισμό των βιολογικών όπλων.
Σε εκείνη την περίπτωση τα κατάφεραν και γι’ αυτό θεωρούμε ότι η βιολογία είναι μια δύναμη του καλού, και συνδέουμε τη βιολογία με νέα φάρμακα και νέες θεραπείες κι όχι με βιολογικά όπλα. Πιθανώς ούτε θα θυμάστε πότε διαβάσατε για τελευταία φορά κάτι για όπλα βιολογικού πολέμου και βιοτρομοκρατία. Ελπίζω να γίνει το ίδιο με τα όπλα Τ.Ν., ότι θα απαγορευθούν, το χειρότερο είδος τους τουλάχιστον.
Αυτό σημαίνει ότι άνθρωποι στην Ελλάδα και οπουδήποτε αλλού θα πρέπει να ζητήσουν από τους πολιτικούς να τα απαγορεύσουν. Ως τώρα 25 χώρες έχουν υποστηρίξει την απαγόρευση, της Κίνας συμπεριλαμβανόμενης, αλλά όχι η Ελλάδα. Ελπίζω ότι κοιτάζοντας πίσω θα βλέπουμε την Τ.Ν. ως πηγή νέων λύσεων σε παγκόσμια προβλήματα και όχι ως την πηγή φθηνών και ανώνυμων μέσων για δολοφονίες.
