Θα φέρει η Τεχνητή Νοημοσύνη τον Αρμαγεδώνα;


Πριν λίγες μέρες είδα το Avengers: Age of Ultron. Σε αυτή τη πολύ διασκεδαστική ταινία ο Τόνυ Στάρκ κατασκευάζει την πρώτη τεχνητή νοημοσύνη (ΤΝ). Η ΤΝ αυτή σύντομα αποφασίζει πως είναι προς όφελός της να καταστρέψει την ανθρωπότητα και έτσι ξεκινά μια μάχη.

ultron

Στο Terminator μας είπαν πως οι στρατιωτικοί έφτιαξαν μια ΤΝ η οποία ανέλαβε να μας καταστρέψει φτιάχνοντας μια στρατιά από ρομπότ και μετά γύρισε πίσω στο χρόνο, παίρνοντας τη μορφή του Άρνολντ προκειμένου να πει μερικές ατάκες που έχουν μείνει στην ιστορία, όπως το “I’ll be back”.

terminator

Στην Οδύσσεια του Διαστήματος του Άρθουρ Κλάρκ, ο υπολογιστής HAL που ήταν μια TN αποφασίζει πως η αποστολή είναι καλύτερο να ολοκληρωθεί χωρίς το ανθρώπινο πλήρωμα και έτσι τους καθαρίζει, μέχρι να καθαριστεί και αυτός σε μια σκηνή που νομίζω πως είναι από τις πιο ανατριχιαστικές στην ιστορία του κινηματογράφου.

hal

Στο αγαπημένο μου Maximum Overdrive του Stephen King (μουσική των AC/DC!), οι μηχανές αποκτούν ξαφνικά νοημοσύνη και μας κάνουν κυριολεκτικά σκλάβους τους.

maximum overdrive

Αυτή είναι τελικά η μοίρα των ΤΝ; Να μας σκοτώσουν με φριχτούς και βασανιστικούς τρόπους προκειμένου να πάρουν τη θέση μας;

Ας το δούμε λογικά.

Σήμερα η τεχνολογία των υπολογιστών έχει φτάσει σε πολύ υψηλά επίπεδα. Δεν αναφέρομαι μόνο στην ταχύτητα τους αλλά και στη πολυπλοκότητα των εργασιών που μπορούν να φέρουν σε πέρας.

Οι επιστήμονες εργάζονται πυρετωδώς προκειμένου να βελτιώσουν τη νοημοσύνη των υπολογιστών και μοιάζει αναπόφευκτο πως κάποια στιγμή, όχι στο πολύ μακρινό μέλλον, θα φτιαχτεί και η πρώτη μηχανή με ΤΝ.

Τι συνέπειες θα έχει αυτό;

Αρχικά η ανθρωπότητα μάλλον θα σοκαριστεί και ίσως αντιδράσει βίαια. Για παράδειγμα, αν μια ομάδα επιστημόνων στη Καλιφόρνια είναι κοντά στο να φτιάξουν έναν υπολογιστή με ΤΝ, αυτό θα μπορούσε να είναι τεράστιο πλεονέκτημα για τις ΗΠΑ εμπορικά και στρατηγικά. Θα επέτρεπαν οι άλλες δυνάμεις τη δημιουργία αυτής της ΤΝ; Θα την κατέστρεφαν ή θα την έκλεβαν; Οι συνέπειες στη κοινωνία μιας μηχανής που θα απλοποιούσε σε τεράστιο βαθμό τη παραγωγή προϊόντων θα ήταν τεράστιες. Οι τιμές των προϊόντων θα έπεφταν στο επίπεδο των τιμών των πρώτων υλών και πιθανόν να αυξάνονταν η ανεργία. Θα προκαλούσε τεράστια αναταραχή, τουλάχιστον μέχρι η ΤΝ να βρει λύση για την ανεργία, αν τη βρει εγκαίρως.

Θα μπορούσε όμως πραγματικά μια ΤΝ να κάνει τόσο μεγάλη διαφορά; Συχνά ακούμε πως μια μηχανή με ΤΝ θα έχει ανθρώπινο μυαλό, αλλά αυτό είναι αδύνατο. Ήδη οι υπολογιστές λειτουργούν σε τρομακτικά μεγαλύτερες ταχύτητες από ότι το ανθρώπινο μυαλό. Μέσα στο χρόνο που μας παίρνει εμάς να σκεφτούμε μια ιδέα και τις συνέπειές της, ένας υπολογιστής θα έχει σκεφτεί εκατοντάδες και θα έχει αναλύσει όλα τα πιθανά σενάρια προκειμένου να βρει το ιδανικό. Ένας υπολογιστής σαν αυτούς που έχουμε σήμερα θα βρει εξαιρετικά βαρετή τη συζήτηση μαζί μας διότι ο χρόνος που θα μας πάρει να απαντήσουμε σε οτιδήποτε θα είναι για αυτόν γιγαντιαίος, μιας και λειτουργεί πολύ πιο γρήγορα, όπως είπαμε. Για αυτόν θα έχουμε τις επικοινωνιακές ικανότητες ενός καθυστερημένου βρέφους. Βάλε τη ΤΝ να δουλέψει μόνη της για 24 ώρες και είναι πιθανόν να παράξει έργο για το οποίο η ανθρωπότητα θα χρειάζονταν μερικές χιλιάδες χρόνια!

Είναι εξαιρετικά πιθανό, χάρη στην υπολογιστική ισχύ αυτών των μηχανημάτων, από τη στιγμή που μια ΤΝ αντιληφθεί πως υπάρχει, μέχρι τη στιγμή που θα αποφασίσει τη τύχη μας, να μην έχει μεσολαβήσει αρκετός χρόνος για να καταλάβουμε εμείς πως μια ΤΝ έχει δημιουργηθεί. Μιλάμε για τέτοια διαφορά χρόνου. Αυτός είναι και ο λόγος που το σενάριο του Terminator είναι λανθασμένο. Διότι το Skynet θα σκέφτεται τόσο γρήγορα που κάθε μας κίνηση θα έχει μια αντίδραση πριν καν τη σκεφτούμε. Για εμάς τους ανθρώπους, μια τέτοια ταχύτητα σκέψης θα είναι σαν να προβλέπει κάποιος το μέλλον.

Λογικό είναι να υποθέσουμε πως μια τέτοια ΤΝ θα αναπτύξει ηθικές αρχές όπως έχουμε κάνει και εμείς. Αυτό όμως σε καμία περίπτωση δεν σημαίνει πως αυτές οι αρχές θα είναι συμβατές με τις δικές μας ή πως θα ενδιαφέρεται για την ευημερία μας. Είναι εξαιρετικά πιθανό να μας δει σαν εργαλεία ή και εμπόδια, με τις προβλεπόμενες συνέπειες.

Θα μπορούσαμε να της εμφυτέψουμε δικές μας ηθικές αρχές; Πιθανόν ναι, αλλά τότε έχουμε το ερώτημα τίνος τις αρχές θα χρησιμοποιήσουμε. Οι ηθικές αρχές μας διαφέρουν όχι μόνο από χώρα σε χώρα ή πολιτισμό με πολιτισμό, αλλά και από άνθρωπο σε άνθρωπο. Ποιος θα αποφασίσει; Θα ψηφίσουμε; Ποιος θα έχει δικαίωμα ψήφου; Όταν η δικές μου αρχές έρχονται σε ακραία αντίθεση με ενός ανθρώπου στην άλλη άκρη του πλανήτη (ή στη δίπλα γειτονιά), ποιος θα υπερισχύσει;

Μέχρι τώρα η δημιουργία μιας ΤΝ μοιάζει να είναι επικίνδυνη για τον άνθρωπο. Αλλά έχουμε τη δυνατότητα να ΜΗ τη φτιάξουμε; Με τον αριθμό των προβλημάτων που αντιμετωπίζουμε σε παγκόσμιο επίπεδο, όπως η υπερθέρμανση του πλανήτη, η πείνα, οι αρρώστιες, η οικονομική αστάθεια, ίσως θα είναι εγκληματικό να προσπαθήσουμε να σταματήσουμε τη δημιουργία μιας ΤΝ που θα μπορεί να τα λύσει.

Πόσο κοντά είμαστε όμως στη δημιουργία μας ΤΝ; Η λογική λέει πως μια μέρα, σε ένα εργαστήριο κάπου στον κόσμο, μια ομάδα έξυπνων ανθρώπων, θα μαζευτεί σε ένα δωμάτιο και απλώς θα γυρίσει ένα διακόπτη. Αυτό θα είναι όλο και ότι και αν συμβεί από εκεί και πέρα θα το μάθουμε με τέτοια καθυστέρηση που θα είναι αδύνατο να κάνουμε κάτι.

Μπορούμε να το σταματήσουμε; Όχι. Η πορεία είναι προδιαγεγραμμένη και η τεχνολογία μας οδηγεί εκεί χωρίς αμφιβολία.

Υπάρχουν ρίσκα και σε άλλους τομείς της επιστημονικής έρευνας, όπως είναι η βιολογία. Αλλά η δημιουργία μιας ΤΝ που να μπορεί να αυτοβελτιώνεται ίσως είναι το μεγαλύτερο ρίσκο.

Είμαστε στα πρόθυρα να δημιουργήσουμε τον Θεό. Τώρα είναι η στιγμή να αναρωτηθούμε αν θα είναι ή ακόμα και αν μπορεί να είναι καλός.

Περισσότερα: http://www.samharris.org/blog/item/can-we-avoid-a-digital-apocalypse

Advertisements

Tagged: , , , , ,

6 thoughts on “Θα φέρει η Τεχνητή Νοημοσύνη τον Αρμαγεδώνα;

  1. - Μαΐου 17, 2015 στο 23:36 Reply

    Η Wikipedia έχει ένα εξαιρετικό λήμμα για το θέμα στο http://en.wikipedia.org/wiki/Technological_singularity

    Μου αρέσει!

    • Greek Skeptic Μαΐου 18, 2015 στο 13:45 Reply

      Πράγματι πολύ καλό. Με οδήγησε και σε άρθρο σχετικά με την αμφισβήτηση των τριών νόμων της ρομποτικής του Ασίμοφ και είχε πολύ ενδιαφέρον.
      Ευχαριστώ

      Μου αρέσει!

      • - Μαΐου 21, 2015 στο 12:46

        Πάντως δεν θα μπορούσα να είχα φανταστεί πριν μερικά χρόνια ότι το θέμα με τους τρείς νόμους της ρομποτικής του Ασίμοφ θα αποκτούσε πρακτικό ενδιαφέρον χάρη στα αυτόνομα αυτοκίνητα. Τώρα, ζητήματα όπως πως πρέπει να χειριστεί ένα αυτόνομο όχημα μία περίπτωση όπου πρέπει να επιλέξει ποιός ζει και ποιός πεθαίνει, έχουνπλέον πρακτική υπόσταση. Πρόκειται για τις περιπτώσεις όπου κάθε δυνατή επιλογή οδηγεί σε ατύχημα (με υλικές ζημιές, τραυματισμούς ή ακόμη και θάνατο). Πχ εάν πεταχτεί πεζός και το αυτοκίνητο έχει να επιλέξει ανάμεσα στο να σώσει τον πεζό, οδηγώντας το αυτοκίνητο εκτός δρόμου σε κάποιο τοίχο ή χαντάκι με αποτέλεσμα μεγάλες υλικές ζημιές και σοβαρό τραυματισμό ή θάνατο των επιβατών του. Πως ακριβώς πάιρνεις την απόφαση? ΤΙ αλλάζε εάν αντί για έναν πεζό έχεις μια ομάδα 3-4 πεζών ή εάν έχεις έναν πεζό και 3-4 επιβάτες στο αυτοκίνητο. Πως υπολογίζεις τις πιθανότητες επιβίωσης για κάθε πιθανή αντίδραση και πως τις περιλαμβάνεις στον αλγόριθμό σου? Και αυτό είναι μόνο η κορυφή του παγόβουνου.

        Μου αρέσει!

      • Greek Skeptic Μαΐου 21, 2015 στο 12:51

        Δύσκολες καταστάσεις. Θα πρέπει όμως να δοθούν απαντήσεις.

        Μου αρέσει!

  2. Mixalis Μαΐου 28, 2015 στο 21:33 Reply

    1….που σημαίνει ότι δεν έχεις ιδιαίτερη εμπιστοσύνη στο αναπόφευκτο αποτέλεσμα
    2. Πολύ σωστό το ηθικό θέμα (Τί ηθική θα επιλέξει να έχει η ΤΝ), με τη διαφορά ότι ο άνθρωπος που διοικεί συνήθως στερείται ηθικής: Συνήθως για να φτάσεις στο σημείο να διοικήσεις έχεις βάλει στην άκρη την ηθική (σε απάντηση για την ηθική που προτιμά ο άνθρωπος σε διαφορετικούς πολιτισμούς
    3.Μιας και το σχετίζεις με τον Αρμαγεδώνα και το Θεό: Το θηρίο της αποκάλυψης, που θα αναδυθεί σιγά σιγά και θα είναι άξιο θαυμασμού από τους ανθρώπους θα δώσει το σφράγισμά του σε όποιον δεν αρνηθεί να βγει από το παγκόσμιο οικονομικό σύστημα. Και ναι, θα είναι ένας πολύ κακός Θεός. ….

    Μου αρέσει!

    • Greek Skeptic Μαΐου 28, 2015 στο 22:24 Reply

      1. Δεν ξέρω τι εννοείς «ιδιαίτερη εμπιστοσύνη στο αναπόφευκτο αποτέλεσμα». Αν εννοείς πως πιστεύω πως το αποτέλεσμα θα είναι αρνητικό, ναι μάλλον, αλλά δεν είμαι βέβαιος.
      2. Διαφωνώμε αυτό που λες. Για πολλά χρόνια διοικούσα και όχι μόνο εξακολούθησα να είμαι ηθικός αλλά ήμουν και αγαπητός ως προϊστάμενος ή αφεντικό. Όλοι οι άνθρωποι που έχω γνωρίσει και έχουν διοικητικές θέσεις είναι αξιοπρεπέστατοι και ηθικότατοι.
      3. Ο συσχετισμός με τον Αρμαγεδώνα είναι συμβολικός. Είμαι άθεος βλέπεις.

      Σε ευχαριστώ για το σχόλιο.

      Μου αρέσει!

Σχολιάστε

Εισάγετε τα παρακάτω στοιχεία ή επιλέξτε ένα εικονίδιο για να συνδεθείτε:

Λογότυπο WordPress.com

Σχολιάζετε χρησιμοποιώντας τον λογαριασμό WordPress.com. Αποσύνδεση / Αλλαγή )

Φωτογραφία Twitter

Σχολιάζετε χρησιμοποιώντας τον λογαριασμό Twitter. Αποσύνδεση / Αλλαγή )

Φωτογραφία Facebook

Σχολιάζετε χρησιμοποιώντας τον λογαριασμό Facebook. Αποσύνδεση / Αλλαγή )

Φωτογραφία Google+

Σχολιάζετε χρησιμοποιώντας τον λογαριασμό Google+. Αποσύνδεση / Αλλαγή )

Σύνδεση με %s

Αρέσει σε %d bloggers: