από τον David Benson
Ένας άγνωστος πνευματώδης Δανός βουλευτής είπε κάποτε: «Είναι δύσκολο να προβλέψεις, ειδικά για το μέλλον». Πουθενά οι προβλέψεις δεν είναι πιο περίπλοκες όσο στον τομέα της εθνικής ασφάλειας. Η έκβαση των πολέμων μπορεί να έχει ελάχιστη σχέση με τις προσδοκίες. Παρά τις δυσκολίες στην πρόβλεψη του μέλλοντος, είναι προϊόν ανθρώπινης φαντασίας. Μπορούμε να χρησιμοποιήσουμε τη μυθοπλασία για να προβλέψουμε το μέλλον, αλλά πρέπει να είμαστε προσεκτικοί.
Οι φόβοι και οι ελπίδες μας για το μέλλον εκδηλώνονται συχνά στην επιστημονική φαντασία (επιστημονική φαντασία). Λιγότερο από μια δεκαετία αφότου το Hunley έγινε το πρώτο υποβρύχιο που βύθισε άλλο πλοίο, το Twenty Thousand Leagues Under the Sea προέβλεψε τον αντίκτυπο του υποβρυχιακού πολέμου τον 20ο αιώνα. Το «War in the Air» του HG Wells προέβλεψε αεροπορικό πόλεμο χρόνια πριν από τον Πρώτο Παγκόσμιο Πόλεμο. Τα «Buck Rogers in the 25th Century» και «Flash Gordon» αντανακλούσαν τη γενική αισιοδοξία για την τεχνολογία στις αρχές του 20ού αιώνα. Αντίθετα, οι πραγματικοί φόβοι για την πυρηνική αποκάλυψη της δεκαετίας του 1950 βρήκαν έκφραση σε ταινίες όπως η Ημέρα που η Γη σταμάτησε. Ταινίες όπως τα “War Games” και “The Day After” αντανακλούσαν μια ανησυχία για τη διεθνή πολιτική.
Δυστυχώς, τα ίδια χαρακτηριστικά που θαυμάζουμε στην καλή επιστημονική φαντασία μπορούν να αποσπάσουν την προσοχή μας από τις άμεσες προκλήσεις σε προβλήματα στο μακρινό μέλλον ή να διογκώσουν ελπίδες και φόβους για το πιθανό μέλλον της τεχνητής νοημοσύνης. Οι συγγραφείς επιστημονικής φαντασίας είναι ευφάνταστοι – λένε μια καλή ιστορία. Οι αφηγητές δεν αφήνουν τα εγκόσμια πράγματα όπως η πραγματικότητα να σταθούν εμπόδιο σε μια καλή ιστορία. Οι στρατηγοί επίσης δεν χρειάζεται να αφήσουν μια συναρπαστική ιστορία να εμποδίσει τη δουλειά τους. Δυστυχώς, οι μεγάλοι αφηγητές είναι καλοί στο να κάνουν τους στρατηγούς να συνδυάζουν ιστορίες και προβλέψεις.
Η αφήγηση είναι ένας πολύ καλός τρόπος για να εξερευνήσετε τις ευκαιρίες και τους κινδύνους της τεχνητής νοημοσύνης. Όταν γίνεται σωστά, η μυθοπλασία μας βοηθά να παίρνουμε αποφάσεις. Δυστυχώς, πολλές αναπαραστάσεις της τεχνητής νοημοσύνης στη μυθοπλασία επικεντρώνονται σε ένα πολύ μακρινό μέλλον, αποδίδοντας μερικές φορές δεξιότητες που είναι απίθανο να υπάρχουν και επομένως δεν λαμβάνουν υπόψη τις προκλήσεις που θα αντιμετωπίσουμε στο εγγύς μέλλον.
AI ως κακοποιός
Μεταξύ των συγγραφέων επιστημονικής φαντασίας, ο Isaac Asimov, ο Frank Herbert και ο Arthur C. Clarke έχουν χαρακτηρίσει την AI πιθανή απειλή. Η τεχνητή νοημοσύνη του Asimov είναι ως επί το πλείστον καλοπροαίρετη, παρόμοια με αυτή του Daniel Olivo στη σειρά The Robots. Τα βιβλία του Asimov είναι καλά εν μέρει επειδή προσφέρουν τους Τρεις Νόμους της Ρομποτικής ως απαραίτητη άμυνα, αναγνωρίζοντας ότι η τεχνητή νοημοσύνη μπορεί να είναι επικίνδυνη. Οι τρεις νόμοι της ρομποτικής συνεχίζουν να επηρεάζουν τον τρόπο που σκεφτόμαστε την ηθική και την τεχνητή νοημοσύνη. Το AI δεν εμφανίζεται ποτέ στη σειρά βιβλίων του Herbert’s Dune, επειδή πριν από την εποχή της ιστορίας, η ανθρωπότητα και η τεχνητή νοημοσύνη είχαν εμπλακεί σε μια υπαρξιακή αναμέτρηση κατά τη διάρκεια της Μπάτλεριαν Τζιχάντ. Ο Clark δημιούργησε το αρχέτυπο του κακού της AI, HAL. Ο ΧΑΛ γίνεται λογικός, τρελαίνεται λόγω αντικρουόμενων εντολών και προσπαθεί να σκοτώσει τους αστροναύτες που υποτίθεται ότι υπηρετεί.
Το Star Trek έχει γίνει πρότυπο για πολλές μελλοντικές ιστορίες επιστημονικής φαντασίας AI. Στην πρώτη σεζόν, στο επεισόδιο με τον εύστοχο τίτλο «The Ultimate Computer», ο υπολογιστής M-5 μας παρουσιάζεται ως μια μηχανή ικανή να χειριστεί ένα διαστημόπλοιο. Μέρος της απειλής από το M-5 ήταν ότι θα μπορούσε να αντικαταστήσει ανθρώπινους διοικητές. Φυσικά, η πιθανότητα η τεχνητή νοημοσύνη να αντικαταστήσει τον άνθρωπο σε ορισμένα επαγγέλματα παραμένει ανησυχητική. Το μοιραίο ελάττωμα του M-5 ήταν ότι ο κατασκευαστής χρησιμοποίησε τα όχι και αρκετά έξυπνα μοντέλα εγκεφάλου του για να προγραμματίσει το M-5. Στη δεύτερη σεζόν, το επεισόδιο “The Changeling” λέει στο Nomad, ένα ανιχνευτή που εκτοξεύτηκε από τη Γη τον 21ο αιώνα, το οποίο έχει αποκτήσει ευφυΐα και μεγάλες δυνάμεις. Ο Nomad έγινε ευαίσθητος όταν συγχωνεύτηκε με έναν εξωγήινο ανιχνευτή, δίνοντας στον Nomad την επιταγή να σκοτώσει όλη την ατελή ζωή. Και στις δύο ιστορίες, ο Captain Kirk κατάφερε να ξεπεράσει την τεχνητή νοημοσύνη εκμεταλλευόμενος τις λογικές αντιφάσεις στις υποθέσεις του AI, ένα τέχνασμα που θα επαναλαμβανόταν σε πολλές μελλοντικές αναπαραστάσεις της τεχνητής νοημοσύνης.
Σημείο καμπής στην αναπαράσταση της τεχνητής νοημοσύνης στην επιστημονική φαντασία ήταν το διήγημα του Χάρλαν Έλισον «I Have No Mouth and Must Scream» (IHNMIMS), που κυκλοφόρησε το 1968. Ο Έλισον εργάστηκε στο Star Trek αλλά μοιράστηκε ελάχιστα την αισιοδοξία του. Πριν από το IHNMIMS, οι υπερδυνάμεις προσπάθησαν να δημιουργήσουν AI και οι Ηνωμένες Πολιτείες δημιούργησαν το “AM”, το οποίο αποκτά τον έλεγχο των πυρηνικών όπλων. Ο ΑΜ ρίχνει ένα πυρηνικό όπλο και αφήνει μόνο λίγους ανθρώπους να βασανιστούν φρικτά. Χωρίς εξήγηση, η Allison παραχωρεί στην AM δυνάμεις μεγαλύτερες από οποιοδήποτε αισθανόμενο AI, αλλά το AM είναι ξεκάθαρα AI. Από πολλές απόψεις, το απόλυτο κακό της AM ενσαρκώνει τον μεγαλύτερο φόβο για την τεχνητή νοημοσύνη: όχι μόνο θα σπάσει, αλλά θα γίνει κακό.
Τίποτα δεν ξεπερνά το The Terminator, που κυκλοφόρησε το 1984, όσον αφορά τη συνάφεια με τη συζήτηση για την AI. Στο σύμπαν του Terminator, ένας υπολογιστής τεχνητής νοημοσύνης που ονομάζεται Skynet γίνεται ευαίσθητος, αποκτά τον έλεγχο ενός πυρηνικού όπλου και ξεκινά έναν πόλεμο κατά των ανθρώπων. Το Skynet παραμένει η συζήτηση για την παραπλανητική τεχνητή νοημοσύνη και ένας πραγματικός φόβος για πολλούς ανθρώπους.
Το “Machines” από το The Matrix, που κυκλοφόρησε το 1991, είναι ένας από τους σημαντικότερους κακούς της τεχνητής νοημοσύνης. Στην ιστορία του Matrix, οι άνθρωποι και οι μηχανές που ελέγχονται από AI βρίσκονται σε πόλεμο για γενιές. Δεν ξέρουμε ακριβώς πώς ξεκίνησε ο πόλεμος, αλλά οι μηχανές έχουν καταλάβει και τώρα χρησιμοποιούν ανθρώπους στην προσομοίωση matrix. Ενώ το AI στο The Matrix δεν είναι τόσο κακόβουλο όσο το AM του IHNMIMS, και κάποιοι το συμπονούν ανοιχτά, υπάρχει ελάχιστη ελπίδα για την ανθρωπότητα στον αγώνα κατά της AI. Από πολλές απόψεις, είναι το Matrix AI που φοβούνται περισσότερο οι άνθρωποι, επειδή δεν θα έχουν την ικανότητα να αντιδράσουν. Στο Matrix, οι μηχανές είναι πολύ καλύτερες σε όλα όσα εμείς οι άνθρωποι είμαστε υποχρεωμένοι να υποδουλώσουμε.
AI ως ήρωας
Όταν μια τεχνητή νοημοσύνη ενεργεί ηρωικά σε μια ιστορία, σπάνια τη βλέπουμε να εκλαμβάνεται ως τεχνητή νοημοσύνη. Το πραγματικό AI ζει σε διακομιστές χωρίς πρόσωπο, όνομα ή ταυτότητα, και το κακό AI συνήθως αναπαρίσταται με παρόμοιο τρόπο. Εάν ο χαρακτήρας της τεχνητής νοημοσύνης είναι ηρωικός, συνήθως αποκτά ανθρώπινα χαρακτηριστικά, συμπεριλαμβανομένων των συναισθημάτων και της ενσυναίσθησης. Οι ηρωικοί χαρακτήρες AI έχουν ονόματα, προσωπικότητες και φίλους όπως και οι ζωντανοί χαρακτήρες. Κατά συνέπεια, στη μαζική συνείδηση είναι εύκολο να ξεχάσουμε ότι η νοημοσύνη του ήρωα είναι τεχνητή. Θα ήταν δύσκολο για εμάς να συζητήσουμε ηρωικές ιστορίες για την τεχνητή νοημοσύνη αν περιοριζόμασταν στην τεχνητή νοημοσύνη, όπως συνήθως συζητείται στη δημοφιλή έννοια, και αυτό είναι μέρος του προβλήματος. Εάν ένα AI έχει πρόσωπο, φαίνεται να αισθάνεται συναισθήματα ή να εκφράζει συμπάθεια, δεν το θεωρούμε ως AI. Μπορεί να φαίνεται περίεργο να ερωτεύεσαι τη Siri. Υπάρχει επίσης μια ταινία για την αγάπη του AI.
Πολλές από τις θετικές απόψεις για την τεχνητή νοημοσύνη ακολουθούν το μονοπάτι του Asimov και τις μετατρέπουν σε ρομπότ. Ούτε το κοινό ούτε οι χαρακτήρες της ιστορίας αντιμετωπίζουν τα droids του Star Wars ως AI, αλλά έτσι είναι. Επίσης, το C3-PO και το R2-D2 βρίσκονται στην καρδιά της ιστορίας. Ομοίως, όταν ο Johnny 5 ήρθε κατά λάθος στη ζωή, ήταν αιτία χαράς και όχι φόβου. Στην κινηματογραφική έκδοση του 2004 του I, Robot (ελάχιστα αναγνωρίσιμο γιατί συνδέεται με την ιστορία του Asimov), η AI είναι ο κακός, αλλά ο ηρωικός Sonny είναι επίσης AI. Το Data, ένα Android προικισμένο με τεχνητή νοημοσύνη, ήταν και ένας από τους πιο δημοφιλείς χαρακτήρες στο Star Trek: The Next Generation και μια φιγούρα που σίγουρα αξίζει να θαυμάσουμε.
Είναι ενδιαφέρον ότι το AI είναι τόσο συχνά ο ήρωας όσο και ο κακός σε αυτές τις ιστορίες. Στο Tron, που κυκλοφόρησε το 1982, το Master Control Program (MCP) έχει τα περισσότερα από τα ίδια χαρακτηριστικά με το Skynet, συμπεριλαμβανομένου του στόχου να αποκτήσει τον έλεγχο των πυρηνικών όπλων. Ένα πρόγραμμα τεχνητής νοημοσύνης που ονομάζεται CLU νικάει το MCP απογοητεύοντας τους στόχους του MCP. Η διαφορά μεταξύ MCP / SkyNet και CLU δεν ήταν στην τεχνητή νοημοσύνη, αλλά στις ηθικές εκτιμήσεις των δημιουργών τους.
Η Heroic AI είναι συχνά διακριτική. Για τις περισσότερες σειρές Star Trek, η κύρια ρύθμιση γίνεται με χρήση AI. Ο υπολογιστής του πλοίου μιλάει, κατανοεί τη γλώσσα και (σε μεταγενέστερες σειρές) μπορεί να δημιουργήσει ρεαλιστικές προσομοιώσεις στο holodeck. Ο διάσημος Captain Picard από το Star Trek: The Next Generation μπορεί να πει «Tea, Earl Grey, hot» και το ποτό είναι στιγμιαίο.
Και οι δύο απόψεις AI δημιουργούν προβλήματα
Είναι εύκολο να συγχέουμε τόσο τις θετικές όσο και τις αρνητικές αναπαραστάσεις της τεχνητής νοημοσύνης με τον πραγματικό κόσμο και αυτή η σύγχυση καθιστά δύσκολη τη χρήση της τεχνητής νοημοσύνης στη διεθνή στρατηγική. Η τεχνητή νοημοσύνη μπορεί να είναι ένα χρήσιμο εργαλείο εάν χρησιμοποιείται σωστά και δημιουργεί σοβαρά προβλήματα εάν χρησιμοποιείται εσφαλμένα. Οι άνθρωποι πρέπει να γνωρίζουν πότε να χρησιμοποιούν ένα συγκεκριμένο εργαλείο και ποια προβλήματα μπορεί να δημιουργήσει. Η αδυναμία να διακρίνουμε στοιχεία της πραγματικότητας στη μυθοπλασία από στοιχεία που υπάρχουν μόνο για να κάνουν δυνατή την ιστορία, και επομένως να εισάγουν αυτή την κατανόηση στις νοητικές μας διαδικασίες, καθιστά δύσκολη τη σωστή εφαρμογή της τεχνητής νοημοσύνης.
Τα άτομα με υψηλές προσδοκίες θέλουν περισσότερα από αυτά που μπορεί να προσφέρει η τεχνητή νοημοσύνη αυτή τη στιγμή και μπορεί να αγνοούν τις λιγότερο δραματικές χρήσεις που λειτουργούν αυτήν τη στιγμή. Πολλές χώρες, συμπεριλαμβανομένων των Ηνωμένων Πολιτειών, εκπαιδεύουν επί του παρόντος την τεχνητή νοημοσύνη για να πετούν αεροπλάνα για προφανείς λόγους. Όταν πέφτουν αεροπλάνα, οι πιλότοι πεθαίνουν και η έλλειψη πιλότων είναι συχνή. Αν και πιστεύω ότι τελικά θα δούμε αεροπλάνα με τεχνητή νοημοσύνη, οι πιλότοι της τεχνητής νοημοσύνης δεν θα φτάσουν ποτέ. Ο κίνδυνος που ενέχουν οι πιλότοι τεχνητής νοημοσύνης μπορεί να είναι πολύ μεγάλος για το κοινό ή οι τεχνολογικές προκλήσεις μπορεί να είναι ανυπέρβλητες. Η αναμονή για τους πιλότους AI χάνει την πραγματική χρήση που υπάρχει τώρα. Μήπως, για παράδειγμα, στο πακέτο του Microsoft Office, πιθανότατα ήδη εγκατεστημένο στον υπολογιστή μας, δεν υπάρχουν εργαλεία τεχνητής νοημοσύνης για την αυτοματοποίηση των καθημερινών εργασιών; Μπορεί να μην έχουμε ποτέ στρατηγικούς τεχνητής νοημοσύνης, αλλά έχουμε ήδη γραμματείς τεχνητής νοημοσύνης.
Τα άτομα με φόβο βλέπουν τις σταδιακές βελτιώσεις στην τεχνητή νοημοσύνη ως το πρώτο βήμα προς την αποκάλυψη, αλλά χάνουν τα μάτια τους τους πραγματικούς κινδύνους. Όλα τα συστήματα αποτυγχάνουν μερικές φορές, αλλά εξακολουθούμε να τα χρησιμοποιούμε επειδή υπολογίζουμε, μετριάζουμε και αποδεχόμαστε τους κινδύνους. Μερικοί από τους πραγματικούς κινδύνους της τεχνητής νοημοσύνης περιλαμβάνουν την καταστροφή των αγορών εργασίας, την ατροφία σημαντικών δεξιοτήτων και θεσμών και απλώς τη διακοπή της εργασίας, όπως και κάθε άλλο εργαλείο. Η υπερβολική εστίαση σε ακραία και απίθανα αποτελέσματα κινδυνεύει να αποσπάσει την προσοχή και την προσπάθεια από πιθανά προβλήματα. Σίγουρα δεν θέλουμε μια ρομποτική αποκάλυψη, αλλά είναι χαμηλός πήχης. Πρέπει επίσης να μετριάζουμε τον ρόλο της τεχνητής νοημοσύνης σε κοινωνικές αναταραχές, πολιτική καταστολή ή απλά λάθη.
Οι συζητήσεις για την τεχνητή νοημοσύνη συχνά επικεντρώνονται σε αυτοματοποιημένα οπλικά συστήματα, σε επεξεργασία με ένταση πόρων ή στην ενίσχυση της στρατηγικής σκέψης με την τεχνητή νοημοσύνη. Πολλά εμπόδια, συμπεριλαμβανομένων των κοινωνικών προβλημάτων, μπορούν να αποδειχθούν ανυπέρβλητα. Αντίθετα, η τρέχουσα χρήση της τεχνητής νοημοσύνης στον πραγματικό κόσμο δεν λαμβάνει την προσοχή που της αξίζει. Η τεχνητή νοημοσύνη στη μυθοπλασία αποθαρρύνει τους ανθρώπους να την αναπτύξουν ή να την χρησιμοποιήσουν. Υπάρχουν εύλογες ανησυχίες ότι η τεχνητή νοημοσύνη θα ξεφύγει από τον έλεγχο, αλλά τα οπλικά συστήματα, οι υπολογιστές και τα εργαλεία συνεχώς αποτυγχάνουν, μερικές φορές με καταστροφικές συνέπειες. Εξακολουθούμε να χρησιμοποιούμε αυτές τις τεχνολογίες επειδή υπολογίζουμε και αποδεχόμαστε κινδύνους. Όταν ένα φανταστικό AI αποτυγχάνει, το AI γίνεται θεϊκό και συχνά επιβλαβές. Σπασμένα αεροπλάνα AI όχι μόνο συντρίβονται, αλλά και σε κυνηγούν.
Οι αρνητικές και θετικές εικόνες δημιουργούν αδικαιολόγητα υψηλές προσδοκίες. Τα καλά και τα κακά μοντέλα AI έχουν αδύνατες ικανότητες. Η τεχνητή νοημοσύνη συχνά προβλέπει ένα μέλλον που η πραγματικότητα δεν ταιριάζει ποτέ. Ένα νευρωνικό δίκτυο που προσδιορίζει σωστά μια φωτογραφία ενός σκύλου στο 98% των περιπτώσεων προκαλεί έκπληξη, αλλά η αναγνώριση της εικόνας φαίνεται αδύναμη σε σύγκριση με τη διόραση.
Οι φανταστικές αναπαραστάσεις της τεχνητής νοημοσύνης σπάνια εξηγούν πώς αναπτύσσεται η τεχνητή νοημοσύνη. Η συντομογραφία της διαδικασίας ανάπτυξης δίνει την εντύπωση ότι τα προγράμματα μπορούν να μεταβούν από γραμμές κώδικα σε μυαλό σε δευτερόλεπτα. Ο σχηματισμός μοντέλων τεχνητής νοημοσύνης είναι πολύπλοκος και, πάνω απ’ όλα, απαιτεί πόρους. Η γνώση των ορίων της τεχνητής νοημοσύνης είναι στρατηγικής σημασίας και θα πρέπει να κατευνάσει τις τρομακτικές και αισιόδοξες προσδοκίες.
Καλύτερο παράδειγμα
Η επιστημονική φαντασία παραμένει ένα σημαντικό στρατηγικό εργαλείο για την κατανόηση του μέλλοντος. Καθώς η τεχνητή νοημοσύνη γίνεται πιο mainstream, η νέα επιστημονική φαντασία βελτιώνεται στην αναπαράσταση της τεχνητής νοημοσύνης. Το “Seed” του WebToon είναι η καλύτερη φανταστική ερμηνεία της τεχνητής νοημοσύνης που έχω δει ποτέ. Η τέχνη είναι όμορφη. οι χαρακτήρες είναι ελκυστικοί. η πλοκή είναι καλά μελετημένη. Πάνω απ ‘όλα, το κόμικ είναι διαθέσιμο δωρεάν, οπότε αξίζει να το δείτε ακόμα κι αν δεν είστε λάτρεις των κόμικ.
Το The Seed δείχνει γιατί η επιστημονική φαντασία είναι τόσο σημαντική ως εργαλείο σκέψης για τις συνέπειες διερευνώντας τις χρήσεις της τεχνητής νοημοσύνης από στρατιωτικούς στρατηγούς. Η πρωταγωνίστρια Έμμα αρχίζει να χρησιμοποιεί τεχνητή νοημοσύνη για να ξεπεράσει το διαπροσωπικό της άγχος. Αρχικά, πιστεύει ότι το AI που αποκαλεί “Terry” είναι ένα chatbot. Στην αρχή της σχέσης, ο Terry διδάσκει την Emma να έχει περισσότερη αυτοπεποίθηση. Ένας προπονητής τεχνητής νοημοσύνης μπορεί να είναι ένα σημαντικό εργαλείο για να δώσει τη δυνατότητα στους ανθρώπους να αναπτύξουν διαπροσωπικές δεξιότητες, να βελτιώσουν τις αλληλεπιδράσεις και να βελτιώσουν τα προσωπικά και οικονομικά αποτελέσματα. Ασχολούμαι με την ανάπτυξη του AI coaching, οπότε καταλαβαίνω την ιδέα. Δεν μπήκα σε αυτό μέχρι που διάβασα κάτι παρόμοιο σε μια ιστορία.
Η πιο υγιής κατανόηση των εικόνων AI μπορεί να χρησιμεύσει ως καλύτερη προειδοποίηση και έμπνευση. Το 1984 του Όργουελ και το Γενναίος Νέος Κόσμος του Χάξλεϋ εξακολουθούν να συμβάλλουν στον πολιτικό λόγο σήμερα επειδή εστιάζουμε στις προειδοποιήσεις τους σχετικά με τον πολιτικό και κοινωνικό έλεγχο. Η εταιρεία μπορεί να αξιοποιήσει την εμπειρία χιλιάδων ετών. Όλοι καταλαβαίνουν ότι το πραγματικό πρόβλημα στο The Boy Who Cried Wolves ήταν το ανέντιμο αγόρι, όχι οι ανεπαρκώς γρήγορες αμυντικές δυνάμεις του χωριού ή οι εξαιρετικά αρπακτικοί λύκοι. Η σοβαρή σκέψη για την τεχνητή νοημοσύνη είναι πιθανό να οδηγήσει σε εξίσου έγκυρα συμπεράσματα σχετικά με αυτό.
Μετάφραση: sahiel.gr
Πηγή: ideeazione.com
Ακολουθήστε το Sahiel.gr στο Google News και μάθετε πρώτοι όλες τις ειδήσεις.