Quantumrun

ΠΙΣΤΩΣΗ ΕΙΚΟΝΑΣ: Quantumrun

Πώς θα δημιουργήσουμε την πρώτη Τεχνητή Υπερευφυΐα: Μέλλον της Τεχνητής Νοημοσύνης P3

David Tal, Εκδότης, Μελλοντολόγος
@DavidTalWrites
LinkedIn

Τρίτη, 09/15/2020 - 13:17

Βαθιά μέσα στον Β' Παγκόσμιο Πόλεμο, οι ναζιστικές δυνάμεις έκαναν ατμόπλοιο σε μεγάλο μέρος της Ευρώπης. Είχαν προηγμένα όπλα, αποτελεσματική βιομηχανία εν καιρώ πολέμου, πεζικό οδηγούμενο με φανατικό τρόπο, αλλά πάνω από όλα είχαν μια μηχανή που ονομαζόταν Enigma. Αυτή η συσκευή επέτρεψε στις ναζιστικές δυνάμεις να συνεργάζονται με ασφάλεια σε μεγάλες αποστάσεις στέλνοντας μηνύματα κωδικοποιημένα με Μορς μεταξύ τους μέσω τυπικών γραμμών επικοινωνίας. ήταν ένα μηχάνημα κρυπτογράφησης απόρθητο στους ανθρώπους που διασπούν τον κώδικα.

Ευτυχώς, οι Σύμμαχοι βρήκαν μια λύση. Δεν χρειάζονταν πλέον ανθρώπινο μυαλό για να σπάσουν το Enigma. Αντίθετα, μέσω μιας εφεύρεσης του αείμνηστου Άλαν Τούρινγκ, οι Σύμμαχοι κατασκεύασαν ένα επαναστατικό νέο εργαλείο που ονομάζεται το Βρετανική βόμβα, μια ηλεκτρομηχανική συσκευή που τελικά αποκρυπτογράφησε τον μυστικό κωδικό των Ναζί και τελικά τους βοήθησε να κερδίσουν τον πόλεμο.

Αυτή η Bombe έθεσε τις βάσεις για αυτό που έγινε ο σύγχρονος υπολογιστής.

Δουλεύοντας μαζί με τον Turing κατά τη διάρκεια του έργου ανάπτυξης Bombe ήταν ο IJ Good, Βρετανός μαθηματικός και κρυπτογράφος. Είδε νωρίς στο τέλος του παιχνιδιού αυτή η νέα συσκευή μια μέρα θα μπορούσε να δημιουργήσει. Σε ένα χαρτί 1965, έγραψε:

«Ας οριστεί μια υπερέξυπνη μηχανή ως μια μηχανή που μπορεί να ξεπεράσει κατά πολύ όλες τις πνευματικές δραστηριότητες οποιουδήποτε ανθρώπου όσο έξυπνος κι αν είναι. Δεδομένου ότι ο σχεδιασμός των μηχανών είναι μία από αυτές τις πνευματικές δραστηριότητες, μια υπερέξυπνη μηχανή θα μπορούσε να σχεδιάσει ακόμα καλύτερες μηχανές. θα υπήρχε τότε αναμφισβήτητα μια «έκρηξη νοημοσύνης» και η νοημοσύνη του ανθρώπου θα έμενε πολύ πίσω... Έτσι η πρώτη υπερέξυπνη μηχανή είναι η τελευταία εφεύρεση που χρειάζεται ποτέ να κάνει ο άνθρωπος, υπό την προϋπόθεση ότι η μηχανή είναι αρκετά υπάκουη για να μας πει πώς για να το κρατήσει υπό έλεγχο».

Δημιουργία της πρώτης τεχνητής υπερνοημοσύνης

Μέχρι στιγμής στη σειρά Future of Artificial Intelligence, έχουμε ορίσει τις τρεις ευρείες κατηγορίες τεχνητής νοημοσύνης (AI), από τεχνητή στενή νοημοσύνη (ANI) προς τεχνητή γενική νοημοσύνη (AGI), αλλά σε αυτό το κεφάλαιο της σειράς, θα επικεντρωθούμε στην τελευταία κατηγορία - αυτή που προκαλεί είτε ενθουσιασμό είτε κρίσεις πανικού μεταξύ των ερευνητών τεχνητής νοημοσύνης - την τεχνητή υπερευφυΐα (ASI).

Για να τυλίξετε το μυαλό σας γύρω από το τι είναι ένα ASI, θα πρέπει να ανατρέξετε στο τελευταίο κεφάλαιο όπου περιγράψαμε πώς οι ερευνητές AI πιστεύουν ότι θα δημιουργήσουν το πρώτο AGI. Βασικά, θα χρειαστεί ένας συνδυασμός καλύτερων αλγορίθμων που τροφοδοτούν μεγάλα δεδομένα (αυτοί που ειδικεύονται στην αυτοβελτίωση και στις ανθρώπινες μαθησιακές ικανότητες) που φιλοξενούνται σε όλο και πιο ισχυρό υπολογιστικό υλικό.

Σε αυτό το κεφάλαιο, περιγράψαμε επίσης πώς ένα μυαλό AGI (αφού αποκτήσει αυτές τις ικανότητες αυτοβελτίωσης και μάθησης που εμείς οι άνθρωποι θεωρούμε δεδομένες) θα ξεπεράσει τελικά τον ανθρώπινο νου μέσω της ανώτερης ταχύτητας σκέψης, της ενισχυμένης μνήμης, της ακούραστης απόδοσης και δυνατότητα άμεσης αναβάθμισης.

Αλλά εδώ είναι σημαντικό να σημειωθεί ότι ένα AGI θα αυτοβελτιωθεί μόνο στα όρια του υλικού και των δεδομένων στα οποία έχει πρόσβαση. αυτό το όριο μπορεί να είναι μεγάλο ή μικρό ανάλογα με το σώμα ρομπότ που του δίνουμε ή την κλίμακα των υπολογιστών στους οποίους του επιτρέπουμε την πρόσβαση.

Εν τω μεταξύ, η διαφορά μεταξύ ενός AGI και ενός ASI είναι ότι το τελευταίο, θεωρητικά, δεν θα υπάρξει ποτέ σε φυσική μορφή. Θα λειτουργεί εξ ολοκλήρου σε έναν υπερυπολογιστή ή ένα δίκτυο υπερυπολογιστών. Ανάλογα με τους στόχους των δημιουργών του, μπορεί επίσης να έχει πλήρη πρόσβαση σε όλα τα δεδομένα που είναι αποθηκευμένα στο Διαδίκτυο, καθώς και σε οποιαδήποτε συσκευή ή άνθρωπο που τροφοδοτεί δεδομένα μέσα και μέσω του Διαδικτύου. Αυτό σημαίνει ότι δεν θα υπάρχει πρακτικό όριο στο πόσα μπορεί να μάθει αυτό το ASI και πόσα μπορεί να αυτοβελτιωθεί.

Και αυτό είναι το τρίψιμο.

Κατανόηση της έκρηξης πληροφοριών

Αυτή η διαδικασία αυτοβελτίωσης που τελικά θα κερδίσουν οι AI καθώς γίνονται AGI (μια διαδικασία που η κοινότητα της τεχνητής νοημοσύνης αποκαλεί αναδρομική αυτοβελτίωση) μπορεί ενδεχομένως να απορρίψει έναν βρόχο θετικής ανάδρασης που μοιάζει κάπως έτσι:

Δημιουργείται ένα νέο AGI, δίνεται πρόσβαση σε ένα σώμα ρομπότ ή ένα μεγάλο σύνολο δεδομένων και στη συνέχεια δίνεται το απλό έργο της εκπαίδευσης του εαυτού του, της βελτίωσης της νοημοσύνης του. Στην αρχή, αυτό το AGI θα έχει το IQ ενός βρέφους που αγωνίζεται να κατανοήσει νέες έννοιες. Με την πάροδο του χρόνου, μαθαίνει αρκετά για να φτάσει το IQ ενός μέσου ενήλικα, αλλά δεν σταματά εδώ. Χρησιμοποιώντας αυτό το νεοανακαλυφθέν IQ ενηλίκων, γίνεται πολύ πιο εύκολο και πιο γρήγορο να συνεχιστεί αυτή η βελτίωση σε σημείο όπου το IQ του ταιριάζει με αυτό των πιο έξυπνων γνωστών ανθρώπων. Και πάλι όμως δεν σταματά εκεί.

Αυτή η διαδικασία συνδυάζεται σε κάθε νέο επίπεδο νοημοσύνης, ακολουθώντας τον νόμο της επιτάχυνσης των αποδόσεων μέχρι να φτάσει στο ανυπολόγιστο επίπεδο υπερνοημοσύνης - με άλλα λόγια, εάν αφεθεί ανεξέλεγκτη και δοθούν απεριόριστοι πόροι, ένα AGI θα αυτοβελτιωθεί σε ένα ASI, μια νόηση που δεν υπήρξε ποτέ πριν στη φύση.

Αυτό εντόπισε για πρώτη φορά ο IJ Good όταν περιέγραψε αυτήν την «έκρηξη νοημοσύνης» ή αυτό που οι σύγχρονοι θεωρητικοί της τεχνητής νοημοσύνης, όπως ο Nick Bostrom, αποκαλούν το γεγονός «απογείωσης» της AI.

Κατανόηση μιας τεχνητής υπερνοημοσύνης

Σε αυτό το σημείο, μερικοί από εσάς πιθανώς σκέφτονται ότι η βασική διαφορά μεταξύ της ανθρώπινης νοημοσύνης και της νοημοσύνης ενός ASI είναι το πόσο γρήγορα μπορεί να σκεφτεί κάθε πλευρά. Και ενώ είναι αλήθεια ότι αυτό το θεωρητικό μελλοντικό ASI θα σκέφτεται γρηγορότερα από τους ανθρώπους, αυτή η ικανότητα είναι ήδη αρκετά συνηθισμένη σε όλο τον τομέα των υπολογιστών του σήμερα – το smartphone μας σκέφτεται (υπολογίζει) πιο γρήγορα από το ανθρώπινο μυαλό, υπερυπολογιστής σκέφτεται εκατομμύρια φορές πιο γρήγορα από ένα smartphone και ένας μελλοντικός κβαντικός υπολογιστής θα σκέφτεται ακόμα πιο γρήγορα.

Όχι, η ταχύτητα δεν είναι το χαρακτηριστικό της νοημοσύνης που εξηγούμε εδώ. Είναι η ποιότητα.

Μπορείτε να επιταχύνετε τον εγκέφαλο του Samoyed ή του Corgi ό,τι θέλετε, αλλά αυτό δεν μεταφράζεται σε μια νέα κατανόηση του τρόπου ερμηνείας της γλώσσας ή των αφηρημένων ιδεών. Ακόμη και με μια ή δύο επιπλέον δεκαετίες, αυτά τα σκυλάκια δεν θα καταλάβουν ξαφνικά πώς να φτιάχνουν ή να χρησιμοποιούν εργαλεία, πόσο μάλλον να καταλάβουν τις λεπτότερες διαφορές μεταξύ ενός καπιταλιστικού και σοσιαλιστικού οικονομικού συστήματος.

Όταν πρόκειται για νοημοσύνη, οι άνθρωποι λειτουργούν σε διαφορετικό επίπεδο από τα ζώα. Ομοίως, εάν ένα ASI φτάσει στο πλήρες θεωρητικό δυναμικό του, το μυαλό του θα λειτουργήσει σε ένα επίπεδο πολύ πέρα από το εύρος του μέσου σύγχρονου ανθρώπου. Για κάποιο πλαίσιο, ας δούμε τις εφαρμογές αυτών των ASI.

Πώς μπορεί μια τεχνητή υπερνοημοσύνη να λειτουργεί παράλληλα με την ανθρωπότητα;

Αν υποθέσουμε ότι μια συγκεκριμένη κυβέρνηση ή εταιρεία είναι επιτυχής στη δημιουργία ενός ASI, πώς θα μπορούσαν να το χρησιμοποιήσουν; Σύμφωνα με τον Bostrom, υπάρχουν τρεις ξεχωριστές αλλά σχετικές μορφές που μπορεί να λάβει αυτές οι ASI:

Oracle Εδώ, θα αλληλεπιδρούσαμε με ένα ASI όπως ήδη κάνουμε με τη μηχανή αναζήτησης Google. θα του κάνουμε μια ερώτηση, αλλά ανεξάρτητα από το πόσο περίπλοκη είναι η ερώτηση, η ASI θα της απαντήσει τέλεια και με τρόπο που θα είναι προσαρμοσμένος σε εσάς και στο πλαίσιο της ερώτησής σας.
Τζίνι. Σε αυτήν την περίπτωση, θα αναθέσουμε σε ένα ASI μια συγκεκριμένη εργασία και θα εκτελεστεί όπως έχει δοθεί εντολή. Ερευνήστε μια θεραπεία για τον καρκίνο. Ολοκληρώθηκε. Βρείτε όλους τους πλανήτες που κρύβονται μέσα στο σύνολο των εικόνων αξίας 10 ετών από το διαστημικό τηλεσκόπιο Hubble της NASA. Ολοκληρώθηκε. Κατασκευάστε έναν αντιδραστήρα σύντηξης που λειτουργεί για να λύσει την ενεργειακή ζήτηση της ανθρωπότητας. Μυστηριώδης ή μαγική λέξη.
Κυρίαρχος. Εδώ, στο ASI ανατίθεται μια αποστολή ανοιχτού τύπου και δίνεται η ελευθερία να την εκτελέσει. Κλέψτε τα μυστικά Ε&Α από τον εταιρικό μας ανταγωνιστή. "Ανετα." Ανακαλύψτε τις ταυτότητες όλων των ξένων κατασκόπων που κρύβονται μέσα στα σύνορά μας. «Σε αυτό». Διασφάλιση της συνεχιζόμενης οικονομικής ευημερίας των Ηνωμένων Πολιτειών. "Κανένα πρόβλημα."

Τώρα, ξέρω τι σκέφτεσαι, όλα αυτά ακούγονται πολύ παρατραβηγμένα. Γι' αυτό είναι σημαντικό να θυμάστε ότι κάθε πρόβλημα/πρόκληση εκεί έξω, ακόμα και εκείνα που έχουν παραπλανήσει τα πιο έξυπνα μυαλά του κόσμου μέχρι σήμερα, είναι όλα επιλύσιμα. Αλλά η δυσκολία ενός προβλήματος μετριέται από τη διάνοια που το αντιμετωπίζει.

Με άλλα λόγια, όσο περισσότερο εφαρμόζεται το μυαλό σε μια πρόκληση, τόσο πιο εύκολο γίνεται να βρεθεί μια λύση στην εν λόγω πρόκληση. Οποιαδήποτε πρόκληση. Είναι σαν ένας ενήλικας να παρακολουθεί ένα βρέφος να παλεύει να καταλάβει γιατί δεν μπορεί να χωρέσει ένα τετράγωνο μπλοκ σε ένα στρογγυλό άνοιγμα—για τον ενήλικα, το να δείξεις στο βρέφος ότι το μπλοκ πρέπει να χωράει μέσα από το τετράγωνο άνοιγμα θα ήταν παιδικό παιχνίδι.

Ομοίως, εάν αυτό το μελλοντικό ASI φτάσει στο έπακρο, αυτό το μυαλό θα γινόταν η πιο ισχυρή διάνοια στο γνωστό σύμπαν—αρκετά ισχυρό για να λύσει οποιαδήποτε πρόκληση, όσο περίπλοκη κι αν είναι.

Αυτός είναι ο λόγος για τον οποίο πολλοί ερευνητές τεχνητής νοημοσύνης αποκαλούν το ASI την τελευταία εφεύρεση που θα χρειαστεί να κάνει ποτέ ο άνθρωπος. Αν πειστούμε να εργαστούμε δίπλα στην ανθρωπότητα, μπορεί να μας βοηθήσει να λύσουμε όλα τα πιο πιεστικά προβλήματα του κόσμου. Μπορούμε ακόμη και να του ζητήσουμε να εξαλείψει όλες τις ασθένειες και να τερματίσει τη γήρανση όπως την ξέρουμε. Η ανθρωπότητα μπορεί για πρώτη φορά να εξαπατήσει οριστικά τον θάνατο και να εισέλθει σε μια νέα εποχή ευημερίας.

Αλλά και το αντίθετο είναι δυνατό.

Η νοημοσύνη είναι δύναμη. Αν κακοδιαχείριση ή οδηγίες από κακούς ηθοποιούς, αυτό το ASI θα μπορούσε να γίνει το απόλυτο εργαλείο καταπίεσης ή θα μπορούσε να εξολοθρεύσει την ανθρωπότητα εντελώς - σκεφτείτε το Skynet από τον Εξολοθρευτή ή τον Αρχιτέκτονα από τις ταινίες Matrix.

Στην πραγματικότητα, κανένα άκρο δεν είναι πιθανό. Το μέλλον είναι πάντα πολύ πιο βρώμικο απ' όσο προβλέπουν οι ουτοπιστές και οι δυστοπιστές. Γι' αυτό τώρα που καταλαβαίνουμε την έννοια του ASI, η υπόλοιπη σειρά αυτής της σειράς θα διερευνήσει πώς ένα ASI θα επηρεάσει την κοινωνία, πώς θα αμυνθεί η κοινωνία ενάντια σε ένα αδίστακτο ASI και πώς μπορεί να μοιάζει το μέλλον εάν οι άνθρωποι και η τεχνητή νοημοσύνη ζήσουν δίπλα-δίπλα -πλευρά. Συνέχισε να διαβάζεις.