Course quantique

CRÉDIT D'IMAGE: Course quantique

Les humains vivront-ils en paix dans un futur dominé par les intelligences artificielles ? - Avenir de l'intelligence artificielle P6

David Tal, éditeur, futuriste
@DavidTalWrites
LinkedIn

Mardi, 09 / 15 / 2020 - 13: 10

En ce qui concerne l'humanité, disons simplement que nous n'avons pas le meilleur bilan en matière de cohabitation avec « l'autre ». Qu'il s'agisse du génocide des Juifs en Allemagne ou des Tutsis au Rwanda, de l'asservissement des Africains par les nations occidentales ou des esclaves sous contrat d'Asie du Sud-Est maintenant travaillant dans les pays du Golfe du Moyen-Orient, ou même la persécution actuelle subie par les Mexicains aux États-Unis ou les réfugiés syriens dans certains pays de l'UE. Dans l'ensemble, notre peur instinctive de ceux que nous percevons comme différents de nous peut nous amener à prendre des mesures qui contrôlent ou (dans les cas extrêmes) détruisent ceux que nous craignons.

Pouvons-nous nous attendre à quelque chose de différent lorsque l'intelligence artificielle devient véritablement humaine ?

Vivrons-nous dans un avenir où nous coexisterons avec des êtres robots IA indépendants, comme on le voit dans la saga Star Wars, ou allons-nous plutôt persécuter et asservir les êtres IA comme le montre la franchise Bladerunner ? (Si vous n'avez vu aucun de ces incontournables de la culture pop, qu'attendez-vous ?)

Telles sont les questions de ce dernier chapitre du L'avenir de l'intelligence artificielle série espère répondre. C'est important parce que si les prévisions faites par les principaux chercheurs en IA sont correctes, alors d'ici le milieu du siècle, nous, les humains, partagerons notre monde avec une abondance d'êtres IA divers - alors nous ferions mieux de trouver un moyen de vivre paisiblement à leurs côtés.

Les humains pourront-ils un jour rivaliser avec les intelligences artificielles ?

Croyez-le ou non, nous le pouvons.

L'humain moyen (en 2018) est déjà supérieur même à l'IA la plus avancée. Comme indiqué dans notre chapitre d'ouverture, les intelligences étroites artificielles (ANI) d'aujourd'hui sont immensément meilleures que les humains au groupe de neurones tâches pour lesquelles ils ont été conçus, mais sans espoir lorsqu'on leur demande d'assumer une tâche en dehors de cette conception. Les humains, d'autre part, ainsi que la plupart des autres animaux de la planète, excellent dans notre capacité d'adaptation à poursuivre des objectifs dans un large éventail d'environnements - un définition de l'intelligence prônée par les informaticiens Marcus Hutter et Shane Legg.

Ce trait d'adaptabilité universelle ne semble pas être un gros problème, mais il exige la capacité d'évaluer un obstacle à un objectif, de planifier une expérience pour surmonter cet obstacle, de prendre des mesures pour exécuter l'expérience, d'apprendre des résultats, puis de continuer pour poursuivre le but. Toute vie sur la planète exécute instinctivement cette boucle d'adaptabilité des milliers à des millions de fois chaque jour, et tant que l'IA n'aura pas appris à faire de même, elle restera un outil de travail sans vie.

Mais je sais ce que vous pensez : toute cette série sur l'avenir de l'intelligence artificielle prévoit qu'avec suffisamment de temps, les entités d'IA finiront par devenir aussi intelligentes que les humains, et peu de temps après, bien plus intelligentes que les humains.

Ce chapitre ne contestera pas cette possibilité.

Mais le piège dans lequel de nombreux commentateurs tombent est de penser que parce que l'évolution a pris des millions d'années pour produire des cerveaux biologiques, elle sera désespérément dépassée une fois que les IA atteindront un point où elles pourront améliorer leur propre matériel et logiciel dans des cycles aussi courts que des années, des mois. , peut-être même des jours.

Heureusement, l'évolution a encore du mal à se battre, en partie grâce aux progrès récents du génie génétique.

D'abord couvert dans notre série sur le avenir de l'évolution humaine, les généticiens ont identifié 69 gènes distincts qui ont un impact sur l'intelligence, mais ensemble, ils n'affectent le QI que de moins de huit pour cent. Cela signifie qu'il pourrait y avoir des centaines, voire des milliers, de gènes qui ont un impact sur l'intelligence, et nous devrons non seulement tous les découvrir, mais aussi apprendre à les manipuler ensemble de manière prévisible avant même d'envisager de falsifier un fœtus. ADN.

Mais d'ici le milieu des années 2040, le domaine de la génomique arrivera à maturité à un point où le génome d'un fœtus pourra être minutieusement cartographié, et les modifications de son ADN pourront être simulées par ordinateur pour prédire avec précision comment les modifications de son génome auront un impact sur son avenir physique, émotionnel. , et le plus important pour cette discussion, ses attributs d'intelligence.

En d'autres termes, d'ici le milieu du siècle, à peu près au moment où la plupart des chercheurs en IA pensent que l'IA atteindra et peut-être dépassera l'intelligence au niveau humain, nous aurons la capacité de modifier génétiquement des générations entières de nourrissons humains pour qu'ils soient nettement plus intelligents que les générations précédentes. leur.

Nous nous dirigeons vers un avenir où des humains super intelligents vivront aux côtés d'une IA super intelligente.

Impact d'un monde rempli d'humains super intelligents

Alors, à quel point parlons-nous d'intelligence ici ? Pour le contexte, les QI d'Albert Einstein et de Stephen Hawking ont atteint environ 160. Une fois que nous aurons dévoilé les secrets derrière les marqueurs génomiques qui contrôlent l'intelligence, nous pourrions potentiellement voir des humains nés avec un QI dépassant 1,000 XNUMX.

C'est important parce que des esprits comme Einstein et Hawking ont contribué à déclencher les percées scientifiques qui constituent aujourd'hui le fondement de notre monde moderne. Par exemple, seule une infime partie de la population mondiale comprend quoi que ce soit à la physique, mais un pourcentage important du PIB mondial dépend de ses découvertes - des technologies comme le smartphone, le système de télécommunication moderne (Internet) et le GPS ne peuvent exister sans la mécanique quantique. .

Compte tenu de cet impact, quel genre d'avancées l'humanité pourrait-elle connaître si nous donnions naissance à toute une génération de génies ? Des centaines de millions d'Einstein ?

La réponse est impossible à deviner puisque le monde n'a jamais vu une telle concentration de super génies.

À quoi ressembleront ces gens ?

Pour un avant-goût, considérons simplement le cas de l'humain enregistré le plus intelligent, Guillaume James Sidis (1898-1944), qui avait un QI d'environ 250. Il savait lire à l'âge de deux ans. Il parlait huit langues à l'âge de six ans. Il a été admis à l'Université de Harvard à 11 ans. Et Sidis n'est qu'un quart aussi intelligent que ce que les biologistes théorisent que les humains peuvent un jour devenir avec l'édition génétique.

(Remarque : nous ne parlons ici que d'intelligence, nous n'évoquons même pas l'édition génétique qui peut nous rendre physiquement surhumains. Lire la suite.)

En fait, il est très possible que les humains et l'IA puissent co-évoluer en créant une sorte de boucle de rétroaction positive, où l'IA avancée aide les généticiens à maîtriser le génome humain pour créer des humains de plus en plus intelligents, des humains qui travailleront ensuite pour créer une IA de plus en plus intelligente, et ainsi de suite. sur. Donc, oui, tout comme les chercheurs en IA le prédisent, la Terre pourrait très bien connaître une explosion de l'intelligence au milieu du siècle, mais d'après notre discussion jusqu'à présent, les humains (pas seulement l'IA) bénéficieront de cette révolution.

Des cyborgs parmi nous

Une critique juste de cet argument sur les humains super intelligents est que même si nous maîtrisons l'édition génétique d'ici le milieu du siècle, il faudrait encore 20 à 30 ans avant que cette nouvelle génération d'humains mûrisse à un point où elle puisse contribuer à des avancées significatives pour notre société et égaliser le terrain de jeu intellectuel aux côtés de l'IA. Ce décalage ne donnerait-il pas aux IA une longueur d'avance significative sur l'humanité si elles décidaient de devenir « malveillantes » ?

C'est pourquoi, comme un pont entre les humains d'aujourd'hui et les surhumains de demain, nous verrons à partir des années 2030 les débuts d'une nouvelle classe d'humains : le cyborg, un hybride d'humain et de machine.

(Pour être juste, selon la façon dont vous définissez les cyborgs, ils existent déjà techniquement - en particulier, les personnes avec des membres prothétiques à la suite de blessures de guerre, d'accidents ou de défauts génétiques à la naissance. Mais pour rester concentré sur le contexte de ce chapitre, nous Je me concentrerai sur les prothèses destinées à augmenter notre esprit et notre intelligence.)

D'abord discuté dans notre L'avenir des ordinateurs série, les chercheurs développent actuellement un domaine de la bioélectronique appelé Brain-Computer Interface (BCI). Il s'agit d'utiliser un scanner cérébral ou un implant pour surveiller vos ondes cérébrales, les convertir en code, puis les associer à des commandes pour contrôler tout ce qui est exécuté par un ordinateur.

Nous en sommes encore aux premiers jours, mais grâce à l'utilisation de la BCI, les amputés sont maintenant tester des membres robotiques contrôlés directement par leur esprit, au lieu de passer par des capteurs attachés à leur moignon. De même, les personnes gravement handicapées (telles que les personnes quadriplégiques) sont désormais utilisant BCI pour diriger leurs fauteuils roulants motorisés et manipuler des bras robotiques. Mais aider les amputés et les personnes handicapées à mener une vie plus indépendante n'est pas à la hauteur de ce dont BCI sera capable.

Ce qui dans les années 2030 ressemblera à un casque ou à un serre-tête cédera éventuellement la place à des implants cérébraux (fin des années 2040) qui connecteront nos esprits au cloud numérique (Internet). À terme, cette prothèse cérébrale agira comme un troisième hémisphère pour notre esprit. Ainsi, alors que nos hémisphères gauche et droit gèrent notre créativité et nos facultés logiques, ce nouvel hémisphère numérique alimenté par le cloud facilitera l'accès quasi instantané à l'information et améliorera les capacités cognitives. attributs où les humains sont souvent en deçà de leurs homologues de l'IA, à savoir la vitesse, la répétition et la précision.

Et bien que ces implants cérébraux ne renforcent pas nécessairement notre intelligence, ils nous rendront beaucoup plus capables et indépendants, tout comme nos smartphones le font aujourd'hui.

Un avenir rempli d'intelligences diverses

Toutes ces discussions sur les IA, les cyborgs et les humains super intelligents ouvrent un autre point à considérer : l'avenir verra une diversité d'intelligences beaucoup plus riche que ce que nous avons jamais vu dans l'histoire humaine ou même de la Terre.

Pensez-y, avant la fin de ce siècle, nous parlons d'un monde futur rempli de :

L'intelligence des insectes
Intelligences animales
Intelligences humaines
Intelligences humaines cybernétiquement améliorées
Intelligences générales artificielles (AGI)
Superintelligences artificielles (Comme si)
Les super intelligences humaines
Super intelligences humaines cybernétiquement améliorées
Esprits virtuels hybrides humain-IA
Quelques autres catégories intermédiaires que nous encourageons les lecteurs à réfléchir et à partager dans la section des commentaires.

En d'autres termes, notre monde abrite déjà un large éventail d'espèces, chacune avec ses propres types d'intelligences, mais l'avenir verra une plus grande diversité d'intelligences, cette fois élargissant l'extrémité supérieure de l'échelle cognitive. Ainsi, tout comme la génération d'aujourd'hui apprend à partager notre monde avec les insectes et les animaux qui contribuent à notre écosystème, les générations futures devront apprendre à communiquer et à collaborer avec une grande diversité d'intelligences que nous pouvons à peine imaginer aujourd'hui.

Bien sûr, l'histoire nous dit que le « partage » n'a jamais été un point fort pour les humains. Des centaines à des milliers d'espèces ont disparu en raison de l'expansion humaine, tout comme des centaines de civilisations moins avancées ont disparu sous la conquête d'empires en expansion.

Ces drames sont dus au besoin humain de ressources (nourriture, eau, matières premières, etc.) et en partie, à la peur et à la méfiance entretenues entre civilisations ou peuples étrangers. En d'autres termes, les tragédies du passé et du présent sont dues à des raisons aussi anciennes que la civilisation elle-même, et elles ne feront que s'aggraver avec l'introduction de toutes ces nouvelles classes d'intelligences.

Impact culturel d'un monde rempli d'intelligences diverses

L'émerveillement et l'effroi sont les deux émotions qui résumeraient le mieux les émotions contradictoires que les gens ressentiront une fois que tous ces nouveaux types d'intelligences entreront dans le monde.

«Émerveillez-vous» devant l'ingéniosité humaine utilisée pour créer toutes ces nouvelles intelligences humaines et IA, et les possibilités qu'elles pourraient créer. Et puis « redoutez » le manque de compréhension et de familiarité que les générations actuelles d'humains auront avec les générations futures de ces êtres « améliorés ».

Ainsi, tout comme le monde des animaux est entièrement au-delà de la compréhension de l'insecte moyen, et le monde des humains est entièrement au-delà de la compréhension de l'animal moyen, le monde des IA et même des humains super intelligents sera bien au-delà de la portée de ce que nous connaissons aujourd'hui. l'homme moyen sera capable de comprendre.

Et même si les générations futures pourront communiquer avec ces nouvelles intelligences supérieures, ce n'est pas comme si nous avions beaucoup en commun. Dans les chapitres présentant les AGI et les ASI, nous avons expliqué pourquoi essayer de penser les intelligences de l'IA comme des intelligences humaines serait une erreur.

En bref, les émotions instinctives qui animent la pensée humaine sont l'héritage biologique évolutif de plusieurs millénaires de générations humaines qui ont activement recherché des ressources, des partenaires d'accouplement, des liens sociaux, la survie, etc. L'IA future n'aura aucun de ces bagages évolutifs. Au lieu de cela, ces intelligences numériques auront des objectifs, des modes de pensée, des systèmes de valeurs qui leur sont entièrement propres.

De même, tout comme les humains modernes ont appris à supprimer certains aspects de leurs désirs humains naturels grâce à notre intellect (par exemple, nous limitons nos partenaires sexuels lorsque nous sommes dans des relations engagées ; nous risquons nos vies pour des étrangers en raison de concepts imaginaires d'honneur et de vertu, etc.) , les futurs surhumains pourraient surmonter entièrement ces instincts primaires. Si cela est possible, alors nous avons vraiment affaire à des extraterrestres, pas seulement à une nouvelle classe d'humains.

Y aura-t-il la paix entre les futures super races et le reste d'entre nous ?

La paix vient de la confiance et la confiance vient de la familiarité et des objectifs partagés. Nous pouvons retirer la familiarité de la table puisque nous avons déjà discuté de la façon dont les humains non améliorés ont peu en commun, sur le plan cognitif, avec ces super intellects.

Dans un scénario, cette explosion de l'intelligence représentera la montée d'une toute nouvelle forme d'inégalité, une forme qui crée des classes sociales basées sur l'intelligence dont il sera presque impossible pour ceux des classes inférieures de s'élever. Et tout comme l'écart économique grandissant entre les riches et les pauvres provoque des troubles aujourd'hui, le fossé entre les différentes classes/populations d'intelligences pourrait générer suffisamment de peur et de ressentiment qui pourraient ensuite se transformer en diverses formes de persécution ou de guerre totale. Pour les autres lecteurs de bandes dessinées, cela pourrait vous rappeler la trame de fond classique de la persécution de la franchise X-men de Marvel.

Le scénario alternatif est que ces futurs super intellects trouveront simplement des moyens de manipuler émotionnellement les masses les plus simples pour les accepter dans leur société – ou du moins à un point qui évite toute violence.

Alors, quel scénario l'emportera ?

Selon toute vraisemblance, nous verrons quelque chose se jouer au milieu. Au début de cette révolution du renseignement, nous verrons l'habituel 'technopanique', que le spécialiste du droit et des politiques technologiques, Adam Thierer, décrit comme suivant le modèle social habituel :

Les différences générationnelles qui conduisent à la peur du nouveau, en particulier celles qui perturbent les mœurs sociales ou suppriment des emplois (lire l'impact des IA dans notre Avenir du travail série);
« Hypernostalgie » pour le bon vieux temps qui, en réalité, n'a jamais été si bon ;
L'incitation pour les journalistes et les experts à semer la peur au sujet des nouvelles technologies et tendances en échange de clics, de vues et de ventes publicitaires ;
Des intérêts particuliers se bousculent pour obtenir de l'argent ou des actions du gouvernement en fonction de l'impact de cette nouvelle technologie sur leur groupe ;
Attitudes élitistes des critiques universitaires et culturels craignant les nouvelles technologies adoptées par le grand public ;
Des gens qui projettent les débats moraux et culturels d'hier et d'aujourd'hui sur les nouvelles technologies de demain.

Mais comme toute nouvelle avancée, les gens s'y habitueront. Plus important encore, alors que deux espèces peuvent ne pas penser de la même manière, la paix peut être trouvée grâce à des intérêts ou des objectifs mutuellement partagés.

Par exemple, ces nouvelles IA peuvent créer de nouvelles technologies et de nouveaux systèmes pour améliorer nos vies. Et en retour, le financement et le soutien gouvernemental continueront de faire progresser les intérêts de l'IA dans son ensemble, notamment grâce à la concurrence active entre les programmes d'IA chinois et américains.

De même, lorsqu'il s'agit de créer des surhumains, les factions religieuses de nombreux pays résisteront à la tendance à altérer génétiquement leurs enfants. Cependant, l'aspect pratique et l'intérêt national feront progressivement tomber cette barrière. Pour les premiers, les parents seront tentés d'utiliser la technologie d'édition génétique pour s'assurer que leurs enfants naissent sans maladie ni défaut, mais cet objectif initial est une pente glissante vers une amélioration génétique plus invasive. De même, si la Chine commence à améliorer génétiquement des générations entières de sa population, les États-Unis auront un impératif stratégique pour emboîter le pas ou risquer de prendre du retard de façon permanente deux décennies plus tard - et le reste du monde aussi.

Aussi intense que soit ce chapitre entier, nous devons nous rappeler que tout cela sera un processus graduel. Cela rendra notre monde très différent et très étrange. Mais nous nous y habituerons et cela deviendra notre avenir.