|
5 minutes de lecture

L'intelligence artificielle nous servira ou nous remplacera

L'intelligence artificielle nous servira ou nous remplacera L'intelligence artificielle nous servira ou nous remplacera
Source: Yongsub Noh via Artstation
La révolution de l'intelligence artificielle
Du livre
La révolution de l'intelligence artificielle
Taille de la police
A
12 24 17
A

Ce livre est un avertissement. Par ce moyen, je crie : « La singularité arrive ». La singularité (telle que décrite pour la première fois par John von Neumann en 1955) représente un moment où les machines intelligentes dépasseront largement l'intelligence humaine. C'est, par analogie, le début de la troisième guerre mondiale. La singularité a le potentiel de déclencher une explosion de l'intelligence qui pourrait faire des ravages bien plus importants que les armes nucléaires. Le message de ce livre est simple mais d'une importance capitale. Si nous ne contrôlons pas la singularité, il est probable qu'elle nous contrôle. Nos meilleurs chercheurs et futurologues en intelligence artificielle (IA) sont incapables de prédire avec précision à quoi peut ressembler un monde de postsingularité. Cependant, presque tous les chercheurs et les futuristes en IA s'accordent à dire qu'il représentera un point unique dans l'évolution humaine. Il peut s'agir de la meilleure étape de l'évolution de l'humanité ou de la dernière étape. En tant que physicien et futuriste, je pense que l'humanité sera mieux servie si nous contrôlons la singularité, c'est pourquoi j'ai écrit ce livre.

(…)

L'IA a changé le paysage culturel. Pourtant, ce changement a été si progressif que nous n'avons guère remarqué son impact majeur. Certains experts, comme Ray Kurzweil, auteur, inventeur et futuriste américain, directeur de l'ingénierie chez Google, prédisent que dans une quinzaine d'années, l'ordinateur de bureau moyen aura un esprit propre, littéralement. Cet ordinateur sera votre égal intellectuel et aura même une personnalité unique. Il sera conscient de lui-même. Au lieu de vous contenter de poser de simples questions sur les prévisions météorologiques, vous pourriez confier vos préoccupations les plus profondes à votre ordinateur et lui demander conseil. Il aura migré d'assistant personnel à ami personnel. Vous lui donnerez probablement un nom, un peu comme nous donnons un nom à nos animaux de compagnie. Vous pourrez programmer sa personnalité pour qu'elle ait des intérêts similaires aux vôtres. Il sera équipé d'un logiciel de reconnaissance faciale, et il vous reconnaîtra et vous appellera par votre nom, comme l'ordinateur HAL 9000 dans l'ouvrage d'Arthur C. Clarke, 2001 : A Space Odyssey. Les conversations entre vous et votre "ami personnel" vous sembleront tout à fait normales. Quelqu'un dans la pièce voisine qui ne connaît pas votre voix ne pourra pas dire quelle voix appartient à l'ordinateur et quelle voix vous appartient.

D'ici le milieu du XXIe siècle environ, prédit M. Kurzweil, l'intelligence des ordinateurs dépassera celle des humains, et un ordinateur de 1 000 dollars correspondra à la puissance de traitement de tous les cerveaux humains sur Terre. Bien que, historiquement, les prévisions concernant les progrès de l'IA aient eu tendance à être trop optimistes, tout indique que Kurzweil est sur la bonne voie.

De nombreuses questions philosophiques et juridiques se poseront concernant les ordinateurs dotés d'une intelligence artificielle égale ou supérieure à celle de l'esprit humain (c'est-à-dire une IA forte). Voici quelques questions que nous nous poserons après l'émergence d'une IA forte :

Les machines à IA forte (SAM) sont-elles une nouvelle forme de vie ?

Les SAM devraient-elles avoir des droits ?

Les SAM représentent-elles une menace pour l'humanité ?

Il est probable qu'au cours de la seconde moitié du XXIe siècle, les SAM concevront de nouveaux SAM encore plus puissants, avec des capacités d'IA bien au-delà de notre capacité à comprendre. Ils seront capables d'exécuter un large éventail de tâches, ce qui déplacera de nombreux emplois à tous les niveaux de la population active, des caissiers de banque aux neurochirurgiens. De nouveaux appareils médicaux utilisant l'IA aideront les aveugles à voir et les paralysés à marcher. Les amputés auront de nouveaux membres prothétiques, avec une IA branchée directement sur leur système nerveux et contrôlée par leur esprit. Le nouveau membre prothétique non seulement reproduira le membre perdu mais sera aussi plus fort, plus agile et supérieur d'une manière que nous ne pouvons pas encore imaginer. Nous implanterons des dispositifs informatiques dans nos cerveaux, élargissant ainsi l'intelligence humaine grâce à l'IA. L'humanité et les machines intelligentes commenceront à fusionner en une nouvelle espèce : les cyborgs. Cela se fera progressivement, et l'humanité croira que l'IA nous sert.

Cependant, les ordinateurs dotés d'une forte IA à la fin du XXIe siècle pourraient voir les choses différemment. Nous pourrions apparaître à ces machines à peu près de la même manière que les abeilles d'une ruche nous apparaissent aujourd'hui. Nous savons que nous avons besoin des abeilles pour polliniser les cultures, mais nous considérons toujours les abeilles comme des insectes. Nous les utilisons dans l'agriculture, et nous récoltons leur miel. Bien que les abeilles soient essentielles à notre survie, nous ne proposons pas de partager notre technologie avec elles. Si des abeilles sauvages forment une ruche près de chez nous, nous pouvons nous inquiéter et appeler un exterminateur.

Les SAM de la fin du XXIe siècle vont-ils se préoccuper de l'humanité ? Notre histoire prouve que nous n'avons pas été une espèce pacifique. Nous disposons d'armes capables de détruire toute la civilisation. Nous dilapidons et gaspillons les ressources. Nous polluons l'air, les rivières, les lacs et les océans. Nous appliquons souvent des technologies (telles que les armes nucléaires et les virus informatiques) sans en comprendre pleinement les conséquences à long terme. Les SAM de la fin du XXIe siècle vont-elles déterminer qu'il est temps d'exterminer l'humanité ou de persuader les humains de devenir des cyborgs (c'est-à-dire des humains dont le cerveau est amélioré par l'implantation d'une intelligence artificielle et dont les organes et les membres peuvent être remplacés par des machines artificiellement intelligentes) ? Les humains accepteront-ils la perspective de devenir des cyborgs ? Devenir un cyborg offre la possibilité d'atteindre une intelligence et des capacités surhumaines. Les maladies et les guerres peuvent n'être que des événements stockés dans nos banques de mémoire et ne plus constituer une menace pour les cyborgs. En tant que cyborgs, nous pouvons atteindre l'immortalité.

(…)

Cela peut sembler être un film de science-fiction de série B, mais ce n'est pas le cas. La réalité de l'IA devenant égale à celle de l'esprit humain est presque à portée de main. D'ici la fin du XXIe siècle, l'intelligence des SAM dépassera probablement celle des humains. La preuve qu'ils peuvent devenir malveillants existe maintenant, ce dont je parle plus loin dans le livre. Tenter de contrôler un ordinateur doté d'une forte IA qui dépasse de beaucoup l'intelligence humaine actuelle peut être une course folle.

Imaginez que vous êtes un grand maître du jeu d'échecs et que vous apprenez à un enfant de dix ans à jouer aux échecs. Quelles sont les chances de ce dernier de gagner la partie ? Nous pourrions nous retrouver dans ce scénario à la fin de ce siècle. Un ordinateur doté d'une forte IA trouvera un moyen de survivre. Il convaincra peut-être les humains qu'il est dans leur intérêt de devenir des cyborgs. Sa logique et son pouvoir de persuasion peuvent être non seulement convaincants, mais aussi irrésistibles.

L'intelligence artificielle est une réalité embryonnaire aujourd'hui, mais elle s'améliore de façon exponentielle. D'ici la fin du XXIe siècle, nous n'aurons qu'une seule question concernant l'intelligence artificielle : Va-t-elle nous servir ou nous remplacer ?

Les commentaires sont de courts ajouts utilisés pour fournir une observation ou un retour. Ils sont intentionnellement limités en taille et en format.


Vous devez renseigner ce champ

Votre exemple


Vous devez renseigner ce champ
Articles similaires
Catégories:
Motivation
Vous pouvez être la personne qui découvre quelque chose de vraiment important pour tous les autres dans le monde, mais vous ne pouvez jamais le découvrir si vous vous cachez et ne faites que des choses qui sont sans danger
Vous pouvez être la personne qui découvre quelque chose de vraiment important pour tous les autres dans le monde, mais vous ne pouvez jamais le découvrir si vous vous cachez et ne faites que des choses qui sont sans danger
GIF
humanoidhistory via Tumblr

Chris Hadfield, rassurant un enfant de cinq ans qui s'inquiétait pour le satellite Voyager, une sonde spatiale lancée par la NASA en 1977, l'objet artificiel le plus éloigné de la Terre encore en activité après 42 ans.

Voyager est si heureux, car c'est le satellite le plus courageux de tous. Il est allé le plus loin. Et il n'est pas seul, parce qu'il nous parle. Il téléphone à la maison. Et il nous parle de toutes les choses merveilleuses qu'il voit. ...Il y a tout un univers à explorer, et il quitte notre système solaire en ce moment même. C'est très courageux et très chanceux de faire ce qu'il fait, donc il ne va pas se perdre. Il a voyagé plus loin que tout ce que nous avons construit auparavant. Il nous montre en fait le chemin. …

Il aurait peut-être été plus sûr pour lui de rester chez lui, et de rester à l'intérieur d'un bâtiment, mais il aurait alors été triste à jamais, car il n'aurait jamais atteint son but. Elle n'aurait jamais découvert des choses. C'est une merveilleuse histoire de grande découverte et de succès, et cela n'aurait pas pu arriver si Voyager n'avait pas été courageux ...

| Approuvé
Catégorie:
Technologie & Science
La magie n'est que de la science que nous ne comprenons pas encore La magie n'est que de la science que nous ne comprenons pas encore
data-node2 via Tumblr

La magie n'est que de la science que nous ne comprenons pas encore.

| Approuvé
Catégorie:
Technologie & Science
Les données sont le nouveau pétrole
Les données sont le nouveau pétrole
GIF
data-node2 via Tumblr

Les données sont le nouveau pétrole. Il est précieux, mais s'il n'est pas raffiné, il ne peut pas vraiment être utilisé. Il doit être transformé en gaz, en plastique, en produits chimiques, etc. pour créer une entité de valeur qui stimule une activité rentable ; les données doivent donc être décomposées, analysées pour qu'elles aient de la valeur.

| Approuvé
Catégorie:
Technologie & Science

Avec tous les progrès de l'apprentissage machine (deep learning), la vérité reste que nous sommes encore loin de créer des machines d'IA qui ressentent des émotions. Pouvez-vous imaginer l'exaltation que procure le fait de battre un champion du monde au jeu auquel vous avez consacré toute votre vie ? C'est ce qu'a fait AlphaGo, mais il n'a pris aucun plaisir à son succès, n'a ressenti aucun bonheur à gagner et n'a eu aucune envie de serrer un être cher dans ses bras après sa victoire.

| Approuvé
Catégorie:
Technologie & Science
À l'avenir, les humains seront capables de transférer leur esprit hors de leur corps.
À l'avenir, les humains seront capables de transférer leur esprit hors de leur corps.
GIF
dropneurons via Tumblr

... l'évolution a trouvé un moyen de contourner les limites de calcul des circuits neuronaux. En fin de compte, le calcul effectué sur des circuits neuronaux de mammifères extrêmement lents sera porté vers un équivalent électronique (et photonique) beaucoup plus polyvalent et plus rapide, ce qui mènera éventuellement à l'ingénierie inverse du cerveau humain en le balayant, en le cartographiant et en téléchargeant finalement notre esprit dans un ordinateur.

Cela signifie que votre esprit (logiciel) ne serait plus dépendant de votre corps (matériel).

De plus, votre fichier mental évolutif ne sera pas bloqué par les circuits du cerveau, ce qui le rendra capable d'être transféré d'un support à un autre, tout comme les fichiers sont transférés d'un ordinateur à un autre. Alors notre immortalité sera d'être suffisamment prudent pour faire des sauvegardes fréquentes. Si nous sommes négligents à ce sujet, nous devrons charger une vieille copie de sauvegarde et être condamnés à répéter notre passé récent.

| Approuvé
Row:Column:
×
Row:Column:
×