|
5 minutes de lecture

L'intelligence artificielle nous servira ou nous remplacera

L'intelligence artificielle nous servira ou nous remplacera L'intelligence artificielle nous servira ou nous remplacera
Source : Yongsub Noh via Artstation
La révolution de l'intelligence artificielle
Du livre
La révolution de l'intelligence artificielle
Taille de la police
A
12 24 17
A
#Futur
#Intelligence artificielle (IA)

Ce livre est un avertissement. Par ce moyen, je crie : « La singularité arrive ». La singularité (telle que décrite pour la première fois par John von Neumann en 1955) représente un moment où les machines intelligentes dépasseront largement l'intelligence humaine. C'est, par analogie, le début de la troisième guerre mondiale. La singularité a le potentiel de déclencher une explosion de l'intelligence qui pourrait faire des ravages bien plus importants que les armes nucléaires. Le message de ce livre est simple mais d'une importance capitale. Si nous ne contrôlons pas la singularité, il est probable qu'elle nous contrôle. Nos meilleurs chercheurs et futurologues en intelligence artificielle (IA) sont incapables de prédire avec précision à quoi peut ressembler un monde de postsingularité. Cependant, presque tous les chercheurs et les futuristes en IA s'accordent à dire qu'il représentera un point unique dans l'évolution humaine. Il peut s'agir de la meilleure étape de l'évolution de l'humanité ou de la dernière étape. En tant que physicien et futuriste, je pense que l'humanité sera mieux servie si nous contrôlons la singularité, c'est pourquoi j'ai écrit ce livre.

(…)

L'IA a changé le paysage culturel. Pourtant, ce changement a été si progressif que nous n'avons guère remarqué son impact majeur. Certains experts, comme Ray Kurzweil, auteur, inventeur et futuriste américain, directeur de l'ingénierie chez Google, prédisent que dans une quinzaine d'années, l'ordinateur de bureau moyen aura un esprit propre, littéralement. Cet ordinateur sera votre égal intellectuel et aura même une personnalité unique. Il sera conscient de lui-même. Au lieu de vous contenter de poser de simples questions sur les prévisions météorologiques, vous pourriez confier vos préoccupations les plus profondes à votre ordinateur et lui demander conseil. Il aura migré d'assistant personnel à ami personnel. Vous lui donnerez probablement un nom, un peu comme nous donnons un nom à nos animaux de compagnie. Vous pourrez programmer sa personnalité pour qu'elle ait des intérêts similaires aux vôtres. Il sera équipé d'un logiciel de reconnaissance faciale, et il vous reconnaîtra et vous appellera par votre nom, comme l'ordinateur HAL 9000 dans l'ouvrage d'Arthur C. Clarke, 2001 : A Space Odyssey. Les conversations entre vous et votre "ami personnel" vous sembleront tout à fait normales. Quelqu'un dans la pièce voisine qui ne connaît pas votre voix ne pourra pas dire quelle voix appartient à l'ordinateur et quelle voix vous appartient.

D'ici le milieu du XXIe siècle environ, prédit M. Kurzweil, l'intelligence des ordinateurs dépassera celle des humains, et un ordinateur de 1 000 dollars correspondra à la puissance de traitement de tous les cerveaux humains sur Terre. Bien que, historiquement, les prévisions concernant les progrès de l'IA aient eu tendance à être trop optimistes, tout indique que Kurzweil est sur la bonne voie.

De nombreuses questions philosophiques et juridiques se poseront concernant les ordinateurs dotés d'une intelligence artificielle égale ou supérieure à celle de l'esprit humain (c'est-à-dire une IA forte). Voici quelques questions que nous nous poserons après l'émergence d'une IA forte :

Les machines à IA forte (SAM) sont-elles une nouvelle forme de vie ?

Les SAM devraient-elles avoir des droits ?

Les SAM représentent-elles une menace pour l'humanité ?

Il est probable qu'au cours de la seconde moitié du XXIe siècle, les SAM concevront de nouveaux SAM encore plus puissants, avec des capacités d'IA bien au-delà de notre capacité à comprendre. Ils seront capables d'exécuter un large éventail de tâches, ce qui déplacera de nombreux emplois à tous les niveaux de la population active, des caissiers de banque aux neurochirurgiens. De nouveaux appareils médicaux utilisant l'IA aideront les aveugles à voir et les paralysés à marcher. Les amputés auront de nouveaux membres prothétiques, avec une IA branchée directement sur leur système nerveux et contrôlée par leur esprit. Le nouveau membre prothétique non seulement reproduira le membre perdu mais sera aussi plus fort, plus agile et supérieur d'une manière que nous ne pouvons pas encore imaginer. Nous implanterons des dispositifs informatiques dans nos cerveaux, élargissant ainsi l'intelligence humaine grâce à l'IA. L'humanité et les machines intelligentes commenceront à fusionner en une nouvelle espèce : les cyborgs. Cela se fera progressivement, et l'humanité croira que l'IA nous sert.

Cependant, les ordinateurs dotés d'une forte IA à la fin du XXIe siècle pourraient voir les choses différemment. Nous pourrions apparaître à ces machines à peu près de la même manière que les abeilles d'une ruche nous apparaissent aujourd'hui. Nous savons que nous avons besoin des abeilles pour polliniser les cultures, mais nous considérons toujours les abeilles comme des insectes. Nous les utilisons dans l'agriculture, et nous récoltons leur miel. Bien que les abeilles soient essentielles à notre survie, nous ne proposons pas de partager notre technologie avec elles. Si des abeilles sauvages forment une ruche près de chez nous, nous pouvons nous inquiéter et appeler un exterminateur.

Les SAM de la fin du XXIe siècle vont-ils se préoccuper de l'humanité ? Notre histoire prouve que nous n'avons pas été une espèce pacifique. Nous disposons d'armes capables de détruire toute la civilisation. Nous dilapidons et gaspillons les ressources. Nous polluons l'air, les rivières, les lacs et les océans. Nous appliquons souvent des technologies (telles que les armes nucléaires et les virus informatiques) sans en comprendre pleinement les conséquences à long terme. Les SAM de la fin du XXIe siècle vont-elles déterminer qu'il est temps d'exterminer l'humanité ou de persuader les humains de devenir des cyborgs (c'est-à-dire des humains dont le cerveau est amélioré par l'implantation d'une intelligence artificielle et dont les organes et les membres peuvent être remplacés par des machines artificiellement intelligentes) ? Les humains accepteront-ils la perspective de devenir des cyborgs ? Devenir un cyborg offre la possibilité d'atteindre une intelligence et des capacités surhumaines. Les maladies et les guerres peuvent n'être que des événements stockés dans nos banques de mémoire et ne plus constituer une menace pour les cyborgs. En tant que cyborgs, nous pouvons atteindre l'immortalité.

(…)

Cela peut sembler être un film de science-fiction de série B, mais ce n'est pas le cas. La réalité de l'IA devenant égale à celle de l'esprit humain est presque à portée de main. D'ici la fin du XXIe siècle, l'intelligence des SAM dépassera probablement celle des humains. La preuve qu'ils peuvent devenir malveillants existe maintenant, ce dont je parle plus loin dans le livre. Tenter de contrôler un ordinateur doté d'une forte IA qui dépasse de beaucoup l'intelligence humaine actuelle peut être une course folle.

Imaginez que vous êtes un grand maître du jeu d'échecs et que vous apprenez à un enfant de dix ans à jouer aux échecs. Quelles sont les chances de ce dernier de gagner la partie ? Nous pourrions nous retrouver dans ce scénario à la fin de ce siècle. Un ordinateur doté d'une forte IA trouvera un moyen de survivre. Il convaincra peut-être les humains qu'il est dans leur intérêt de devenir des cyborgs. Sa logique et son pouvoir de persuasion peuvent être non seulement convaincants, mais aussi irrésistibles.

L'intelligence artificielle est une réalité embryonnaire aujourd'hui, mais elle s'améliore de façon exponentielle. D'ici la fin du XXIe siècle, nous n'aurons qu'une seule question concernant l'intelligence artificielle : Va-t-elle nous servir ou nous remplacer ?

Exemple

+ 15 points
Connaissez-vous un exemple, un fait, une preuve, une expérience personnelle qui étayerait cette théorie ?


Vous devez renseigner ce champ

Interprétation

+ 15 points
Pensez-vous que cette entrée peut avoir une autre lecture, ou que vous pouvez apporter une clarification au texte de l'auteur ?


Vous devez renseigner ce champ

Commentaire

+ 5 points
Voudriez-vous partager une opinion sur cet
article?


Vous devez renseigner ce champ
Articles similaires
Catégorie:
Technologie & Science
La meilleure façon de prédire votre avenir est de le créer
La meilleure façon de prédire votre avenir est de le créer
GIF
Emil Lindén via Giphy

Nous sommes toujours les maîtres de notre destin. La pensée rationnelle, même assistée par n'importe quel ordinateur électronique imaginable, ne peut pas prédire l'avenir. Tout ce qu'elle peut faire, c'est tracer l'espace de probabilité tel qu'il apparaît aujourd'hui et qui sera différent demain lorsque l'un de l'infinité d'états possibles se sera matérialisé. Les inventions technologiques et sociales élargissent sans cesse cet espace de probabilité ; il est aujourd'hui incomparablement plus grand qu'avant la révolution industrielle - pour le bien ou pour le mal.

L'avenir ne peut être prédit, mais les futurs peuvent être inventés. 

C'est la capacité de l'homme à inventer qui a fait de la société humaine ce qu'elle est. Les processus mentaux des inventions sont encore mystérieux. Ils sont rationnels mais pas logiques, c'est-à-dire non déductifs.

| Approuvé
Catégorie:
Technologie & Science
[explosion de l'intelligence] La première machine ultra-intelligente est la dernière invention que l'homme doit réaliser [explosion de l'intelligence] La première machine ultra-intelligente est la dernière invention que l'homme doit réaliser
Davison Carvalho via Artstation

Une machine ultra-intelligente est une machine qui peut dépasser de loin toutes les activités intellectuelles de tout homme, aussi intelligent soit-il. Comme la conception de machines fait partie de ces activités intellectuelles, une machine ultra-intelligente pourrait concevoir des machines encore meilleures ; il y aurait alors incontestablement une « explosion de l'intelligence », et l'intelligence de l'homme serait laissée loin derrière. Ainsi, la première machine ultra-intelligente est la dernière invention que l'homme doit réaliser, à condition que la machine soit suffisamment docile pour nous dire comment la garder sous contrôle.

| Approuvé
Catégorie:
Technologie & Science
La distraction numérique occupe l'esprit mais le nourrit peu La distraction numérique occupe l'esprit mais le nourrit peu
Auteur inconnu via Pinterest

Les médias sociaux ont donné à chacun un mégaphone virtuel pour diffuser chaque pensée, ainsi que les moyens de filtrer toute opinion contraire [...] Il en résulte un sentiment rampant d'isolement et de vide, qui pousse les gens à glisser, taper et cliquer d'autant plus. La distraction numérique occupe l'esprit, mais ne le nourrit pas, et encore moins la profondeur des sentiments, qui nécessite la résonance de la voix d'autrui dans notre corps et dans notre esprit.

| Approuvé
Catégorie:
Technologie & Science
1 minute de lecture

Le paradoxe de Moravec est l'observation faite par les chercheurs en intelligence artificielle et en robotique que, contrairement aux hypothèses ...

| Approuvé
Catégorie:
Technologie & Science
Ceux qui amènent le changement sont ceux capables d’apporter un regard nouveau
Ceux qui amènent le changement sont ceux capables d’apporter un regard nouveau
GIF
Clayton Shonkwiler via Giphy

Presque toujours, les hommes qui réalisent ces inventions fondamentales d'un nouveau paradigme ont été soit très jeunes, soit très novices dans le domaine dont ils changent le paradigme. Et il n'est peut-être pas nécessaire d'expliciter ce point, car il s'agit évidemment d'hommes qui, étant peu attachés par une pratique préalable aux règles traditionnelles de la science normale, sont particulièrement susceptibles de voir que ces règles ne définissent plus un jeu jouable et de concevoir un autre ensemble qui puisse les remplacer.

| Approuvé
Row:Column:
×
Row:Column:
×
Row:Column:
×