|
5 minutes de lecture

L'intelligence artificielle nous servira ou nous remplacera

L'intelligence artificielle nous servira ou nous remplacera L'intelligence artificielle nous servira ou nous remplacera
Source: Yongsub Noh via Artstation
La révolution de l'intelligence artificielle
Du livre
La révolution de l'intelligence artificielle
Taille de la police
A
12 24 17
A

Ce livre est un avertissement. Par ce moyen, je crie : « La singularité arrive ». La singularité (telle que décrite pour la première fois par John von Neumann en 1955) représente un moment où les machines intelligentes dépasseront largement l'intelligence humaine. C'est, par analogie, le début de la troisième guerre mondiale. La singularité a le potentiel de déclencher une explosion de l'intelligence qui pourrait faire des ravages bien plus importants que les armes nucléaires. Le message de ce livre est simple mais d'une importance capitale. Si nous ne contrôlons pas la singularité, il est probable qu'elle nous contrôle. Nos meilleurs chercheurs et futurologues en intelligence artificielle (IA) sont incapables de prédire avec précision à quoi peut ressembler un monde de postsingularité. Cependant, presque tous les chercheurs et les futuristes en IA s'accordent à dire qu'il représentera un point unique dans l'évolution humaine. Il peut s'agir de la meilleure étape de l'évolution de l'humanité ou de la dernière étape. En tant que physicien et futuriste, je pense que l'humanité sera mieux servie si nous contrôlons la singularité, c'est pourquoi j'ai écrit ce livre.

(…)

L'IA a changé le paysage culturel. Pourtant, ce changement a été si progressif que nous n'avons guère remarqué son impact majeur. Certains experts, comme Ray Kurzweil, auteur, inventeur et futuriste américain, directeur de l'ingénierie chez Google, prédisent que dans une quinzaine d'années, l'ordinateur de bureau moyen aura un esprit propre, littéralement. Cet ordinateur sera votre égal intellectuel et aura même une personnalité unique. Il sera conscient de lui-même. Au lieu de vous contenter de poser de simples questions sur les prévisions météorologiques, vous pourriez confier vos préoccupations les plus profondes à votre ordinateur et lui demander conseil. Il aura migré d'assistant personnel à ami personnel. Vous lui donnerez probablement un nom, un peu comme nous donnons un nom à nos animaux de compagnie. Vous pourrez programmer sa personnalité pour qu'elle ait des intérêts similaires aux vôtres. Il sera équipé d'un logiciel de reconnaissance faciale, et il vous reconnaîtra et vous appellera par votre nom, comme l'ordinateur HAL 9000 dans l'ouvrage d'Arthur C. Clarke, 2001 : A Space Odyssey. Les conversations entre vous et votre "ami personnel" vous sembleront tout à fait normales. Quelqu'un dans la pièce voisine qui ne connaît pas votre voix ne pourra pas dire quelle voix appartient à l'ordinateur et quelle voix vous appartient.

D'ici le milieu du XXIe siècle environ, prédit M. Kurzweil, l'intelligence des ordinateurs dépassera celle des humains, et un ordinateur de 1 000 dollars correspondra à la puissance de traitement de tous les cerveaux humains sur Terre. Bien que, historiquement, les prévisions concernant les progrès de l'IA aient eu tendance à être trop optimistes, tout indique que Kurzweil est sur la bonne voie.

De nombreuses questions philosophiques et juridiques se poseront concernant les ordinateurs dotés d'une intelligence artificielle égale ou supérieure à celle de l'esprit humain (c'est-à-dire une IA forte). Voici quelques questions que nous nous poserons après l'émergence d'une IA forte :

Les machines à IA forte (SAM) sont-elles une nouvelle forme de vie ?

Les SAM devraient-elles avoir des droits ?

Les SAM représentent-elles une menace pour l'humanité ?

Il est probable qu'au cours de la seconde moitié du XXIe siècle, les SAM concevront de nouveaux SAM encore plus puissants, avec des capacités d'IA bien au-delà de notre capacité à comprendre. Ils seront capables d'exécuter un large éventail de tâches, ce qui déplacera de nombreux emplois à tous les niveaux de la population active, des caissiers de banque aux neurochirurgiens. De nouveaux appareils médicaux utilisant l'IA aideront les aveugles à voir et les paralysés à marcher. Les amputés auront de nouveaux membres prothétiques, avec une IA branchée directement sur leur système nerveux et contrôlée par leur esprit. Le nouveau membre prothétique non seulement reproduira le membre perdu mais sera aussi plus fort, plus agile et supérieur d'une manière que nous ne pouvons pas encore imaginer. Nous implanterons des dispositifs informatiques dans nos cerveaux, élargissant ainsi l'intelligence humaine grâce à l'IA. L'humanité et les machines intelligentes commenceront à fusionner en une nouvelle espèce : les cyborgs. Cela se fera progressivement, et l'humanité croira que l'IA nous sert.

Cependant, les ordinateurs dotés d'une forte IA à la fin du XXIe siècle pourraient voir les choses différemment. Nous pourrions apparaître à ces machines à peu près de la même manière que les abeilles d'une ruche nous apparaissent aujourd'hui. Nous savons que nous avons besoin des abeilles pour polliniser les cultures, mais nous considérons toujours les abeilles comme des insectes. Nous les utilisons dans l'agriculture, et nous récoltons leur miel. Bien que les abeilles soient essentielles à notre survie, nous ne proposons pas de partager notre technologie avec elles. Si des abeilles sauvages forment une ruche près de chez nous, nous pouvons nous inquiéter et appeler un exterminateur.

Les SAM de la fin du XXIe siècle vont-ils se préoccuper de l'humanité ? Notre histoire prouve que nous n'avons pas été une espèce pacifique. Nous disposons d'armes capables de détruire toute la civilisation. Nous dilapidons et gaspillons les ressources. Nous polluons l'air, les rivières, les lacs et les océans. Nous appliquons souvent des technologies (telles que les armes nucléaires et les virus informatiques) sans en comprendre pleinement les conséquences à long terme. Les SAM de la fin du XXIe siècle vont-elles déterminer qu'il est temps d'exterminer l'humanité ou de persuader les humains de devenir des cyborgs (c'est-à-dire des humains dont le cerveau est amélioré par l'implantation d'une intelligence artificielle et dont les organes et les membres peuvent être remplacés par des machines artificiellement intelligentes) ? Les humains accepteront-ils la perspective de devenir des cyborgs ? Devenir un cyborg offre la possibilité d'atteindre une intelligence et des capacités surhumaines. Les maladies et les guerres peuvent n'être que des événements stockés dans nos banques de mémoire et ne plus constituer une menace pour les cyborgs. En tant que cyborgs, nous pouvons atteindre l'immortalité.

(…)

Cela peut sembler être un film de science-fiction de série B, mais ce n'est pas le cas. La réalité de l'IA devenant égale à celle de l'esprit humain est presque à portée de main. D'ici la fin du XXIe siècle, l'intelligence des SAM dépassera probablement celle des humains. La preuve qu'ils peuvent devenir malveillants existe maintenant, ce dont je parle plus loin dans le livre. Tenter de contrôler un ordinateur doté d'une forte IA qui dépasse de beaucoup l'intelligence humaine actuelle peut être une course folle.

Imaginez que vous êtes un grand maître du jeu d'échecs et que vous apprenez à un enfant de dix ans à jouer aux échecs. Quelles sont les chances de ce dernier de gagner la partie ? Nous pourrions nous retrouver dans ce scénario à la fin de ce siècle. Un ordinateur doté d'une forte IA trouvera un moyen de survivre. Il convaincra peut-être les humains qu'il est dans leur intérêt de devenir des cyborgs. Sa logique et son pouvoir de persuasion peuvent être non seulement convaincants, mais aussi irrésistibles.

L'intelligence artificielle est une réalité embryonnaire aujourd'hui, mais elle s'améliore de façon exponentielle. D'ici la fin du XXIe siècle, nous n'aurons qu'une seule question concernant l'intelligence artificielle : Va-t-elle nous servir ou nous remplacer ?

Les commentaires sont de courts ajouts utilisés pour fournir une observation ou un retour. Ils sont intentionnellement limités en taille et en format.


Vous devez renseigner ce champ

Votre exemple


Vous devez renseigner ce champ
Articles similaires
Catégorie:
Technologie & Science
La meilleure façon de prédire votre avenir est de le créer
La meilleure façon de prédire votre avenir est de le créer
GIF
Emil Lindén via Giphy

Nous sommes toujours les maîtres de notre destin. La pensée rationnelle, même assistée par n'importe quel ordinateur électronique imaginable, ne peut pas prédire l'avenir. Tout ce qu'elle peut faire, c'est tracer l'espace de probabilité tel qu'il apparaît aujourd'hui et qui sera différent demain lorsque l'un de l'infinité d'états possibles se sera matérialisé. Les inventions technologiques et sociales élargissent sans cesse cet espace de probabilité ; il est aujourd'hui incomparablement plus grand qu'avant la révolution industrielle - pour le bien ou pour le mal.

L'avenir ne peut être prédit, mais les futurs peuvent être inventés. 

C'est la capacité de l'homme à inventer qui a fait de la société humaine ce qu'elle est. Les processus mentaux des inventions sont encore mystérieux. Ils sont rationnels mais pas logiques, c'est-à-dire non déductifs.

| Approuvé
Catégorie:
Technologie & Science
La distraction numérique occupe l'esprit mais le nourrit peu La distraction numérique occupe l'esprit mais le nourrit peu
Auteur inconnu via Pinterest

Les médias sociaux ont donné à chacun un mégaphone virtuel pour diffuser chaque pensée, ainsi que les moyens de filtrer toute opinion contraire [...] Il en résulte un sentiment rampant d'isolement et de vide, qui pousse les gens à glisser, taper et cliquer d'autant plus. La distraction numérique occupe l'esprit, mais ne le nourrit pas, et encore moins la profondeur des sentiments, qui nécessite la résonance de la voix d'autrui dans notre corps et dans notre esprit.

| Approuvé
Catégorie:
Technologie & Science
2 minutes de lecture

Si les physiciens se sont disputés, ce n'est rien comparé aux biologistes, qui se sont penchés sur le vieux débat ...

| Approuvé
Catégories:
Motivation
Vous pouvez être la personne qui découvre quelque chose de vraiment important pour tous les autres dans le monde, mais vous ne pouvez jamais le découvrir si vous vous cachez et ne faites que des choses qui sont sans danger
Vous pouvez être la personne qui découvre quelque chose de vraiment important pour tous les autres dans le monde, mais vous ne pouvez jamais le découvrir si vous vous cachez et ne faites que des choses qui sont sans danger
GIF
humanoidhistory via Tumblr

Chris Hadfield, rassurant un enfant de cinq ans qui s'inquiétait pour le satellite Voyager, une sonde spatiale lancée par la NASA en 1977, l'objet artificiel le plus éloigné de la Terre encore en activité après 42 ans.

Voyager est si heureux, car c'est le satellite le plus courageux de tous. Il est allé le plus loin. Et il n'est pas seul, parce qu'il nous parle. Il téléphone à la maison. Et il nous parle de toutes les choses merveilleuses qu'il voit. ...Il y a tout un univers à explorer, et il quitte notre système solaire en ce moment même. C'est très courageux et très chanceux de faire ce qu'il fait, donc il ne va pas se perdre. Il a voyagé plus loin que tout ce que nous avons construit auparavant. Il nous montre en fait le chemin. …

Il aurait peut-être été plus sûr pour lui de rester chez lui, et de rester à l'intérieur d'un bâtiment, mais il aurait alors été triste à jamais, car il n'aurait jamais atteint son but. Elle n'aurait jamais découvert des choses. C'est une merveilleuse histoire de grande découverte et de succès, et cela n'aurait pas pu arriver si Voyager n'avait pas été courageux...

Ce n'est pas vraiment le fait que tout a toujours un début et une fin, c'est ce qui se passe au milieu qui compte. Que fais-tu de ton vivant ? Que fais-tu pendant que tu ris ? Et je pense que nous faisons exactement ce qui rend Voyager joyeux et aussi heureux que possible.

Pensez au fait que tu es un peu comme Voyager. En ce sens que tu vas aller voir le monde, et que tu vas appeler ta mère au téléphone pour lui parler des choses merveilleuses que tu vois. ... Tu ne voudrais pas passer toute ta vie à te cacher sous ton lit et à ne jamais rien voir de toute ta vie, tu veux pouvoir faire ce qui te rend heureux et joyeux et apprendre des choses à découvrir. Tu es peut-être la personne qui découvrira quelque chose de vraiment important pour tous les autres sur la planète, mais tu ne pourras jamais le découvrir si tu te caches et ne fais que des choses qui sont sûres. Alors, penses à toi un peu comme Voyager. Qu'est-ce qui te fait rire ? Ce n'est pas seulement le fait de rester, de se cacher sous ton lit en toute sécurité ...

| Approuvé
Catégorie:
Technologie & Science
La magie n'est que de la science que nous ne comprenons pas encore La magie n'est que de la science que nous ne comprenons pas encore
data-node2 via Tumblr

La magie n'est que de la science que nous ne comprenons pas encore.

| Approuvé
Row:Column:
×
Row:Column:
×