Les utopies sont déprimantes

Nous sommes toujours les maîtres de notre destin. La pensée rationnelle, même assistée par n'importe quel ordinateur électronique imaginable, ne peut pas prédire l'avenir. Tout ce qu'elle peut faire, c'est tracer l'espace de probabilité tel qu'il apparaît aujourd'hui et qui sera différent demain lorsque l'un de l'infinité d'états possibles se sera matérialisé. Les inventions technologiques et sociales élargissent sans cesse cet espace de probabilité ; il est aujourd'hui incomparablement plus grand qu'avant la révolution industrielle - pour le bien ou pour le mal.

L'avenir ne peut être prédit, mais les futurs peuvent être inventés. 

C'est la capacité de l'homme à inventer qui a fait de la société humaine ce qu'elle est. Les processus mentaux des inventions sont encore mystérieux. Ils sont rationnels mais pas logiques, c'est-à-dire non déductifs.

Une machine ultra-intelligente est une machine qui peut dépasser de loin toutes les activités intellectuelles de tout homme, aussi intelligent soit-il. Comme la conception de machines fait partie de ces activités intellectuelles, une machine ultra-intelligente pourrait concevoir des machines encore meilleures ; il y aurait alors incontestablement une « explosion de l'intelligence », et l'intelligence de l'homme serait laissée loin derrière. Ainsi, la première machine ultra-intelligente est la dernière invention que l'homme doit réaliser, à condition que la machine soit suffisamment docile pour nous dire comment la garder sous contrôle.

Les médias sociaux ont donné à chacun un mégaphone virtuel pour diffuser chaque pensée, ainsi que les moyens de filtrer toute opinion contraire [...] Il en résulte un sentiment rampant d'isolement et de vide, qui pousse les gens à glisser, taper et cliquer d'autant plus. La distraction numérique occupe l'esprit, mais ne le nourrit pas, et encore moins la profondeur des sentiments, qui nécessite la résonance de la voix d'autrui dans notre corps et dans notre esprit.

Presque toujours, les hommes qui réalisent ces inventions fondamentales d'un nouveau paradigme ont été soit très jeunes, soit très novices dans le domaine dont ils changent le paradigme. Et il n'est peut-être pas nécessaire d'expliciter ce point, car il s'agit évidemment d'hommes qui, étant peu attachés par une pratique préalable aux règles traditionnelles de la science normale, sont particulièrement susceptibles de voir que ces règles ne définissent plus un jeu jouable et de concevoir un autre ensemble qui puisse les remplacer.