Admettons que les chercheurs en informatique parviennent à développer des machines “intelligentes” capables de surpasser l’être humain en toute chose. Dès lors, l’ensemble du travail serait probablement assuré par des systèmes automatisés tentaculaires à l’organisation rigoureuse, lesquels rendraient superflu tout effort humain. En ce cas, de deux choses l’une : ou bien on laisse ces machines entièrement maîtresses de leurs décisions, libres de toute supervision par l’homme, ou bien c’est l’hypothèse du contrôle humain qui prévaut.

Face à la perspective d’unités laissées entièrement maîtresses d’elles-mêmes, dans la mesure où il est exclu d’en anticiper le comportement, nous nous garderons de toute spéculation sur un dénouement possible. Reste que dès lors, il convient de le souligner, le destin de l’humanité tomberait entre leurs mains. L’argument selon lequel jamais le genre humain n’aura la naïveté de s’en remettre totalement aux machines est recevable. Notre propos, toutefois, n’est pas davantage un scénario où l’homme investirait délibérément des pleins pouvoirs les machines, qu’un autre où celles-ci prendraient le pouvoir d’autorité. De fait, ce que nous redoutons, c’est une dérive rapide du genre humain vers une telle dépendance à l’égard de celles-ci, dont, concrètement, il ne lui resterait plus d’autre choix que d’accepter en bloc leurs décisions. A mesure que la complexité de la société et des problèmes auxquels elle doit faire face iront croissants, et à mesure que les dispositifs deviendront plus “intelligents”, un nombre toujours plus grand de décisions leur seront confiées. La raison en est simple : on obtiendra de meilleurs résultats. On peut même imaginer qu’à terme, les prises de décisions nécessaires à la gestion du système atteindront un degré de complexité tel qu’elles échapperont aux capacités de l’intelligence humaine. Ce jour-là, les machines auront effectivement pris le contrôle. Les éteindre ? Il n’en sera pas question. Etant donné notre degré de dépendance, ce serait un acte suicidaire. L’option alternative consisterait à asservir les machines au contrôle de l’homme. Si, dans une telle hypothèse, l’individu lambda conserve la maîtrise de certains appareils personnels tels que sa voiture ou son ordinateur, celle des systèmes de grande envergure devient le monopole d’une élite restreinte - comme c’est le cas aujourd’hui, mais à deux détails près. Avec l’évolution des techniques, cette élite exercera sur les masses un contrôle renforcé. Et puisqu’à ce stade la main-d’œuvre humaine ne sera plus nécessaire, les masses elles-mêmes deviendront superflues. Elles ne seront plus qu’un fardeau inutile alourdissant le système. Si l’élite en question est cruelle, il se peut qu’elle décide simplement d’exterminer l’humanité. Si elle est humaine, elle peut recourir à la propagande ou à d’autres techniques psychologiques ou biologiques, pour provoquer une chute du taux de natalité telle que la masse de l’humanité finirait par s’éteindre. L’élite pourrait alors imposer ses vues au reste du monde. Ou encore, serait-elle constituée de démocrates au cœur tendre, elle pourrait fort bien s’investir du rôle du berger menant avec bienveillance le reste de l’humanité. Ses tenants veilleront à ce que les besoins matériels soient satisfaits, à ce qu’une éducation soit assurée à tout enfant dans un climat psychologique sain, à ce que chacun s’occupe avec un passe-temps hygiénique et qu’enfin, quiconque s’estime mécontent subisse un “traitement” destiné à régler son “problème”. Bien entendu, la vie sera tellement vide de sens qu’il conviendra de soumettre les individus à des manipulations biologiques ou psychologiques, soit destinées à éradiquer toute velléité de pouvoir, soit à “sublimer” cette soif de pouvoir en quelque passe-temps inoffensif. Dans une telle société, ces êtres humains manipulés vivront peut-être heureux ; pour autant, la liberté leur sera clairement étrangère. On les aura réduits au rang d’animaux domestiques.




Theodore Kaczynski, La Société industrielle et son avenir, 1994.