Utopiales 2016 : les mises en garde d’Alain Damasio sur la machine

Conférence du lundi 31 octobre 2016
A l’occasion des Utopiales 2016
Catégorie "Expérience de pensée"
Un seul intervenant : Alain Damasio

Pourquoi les récentes innovations technologiques représentent un danger pour l’homme ? Et comment poursuivre encore plus loin le développement des machines sans porter atteinte à nos compétences, qui font de nous des hommes ? Voilà en substance les questionnements qu’Alain Damasio a partagés avec son public le lundi 31 octobre 2016 aux Utopiales.

Le sujet initial de cette « expérience de pensée » (catégorie de conférences aux Utopiales) était « un monde sans machine », soit tout autre chose que ce que Damasio nous a servi. Connaissant sans doute la virulence de Damasio à l’égard des machines de troisième génération, les organisateurs ont peut-être voulu lui proposer de détailler ce qui serait alors un monde idéal selon lui, dénué de machines. Mais en réalité Damasio ne s’oppose pas à la machine, il dénonce plutôt les choix de développement technologique qui sont faits et la manière dont notre société appréhende aujourd’hui la machine.

Je vous propose donc un retour sur cette conférence, ponctuée à la fin de mon avis sur ses propos :

Non, la machine n’est pas neutre

La machine serait prétendument neutre, et seul l’usage que l’on en a marquerait de manière positive ou négative notre société. Voilà le présupposé fréquemment énoncé, contre lequel Damasio s’insurge. « Non, la machine n’est pas neutre », car son développement est lié à des programmes de recherche, eux-mêmes orientés par des choix capitalistes (on finance ce qui permettra d’avoir un retour sur investissement). Il nous est par ailleurs impossible d’échapper à l’influence des machines. Essayez de vous y soustraire, elles s’imposent tout de même à vous. Damasio nous parle alors de son expérience du téléphone portable : il n’en a pas, estimant ainsi être moins stressé et mieux profiter de son environnement immédiat (aucune sonnerie de téléphone ne l’extraira brutalement du lieu où il se promène). Pour autant Damasio fait remarquer que sa vie est tout de même influencée par le téléphone portable : s’il est en retard à une réunion, on risque de se demander s’il va venir ou non, et de lui reprocher de ne pas être en capacité de prévenir de son retard.

Trois générations de machine, la dernière représente un danger

Damasio enchaîne en rappelant les différentes générations de machines : avec la première, la machine n’est encore qu’un simple outil utilisé par l’homme (la pierre, le marteau, la brouette…) ; la seconde correspond au début de l’automatisation (la machine à vapeur, le moulin, l’horloge…), catégorie de machines que Damasio juge réparables ou adaptables par le commun des mortels. Puis viennent enfin celles de troisième génération, celles de tous les dangers selon Damasio : même s’il ne formule pas le terme, il s’agit grosso modo de celles que l'on regroupe communément par l’acronyme NTIC (Nouvelles technologies de l’information et de la communication), à savoir par exemple Internet, le smartphone et l’ordinateur.

A la différence des autres machines, explique Damasio, les NTIC filtrent notre rapport au monde, car nous sommes complètement immergés dedans, elles formatent notre environnement. Avec les NTIC, l’homme est en permanence connecté aux autres, et observe le monde à travers ce que lui indique Internet. Ceci correspond à une nouvelle évolution de l’homme (le schéma ci-dessus, évoqué par Damasio, illustre justement cette idée que l’homme, après s’être tenu droit, se recroqueville à nouveau, tout penché qu’il est sur son ordinateur). Il y a danger, car ces machines nous coupent de la réalité. Avec le big data, on pourra bientôt simuler des IA de très bonne qualité, mais il ne s’agira encore que de simulations, et non pas de machines capables de penser et d’avoir conscience d’elles-mêmes, et c’est bien là le problème. Ainsi on pourra avoir une IA qui simule le conjoint parfait, au point que nous finirons par préférer avoir des liens amoureux avec des IA qu’avec des personnes réelles : l’IA nous fera mieux l’amour, saura trouver les mots exacts pour nous procurer du réconfort, saura ne pas être étouffant lorsqu’on a besoin d’être seul… mais pour autant on sera en réalité en train d’avoir des rapports avec une simple simulation, basée sur la reproduction de comportements observés, stockés dans le big data. Exemple encore plus extrême : pourquoi ne pas simuler un jour notre défunte mère, dont l’IA sera basée sur tous les enregistrements audio et vidéo qui auront été faits sur elle toute sa vie durant ? Ne riez pas, il est déjà possible de simuler le style d’un artiste mort, en rentrant simplement dans l’IA la somme de toutes les œuvres que l’artiste a réalisées ; c’est l’exemple bien connu du style de Vincent van Vogh que l’on peut désormais apposer sur n’importe quelle photographie.

A plus court terme, Damasio se dit déjà effrayé par ce qu’il observe chez les plus jeunes : la machine devient pour eux « big mother », car les enfants n’approchent le monde qu’au travers des machines (programmes télé, tablettes numériques…). Ce n’est pas un hasard, rappelle-t-il, si les magnats de l’informatique aux Etats-Unis interdisent à leurs propres enfants de ne pas toucher aux appareils numériques avant l’âge de 10 ans. Il est reconnu que la tablette procure des sensations de plaisir (libération de dopamine) rapidement et fréquemment. L’enfant s’habitue alors à obtenir du plaisir sans attendre et aura donc plus tard des difficultés à entreprendre quelque chose qui ne porte pas ses fruits immédiatement. Nous aussi, adultes, ressentons ces sensations de plaisir rapide lorsque nous recevons des notifications des réseaux sociaux, ou bien des messages de nos amis.

Les solutions un peu… démesurées que Damasio propose

Interrogé sur les solutions à apporter pour éviter que nous perdions ainsi toute notre humanité, Damasio insiste sur le fait de s’interroger systématiquement sur l’utilité d’une machine. Chaque machine nous apporte et nous enlève quelque chose. Il cite l’exemple du GPS, qui permet certes de trouver rapidement son chemin en voiture, et de ne pas perdre du temps à étudier une carte. Mais pour autant, se fier continuellement au GPS finit par supprimer notre capacité à nous repérer dans l’espace, sans compter qu’une relation de dépendance se crée, et que le jour où le GPS tombe en panne, cela peut vite être la panique.

Damasio insiste également sur la nécessité d’étudier le fonctionnement des machines et d’apprendre à les maîtriser, les adapter. Nous devrions tous être des hackers, affirme-t-il sans ironie. Car avec les machines de troisième génération, on se laisse trop guider à l’aveugle, devenant plus l’esclave que le maître.

Dernière solution évoquée, « faire des cures sans machines ». Damasio nous raconte alors être allé voir la veille les zadistes de Notre-Dames-des-Landes. Ces gens-là, privés du confort habituel, ont gagné en capacité estime-t-il : ils ont dû réapprendre à vivre sans toutes ces machines qui nous bercent habituellement.

Mais est-il si grave de perdre des compétences ? Mon avis sur l’intervention de Damasio

Les solutions mises en avant par Damasio illustrent son niveau de radicalité à l’égard des machines. Il donne en effet l’impression que dans un monde parfait, l’homme manipule Internet tel un hacker, tout en étant capable de fabriquer des toilettes sèches. C’est là, je pense, ma divergence de point de vue avec lui : il n’est à mon avis pas grave de perdre certaines compétences. Certes, à cause de l’invention des allumettes et du briquet, je suis aujourd’hui incapable de démarrer un feu en percutant un morceau de silex contre de la pyrite. Et alors ? Est-ce grave ? Non, car à moins d’avoir envie d’être zadiste ou de vivre un jour l’apocalypse je n’aurai jamais besoin de faire du feu à la manière de nos ancêtres. On peut d’ailleurs développer la même argumentation avec le GPS : je ne vois rien d’absurde à ce qu’un jour l’homme ne sache absolument plus se repérer dans l’espace, dans le cas de figure où le développement technologique aura rendu cette compétence inutile (je suis le premier à aimer marcher et me repérer dans l’espace, mais je pense que nos loisirs et nos plaisirs se métamorphoseront au fur et à mesure de la mutation de nos compétences). J’estime que la définition de l’homme évolue parallèlement au développement des machines. Jadis l’homme était un hominidé avec sa lance, aujourd’hui il s’agit d’un être penché sur son ordinateur, et demain qui sait ? Il sera peut-être un réservoir de machines (les pacemakers de demain), ou l’entité d’une machine (exemple des romans où chaque cerveau est connecté à Internet).

Vous l’aurez compris, j’envoie pour ma part au diable l’idée de cures sans machines. Toutefois, je rejoins parfaitement Damasio sur l’importance de réfléchir aux machines que l’on choisit d’utiliser ou non. Alain Damasio, il est important de le rappeler, n’est pas contre la machine, il souligne simplement que toutes ne sont pas bonnes à prendre. Autrement dit, il manque un débat sur les machines que nous choisissons d’intégrer à notre société. La définition de l’homme évoluant en même temps que le développement des machines, il serait normal qu’on débatte de ce qui participera à notre identité de demain. Comment se fait-il qu’on introduise les NTIC dans les classes d’écoles sans en débattre ? Comment se fait-il qu’on munisse toute la population d’un smartphone sans en débattre ? La réponse est évidente : tout débat nuit à la commercialisation à brève échéance des produits qui viennent d’être inventés. Autrement dit, la logique capitaliste nous impose tout un tas de machines, sans que l’on puisse réfléchir à ce qu’elle nous apporte ou nous enlève.

Je conclurai en soulignant que mon avis est dans le fond relativement proche de celui de Damasio. A la différence de lui, j’accepte plus facilement que l’homme perde certaines compétences. Et à la différence de lui, j’accepte un certain nombre de machines qu’il refuse (le téléphone portable !). Mais je suis d'accord avec lui sur l'essentiel : lorsqu’il insiste sur l’importance de reprendre la main sur les choix de développement technologique, qui contribueront à définir ce que l’homme sera demain.

Au regard de la manière dont Alain Damasio a abordé la question des machines, je pense que les organisateurs des Utopiales auraient dû formuler la thématique de leur "expérience de pensée" autrement : plutôt que demander à l’auteur de parler d’un "monde sans machine", il aurait à mon sens fallu lui passer commande du sujet "Quelles machines dans un monde idéal ?". L’exercice aurait sans doute été beaucoup plus difficile, mais je serais curieux de savoir ce qu’il répondrait, lui qui n’est pas opposé aux machines (il trouve Google Maps fantastique !).

Cliquez ici pour accéder à la vidéo de cette conférence, filmée par La Monade sagace.

Les trois ouvrages d’Alain Damasio que j’ai lus, et que je vous recommande chaudement (non chroniqués sur mon blog) :
La Zone du dehors, 1999, roman disponible chez la Volte (lien vers la page de leur site)
La Horde du Contrevent, 2004, roman disponible chez la Volte (lien vers la page de leur site)
Aucun souvenir assez solide, 2012, recueil de nouvelles disponible chez la Volte (lien vers la page de leur site)