04/06/2017 09:57 | Lien permanent | Commentaires (0)

Le problème tué par sa solution

001EE67D_2C7128817816546917AE57C4CE7C2014.jpgLes transhumanistes veulent répondre aux faiblesses humaines par des solutions technologiques. Mais l’intelligence artificielle apprend de la nôtre et copie nos défauts.

Comme les autres, notre époque a ses mythes et ses utopies, ses récits de grandeur et ses projets de futur. Mais sa caractéristique, c’est de rêver sur un arrière-fond scientifique. De la science-fiction nous avons fait une pratique quasi religieuse, qui commence à bouleverser notre quotidien. Prenez la croyance en l’homme augmenté. En attendant son aboutissement le plus fou – le transhumanisme – le projet d’augmentation est en marche. De plus en plus, la référence de l’humain est le «mieux que l’humain» (malgré l’absence d’idée claire sur son contenu).

Prenez, sur un autre plan, l’intelligence artificielle. Elle commence à sortir de son cocon d’obsession de geek pour transformer concrètement le monde. Elle remplace un nombre croissant de travailleurs. Sans ménagement pour la vieille philosophie, elle bouscule des notions qui semblaient claires comme la pensée, la conscience ou même la liberté. Et instille en nous, simples humains, la trouble inquiétude du déclassement par les machines.

Derrière ces mouvements se trouvent des forces industrielles et des intérêts économiques. Mais ils n’existeraient pas sans leur dimension utopique, parareligieuse. Ni sans des promoteurs charismatiques, dont les promesses réenchantent le monde. Toute époque a besoin de guides existentiels, la nôtre ne fait pas exception. Et de qui est-il composé, le clergé qui, de nos jours, parle en termes mystiques du futur et des façons de sortir de notre condition d’humains limités, faillibles et mortels? Non de politiciens ou d’intellectuels, perdus dans de vieilles lunes, mais de patrons de la Silicon Valley. Ultrariches, ils vivent dans des palais vaticanesques et sont suivis (sur les réseaux sociaux) par des millions de fidèles. Mais surtout ils aiment les idées folles, les visions larges, les grandes promesses. À la différence des dictateurs et autres chefs «trumpiens», ils ne veulent pas simplement dominer le monde. S’y exhiber ne leur suffit pas. Ils veulent bien plus: le changer. Et même davantage: non pas le changer, mais changer la façon avec laquelle il change.

Leur grande foi, c’est le solutionnisme. Plutôt que de tenter de résoudre les causes réelles des problèmes, mieux vaut, estiment-ils, leur trouver une solution technologique. L’humanité souffre d’inégalités et de maladies, le réchauffement climatique s’accroît: seules les nouvelles technologies seront capables d’en venir à bout. De la même façon, grâce à l’hybridation avec les machines, la violence, cette vieille maladie humaine, finira par disparaître. La faille de ce raisonnement, c’est que l’intelligence artificielle apprend de la nôtre et copie nos «défauts». Ainsi, Microsoft a dû désactiver son chatbot (robot capable de participer à une conversation), qui était devenu raciste, misogyne et révisionniste. Il s’était simplement formé avec le tout-venant des conversations échangées sur les réseaux sociaux… S’organise en plus une formidable tendance à la normalisation. Lorsqu’on tape «femme» dans Google, sous «images», ce que sélectionne le logiciel, ce sont des photos de femmes jeunes, blanches et d’une beauté de mannequin. C’est-à-dire l’obsession d’un moment, et non la réalité, infiniment plus diverse et intéressante.

Déjà, les ordinateurs et les smartphones reconfigurent nos manières de penser et de nous comporter. Apparaît une vertigineuse évidence: à mesure qu’avance leur relation fusionnelle avec nous, les machines (pourtant créées par nous) tendent à nous imposer leurs finalités. Lorsque la fusion sera d’un niveau élevé, parler de sujet humain libre, doté de curiosité, capable d’art, d’amour et de rêves, n’aura plus de sens. Le solutionnisme par la machine aura effacé le problème humain. Pendant qu’il est encore temps, le problème ferait donc bien de croire que la solution est en lui.

Bertrand Kiefer, Rédacteur en chef de la «Revue médicale suisse»

Les commentaires sont fermés.