“Le pouvoir hacke les esprits” par Yuval Noah HARARI

Nous ne sommes plus nous-mêmes. Ainsi les hackers du pouvoir détournent nos esprits. C’est la thèse choc de Yuval Noah HARARI, le prophète de "Sapiens : une brève histoire de l’humanité".

Article en italien de la traductrice Isabella ZANI "Chi ci crediamo di essere?", paru dans le supplément ROBINSON du journal La Repubblica du 13 janvier 2019. Traduit en français par Eric PICHELINGAT avec l'aimable autorisation de l'auteur, à partir du texte en italien et de la version originale en anglais de Yuval Noah HARARI.

Notre futur

Le pouvoir hacke les esprits, accuse l'historien Yuval Noah HARARI, auteur de « Sapiens » et « 21 leçons pour le XXI^e siècle ». Qu’est-ce que cela veut dire ? Que les nouvelles technologies sont en train de mettre en pièces le vieux libre arbitre. « L’Inquisition et le KGB n’y sont jamais parvenus : ils n’en savaient pas assez en matière de biologie, de big data et d’ordinateur. Mais aujourd’hui le système d’exploitation humain est en danger». Comment s’en sortir ?

Le mythe de la liberté

La démocratie libérale affronte aujourd’hui une double crise. L’attention est focalisée principalement sur le défi habituel que constituent les régimes autoritaires. Mais les récentes découvertes scientifiques et les nouveaux développements technologiques posent un défi bien plus profond à l’idéal libéral fondamental de liberté humaine. Pendant des siècles, le libéralisme a survécu à de nombreux démagogues et autocrates qui ont tenté d'étouffer la liberté humaine de l'extérieur. Cependant, le libéralisme n'avait qu'une expérience limitée des technologies susceptibles de corroder la liberté humaine de l'intérieur.

Pour appréhender ce nouveau défi, commençons par rappeler ce que veut dire libéralisme. Dans le langage politique occidental le terme « libéral » est souvent utilisé aujourd’hui dans un sens restreint et partisan, comme le contraire de « conservateur ». Pourtant, la plupart des soi-disant conservateurs adoptent également la vision du monde libérale au sens large. L'électeur typique de Trump aurait été considéré comme un libéral radical il y a un siècle. Faites l’essai. Pensez-vous que les gens devraient choisir leur gouvernement plutôt que d’obéir sans discuter à un roi ? Pensez-vous que chacun devrait choisir sa profession plutôt que d'être né dans une caste ? Pensez-vous que chacun devrait choisir son ou sa conjoint.e plutôt que d'épouser la personne indiquée par ses parents ? Si vous avez répondu oui aux trois demandes, félicitations, vous êtes un libéral.

Le libéralisme défend la liberté personnelle parce qu'il présuppose que les êtres humains sont des entités uniques, différentes de tous les autres animaux. Contrairement aux rats et au singes, l'Homo sapiens serait de par lui-même doté du libre arbitre. Ce qui fait des sentiments et des choix humains la plus haute autorité morale et politique du monde. Malheureusement, le libre arbitre n'est pas un fait établi scientifiquement : c'est un mythe que le libéralisme a hérité de la théologie chrétienne, laquelle a conçu l'idée du libre arbitre pour expliquer pourquoi Dieu a raison de punir les pêcheurs pour leurs mauvais choix et de récompenser les saints pour leurs bons choix. En effet si nous ne faisions pas nos choix librement, pourquoi Dieu devrait-il nous punir ou nous récompenser à cause d’eux ? Selon la théologie, Dieu a raison d’agir ainsi parce que nos choix reflètent le libre arbitre de notre âme éternelle, qui est délivrée de tout lien physique ou biologique.

Ce mythe a bien peu à voir avec ce que la science nous enseigne maintenant sur l'Homo sapiens et sur les autres animaux.

Oui, les êtres humains sont certainement dotés d'arbitre : mais il n’est pas libre. Je ne peux décider quels désirs avoir. Je ne décide pas d'être introverti ou extraverti, décontracté ou anxieux, gay ou hétéro.

Oui, les êtres humains accomplissent certainement des choix : seulement ce ne sont jamais des choix indépendants. N’importe quel choix dépend de causes biologiques ou sociales indépendantes de ma volonté. Je peux choisir ce que je mange, avec qui me marier et pour qui voter, mais ces choix sont un reflet de mon bagage génétique, de ma biochimie, de mon sexe, de mes antécédents familiaux, de ma culture nationale, etc. Autant de choses que je n’ai pas choisies.

Ce n’est pas une théorie abstraite, et vous pouvez vous en rendre compte très facilement par vous-même. Contentez-vous d’observer la prochaine pensée qui vous passe par la tête. D’où est-elle venue ? Avez-vous choisi librement de la penser ? Non évidemment. Si vous observez attentivement votre propre esprit, vous réalisez que vous exercez un contrôle minime sur ce qui se passe à l’intérieur et que vous ne choisissez pas librement ce que vous pensez, ce que vous ressentez et ce que vous voulez. Ne vous arrive-t-il jamais la veille d’une réunion importante, de ne pas arriver à vous endormir à cause d’un flux ininterrompu de pensées et de soucis ? Si vraiment il était possible de choisir librement ce que vous pensez, pourquoi ne parvenez-vous pas à cesser ce flot irritant de pensées pour simplement vous relaxer ?

Animaux hackables

Bien que le libre arbitre ait toujours été un mythe, il s’est démontré utile au cours des siècles précédents. Il a donné du courage à ceux qui devaient lutter contre l’Inquisition, contre le droit divin des souverains, contre le KGB et le Ku-Klux-Klan. Qui plus est, ce mythe ne coûtait rien ou presque. En 1776 ou en 1939, ce n’était pas si grave de croire que les sentiments et les choix de chacun étaient le produit d’une certaine « volonté spontanée » plutôt que de la biochimie et de la neurologie. En 1776 ou en 1939, personne ne comprenait très bien ce qu’est la biochimie et la neurologie. Mais...

... aujourd’hui, la croyance dans le “libre arbitre” représente un danger. Si les gouvernements et les entreprises réussissent à hacker le système d'exploitation humain, les personnes les plus faciles à manipuler seront celles qui croient au libre arbitre.

Pour hacker efficacement des humains, vous avez besoin de trois choses : une bonne maîtrise de la biologie, beaucoup de données et beaucoup de puissance de calcul. L'Inquisition et le KGB n'ont jamais été en mesure de pirater des êtres humains, car ils étaient privés des connaissances biologiques, des données et de la puissance de calcul nécessaires. Mais bientôt, les entreprises et les gouvernements pourraient disposer de ces trois éléments, et une fois qu’ils seront en mesure de vous hacker, ils pourront non seulement prédire vos choix, mais aussi manipuler vos sentiments.

Si vous croyez à l'histoire libérale traditionnelle, vous serez tenté simplement de rejeter ce défi.

«Non, cela n'arrivera jamais. Personne ne parviendra jamais à hacker l'esprit humain, car il y a quelque chose à l’intérieur de nous qui dépasse de loin les gènes, les neurones et les algorithmes. Personne ne pourrait prédire et manipuler à volonté mes choix, car ceux-ci reflètent mon libre arbitre ».

Malheureusement, rejeter le défi ne le fera pas disparaître. Cela vous rendra juste plus vulnérable. Une croyance naïve dans votre libre arbitre vous aveuglera. Lorsque vous choisissez quelque chose - un produit, une carrière, un.e conjoint.e, un.e politicien.e - vous vous dites intérieurement : "J'ai choisi cela de mon plein gré". Si c'est le cas, inutile d’aller chercher plus loin. Il n’y a aucune raison de s’interroger sur ce qui se passe à l’intérieur de vous et sur les forces qui ont réellement pesé dans votre choix.

Cela commence par des choses simples. Vous êtes en train de naviguer sur Internet, un titre capte votre attention : «Un gang d'immigrants viole des femmes de la région». Vous cliquez dessus. Au même moment, votre voisin surfe également sur Internet et un titre différent attire son regard : «Trump prépare une frappe nucléaire sur l'Iran». Il clique dessus. Les deux titres sont en fait des fake news - de fausses informations-, peut-être générées par des trolls russes, ou par un site web soucieux d’accroître son trafic pour augmenter ses revenus publicitaires. Votre voisin et vous-même avez le sentiment d’avoir cliqué sur ces titres de votre plein gré. Mais en fait, vous avez tous les deux été hackés.

La propagande et la manipulation ne datent pas d’hier, bien sûr. Mais tandis que dans le passé, elles fonctionnaient avec des tapis de bombes, aujourd’hui elles prennent la forme de missiles téléguidés de haute précision. Quand Hitler prononçait un discours à la radio, il visait le plus petit dénominateur commun, parce qu’il ne pouvait pas adapter son message aux faiblesses spécifiques de chaque cerveau. Maintenant, il devient possible de faire exactement le contraire. Un algorithme peut indiquer que vous avez déjà un parti pris contre les immigrants, alors que votre voisin déteste Trump, ce qui explique pourquoi vous voyez un titre alors qu’il en voit un tout autre. Ces dernières années, certains des esprits les plus brillants de la planète ont travaillé sur le piratage du cerveau humain afin de vous faire cliquer sur des annonces et de vous vendre des produits. Et...

... la meilleure façon de vous faire cliquer est d’appuyer sur les boutons d’activation de la peur, de la haine ou de la cupidité dans votre cerveau.

Maintenant, ces méthodes sont employées aussi pour vous vendre des politiciens et des idéologies. Et ce n'est que le début. À l'heure actuelle, les pirates informatiques s’appuient sur l’analyse des signaux externes : les produits que vous achetez, les lieux que vous visitez, les mots que vous recherchez en ligne. Cependant, d’ici quelques années, des capteurs biométriques pourraient donner aux pirates informatiques un accès direct à votre réalité interne et observer ce qui se passe dans votre cœur.

Pas le cœur métaphorique cher aux fantasmes libéraux, mais plutôt le muscle-pompe qui régule votre pression sanguine et une grande part de votre activité cérébrale. Les pirates pourraient alors corréler votre fréquence cardiaque avec les données de votre carte de crédit, et votre pression sanguine avec votre historique de recherche.

Qui sait ce qu’auraient fait l'Inquisition et le KGB avec des bracelets biométriques qui surveillent en permanence les humeurs et les préférences de chacun ? Malheureusement, nous risquons de le savoir bientôt.

Le libéralisme a développé un arsenal impressionnant d'arguments et d'institutions pour défendre les libertés individuelles contre les attaques externes de gouvernements oppressifs et de religions sectaires. Mais il n'est pas préparé à une situation où la liberté individuelle est subvertie de l'intérieur et où les concepts mêmes de “ liberté” et d’”individu” n'ont plus beaucoup de sens. Pour survivre et prospérer au XXI^e siècle, nous devons laisser derrière nous la vision naïve de l’’être humain en tant qu'individu libre - une conception héritée de la théologie chrétienne autant que de l’illuminisme moderne - et accepter ce que les humains sont réellement : des animaux hackables. Nous avons besoin de mieux nous connaître.

Codes défectueux

Bien sûr, ce nouveau conseil n’a rien de nouveau. Depuis toujours, les sages et les saints exhortent chacun au «connais-toi toi-même». Excepté qu’à l’époque de Socrate, Bouddha et Confucius, vous n’aviez pas vraiment de concurrence. En négligeant de vous connaître vous-même, vous demeuriez une boîte noire pour le reste de l'humanité. Par contre aujourd’hui, la concurrence est rude. En lisant ces lignes, les gouvernements et les entreprises s’efforcent de vous pirater. S'ils apprennent à vous connaître mieux que vous-même, ils pourront alors vous vendre tout ce qu'ils veulent, que ce soit un produit ou un politicien.

Il est particulièrement important d’apprendre à connaître vos faiblesses. Ce sont les principaux outils de ceux qui essaient de vous hacker. Les ordinateurs sont piratés à l’aide de failles de programmation préexistantes. Les humains sont piratés par des peurs, des haines, des envie et des préjugés préexistants.

Les pirates ne peuvent pas créer de la peur ou de la haine à partir de rien. Mais quand ils découvrent ce que les gens craignent et détestent déjà, il est facile d’appuyer sur les boutons émotionnels correspondants et de provoquer une colère encore plus grande.

Si les gens ne font pas l’effort d’apprendre à se connaître par eux-mêmes, sans doute que la même technologie utilisée par les hackers informatiques peut être retournée et utilisée pour nous protéger.

Tout comme votre ordinateur est doté d'un antivirus pour surveiller les logiciels malveillants, nous avons peut-être besoin d'un antivirus pour le cerveau. D’une intelligence artificielle capables d’apprendre par expérience quels sont vos points faibles que ce soit les vidéos de chats marrants ou les histoires exaspérantes de Trump - et de les bloquer pour vous.

Mais tout cela n’est vraiment qu’un problème secondaire. Si les humains sont des animaux hackables, et si nos choix et nos opinions ne reflètent pas notre libre arbitre, à quoi devrait servir la politique? Pendant 300 ans, les idéaux libéraux ont inspiré un projet politique visant à donner à autant d'individus que possible la possibilité de poursuivre leurs rêves et de réaliser leurs désirs. Nous sommes maintenant plus près que jamais de réaliser cet objectif, mais nous sommes aussi plus proches que jamais de réaliser que c'est une illusion. Ce sont exactement les mêmes technologies que nous avons inventées pour aider les individus à réaliser leurs rêves qui rendent aussi possible de les reprogrammer. Alors, comment puis-je me fier à mes rêves ?

Cette découverte pourrait offrir aux humains un tout nouveau type de liberté. Jusqu’à présent, nous nous identifions très fortement avec nos désirs et nous recherchions la liberté de les réaliser. Chaque fois qu'une pensée nous venait à l’esprit, nous nous précipitions pour répondre à sa demande. Nous passions nos journées à dévaler comme des fous une montagne russe de pensées, de sentiments et de désirs, censés représenter -du moins le croyions-nous- notre libre arbitre. Que se passe-t-il si nous cessons de nous identifier avec cette montagne russe? Que se passe-t-il quand nous observons attentivement la prochaine pensée qui nous vient à l’esprit et que nous nous demandons «d’où vient-elle ?».

On s'imagine parfois qu’en renonçant à notre foi dans le «libre arbitre», nous deviendrons complètement apathiques et finirons par mourir de faim accroupi dans un coin. En fait, renoncer à cette illusion peut déclencher une profonde curiosité.

Tant que vous vous identifiez fortement aux pensées et aux désirs qui vous viennent à l’esprit, vous n’avez pas besoin de faire beaucoup d’efforts pour vous connaître vous-même. Vous pensez savoir déjà exactement qui vous êtes. Mais une fois que vous réalisez «hé, ces pensées ne sont pas les miennes mais seulement des vibrations biochimiques», alors vous réalisez aussi que vous n'avez aucune idée de qui ou de ce que vous êtes. Ce peut être le début du voyage de découverte le plus passionnant que tout être humain puisse entreprendre.

Philosophie pratique

Il n'y a rien de nouveau à douter du libre arbitre ou à explorer la vraie nature de l'humanité. Entre humains, nous en avons déjà parlé des milliers de fois. Mais nous n’avions jamais eu la technologie auparavant. Et la technologie change tout. Les vieux problèmes de philosophie sont en train de devenir des problèmes pratiques d'ingénierie et de politique. Et bien que les philosophes soient des gens très patients - ils peuvent discuter d’un sujet sans arriver à une conclusion pendant 3000 ans - les ingénieurs le sont beaucoup moins. Et les politiciens sont les moins patients de tous.

Comment faisons-nous fonctionner la démocratie libérale à une époque où les gouvernements et les entreprises peuvent hacker les humains ? Que reste-t-il de la croyance que "l’électeur est le meilleur juge" et que "le client a toujours raison" ?

Comment le vivez-vous quand vous réalisez que vous êtres un animal hackable, que votre cœur peut être un agent du gouvernement, que vos amygdales travaillent peut-être pour Poutine et que la prochaine pensée qui vous vient à l’esprit pourrait être non pas le produit de votre “libre arbitre”, mais d’un algorithme qui vous connaît mieux que vous ne vous connaissez vous-même ? Ce sont les questions les plus intéressantes auxquelles l'humanité doit faire face aujourd’hui.

Malheureusement, ce n’est pas le genre de questions que la plupart des humains se posent. Au lieu d'explorer ce qui nous attend au-delà de l'illusion du «libre arbitre», les gens partout dans le monde reviennent en arrière pour se réfugier dans des illusions encore plus anciennes. Au lieu de relever le défi de l'IA et de la bio-ingénierie, les gens s’agrippent à des fantasmes religieux et nationalistes qui, comparés au libéralisme, sont encore moins en phase avec les réalités scientifiques de notre époque. Au lieu de nouveaux modèles politiques, ce qui est proposé sont des restes re-packagés du XX^e siècle, voire du Moyen Âge.

Lorsque vous essayez de mettre en doute de tels fantasmes nostalgiques, vous vous retrouvez à débattre de sujets comme la véracité de la Bible et le caractère sacré de la nation (surtout si, comme moi, vous vivez dans un endroit comme Israël). En tant que chercheur, c’est une déception énorme. Discuter de la Bible était un sujet brûlant à l'époque de Voltaire et débattre des mérites du nationalisme était d’actualité en philosophie il y a un siècle. Mais en 2018, c’est une perte de temps terrible. L'intelligence artificielle et la bio-ingénierie sont sur le point de changer le cours de l'évolution elle-même, et nous ne disposons que de quelques décennies pour savoir quoi en faire. Je ne sais pas d’où viendront les réponses, mais elles ne viendront probablement pas d’histoires composées il y a deux mille ans par des gens qui en savaient peu sur la génétique et encore moins sur les ordinateurs.

Alors que faire? J’imagine que nous devons nous battre sur deux fronts simultanément. Nous devrions défendre la démocratie libérale non seulement parce qu’elle s’est révélée être une forme de gouvernement plus bénigne qu’aucune de ses alternatives, mais aussi parce qu’elle pose moins de limites au débat sur l’avenir de l’humanité. Dans le même temps, nous devons remettre en question les hypothèses traditionnelles du libéralisme et développer un nouveau projet politique plus en ligne avec les réalités scientifiques et les puissances technologiques du XXI^e siècle.