« Les magnats de la technologie constituent une menace très sérieuse »

César Antonio Molina (La Corogne, 1952) aime dire que la science est née de la fiction littéraire. Pendant des siècles – raconte-t-il à El Cultural – il a utilisé ses expressions linguistiques et métaphoriques. La littérature servait de bouclier protecteur contre les pouvoirs étatiques et religieux, qui ne la considéraient jamais avec beaucoup d’affection. Pendant de nombreux siècles également, à travers des utopies ou des récits de science-fiction, la littérature a été en avance sur ce qui, bon ou mauvais, serait réalisé grâce à son développement. Ce parcours parallèle a duré jusqu’au milieu du XIXe siècle, époque à laquelle on peut dire que la science acquérait son indépendance et se transformait en un sujet presque complètement autonome avec son propre langage.

Après Comme c’est beau de vivre sans culture ! l’ancien ministre et auteur d’ouvrages tels que Où l’éternité vieillit et La chasse aux intellectuels (tous dans Destino) va encore plus loin dans l’analyse de là la réalité numérique -et la situation dans laquelle nous placent des technologies telles que l’intelligence artificielle- avec Que fait-on des humains ? (Deusto), un titre éclairant qui aborde un carrefour transcendantal de notre époque : « Pourquoi les robots, l’intelligence artificielle et les algorithmes représentent une menace pour la survie des êtres humains. »

Demander. Pourquoi un écrivain comme vous a-t-il relevé ce défi d’étudier certains aspects de la science et des nouvelles technologies ? Quelle compatibilité voyez-vous entre les deux mondes ?

Répondre. Italo Calvino, l’un des plus grands écrivains du XXe siècle, est allé jusqu’à affirmer que Galileo Galilei était non seulement l’un des meilleurs écrivains italiens, mais aussi universel, puisqu’il faisait passer la réalité pour de la fiction. Francis Bacon, dans La nouvelle Atlantide, Il a écrit l’un des grands romans-récits utopiques. Il a raconté l’histoire supposée de Besalém, l’État insulaire voué à l’échec parce que les bonnes intentions ne suffisent pas. Descartes, également bon écrivain, fut l’un des précurseurs du jargon scientifique moderne. Je dis du jargon sans mauvaises intentions. Et le philosophe napolitain Giambattista Vico a toujours défendu la compatibilité entre les sciences et les sciences humaines.

Et déjà, des poètes et des narrateurs contemporains comme notre Galdós ou Pío Baroja et des étrangers comme Eliot, Yeats, Orwell et bien d’autres encore, consacraient de nombreuses pages de leurs œuvres à réfléchir sur la compatibilité des deux sujets. Il m’arrive la même chose en économisant la distance, et c’est pourquoi j’ai écrit ce livre qui, fondamentalement, traite de risque existentiel dans lequel nous vivons. Certains chercheurs parlent même de « génocide existentiel ». Car comme l’écrivait déjà Adorno, l’idée de progrès ne peut exister sans celle d’humanité (en Dialectique des Lumières). Et Einstein nous avait prévenus en soulignant que la perversion de la science est un péché contre l’esprit.

Q. Pensez-vous que l’être humain est en danger vu l’importance que prend l’intelligence artificielle ?

R. Complètement. Mark Zuckerberg, fondateur de Facebook, a fait une terrible déclaration en 2010. La vie privée, pour lui, avait cessé d’être une norme sociale, un droit. La vie privée a toujours été synonyme de liberté. Il remettait donc en question ce droit inaliénable de l’individu. Et c’est comme ça. Nous sommes surveillés partout. Zuckerberg, comme les fascistes, les nazis, les maoïstes et les Soviétiques, défendait un nouveau totalitarisme, en l’occurrence technologique. Il montrait une sorte de droit de propriété sur chaque individu.

Elon Musk y a toujours fait référence le capitalisme humain est mort et nous sommes déjà dans le capitalisme technologique. Même des chercheurs importants comme Kaczynski en sont venus à appeler à un renoncement à la technologie, à l’arrêt des progrès pour analyser l’avenir et, désormais, à l’abandon de certains types de recherche qui nous conduisent sur la mauvaise voie. En 1971, il y a bien longtemps, le Congrès américain a créé une Commission nationale pour la protection des êtres humains. Et aujourd’hui, des universités comme Oxford, Cambridge, Berkeley ou Boston disposent de centres d’études dédiés au futur de l’humanité ou au risque existentiel. Nous sommes déjà conscients que le danger existe et est réel.

Q. Considérez-vous, comme le préviennent certaines voix, que plus il y aura de technologie, plus nous en dépendrons et plus nous aurons une ignorance de nous-mêmes ?

R. C’est comme ca. Nous en dépendons déjà pratiquement. Mais la technologie n’est pas quelque chose d’abstrait, elle a ses propriétaires, ses propriétaires, ses entreprises, son pouvoir, et dans ce réseau l’être humain est déjà capturé. Ça va être très difficile de revenir à gagner la liberté. Nous sommes plongés dans plusieurs révolutions à la fois : la génétique, les nanotechnologies et la robotique. Bientôt, nous pourrons nous poser les questions suivantes. Les robots sont-ils une race d’humains améliorés ? Les humains sont-ils une race d’inhumains ? Yuval Harari auteur de Homo Deus, dit que nous sommes déjà au début de l’union de l’Homo Sapiens avec l’intelligence artificielle, qui produira une progéniture surintelligente, forte et immortelle. Termine le Homo sapiens et parle de Homo Deus. Et cela nous rappelle également que Homo érigéOui le Homo Habilis et plein d’autres. Que nous nous éloignons de la connaissance de nous-mêmes du fait de cet abandon inconditionnel aux machines. Évidemment, ils finiront par nous contrôler en raison de nos propres défauts et besoins.

Q. Voyez-vous un danger imminent dans notre façon de vivre ensemble ?

R. Il y a un brutalisation numérique cela érode non seulement l’individu mais aussi la société et nos démocraties. Nos sentiments, affections, désirs, amour, bonheur, mort, destin, libre arbitre et autres bases existentielles jusqu’à présent, pourquoi seront-ils remplacés ? Quelles autres raisons seront-elles inventées pour donner un sens à la vie ? Seront-elles extirpées et ne seront plus nous sera-t-il nécessaire ? N’y aura-t-il plus d’individus mais seulement une masse qui sera à nouveau « manipulée », « orientée » et « dirigée » ? Les êtres humains sont de plus en plus entourés d’objets qui les gouvernent. Il lui faut déjà partager le monde avec des êtres qui ne sont pas irrationnels (les animaux) mais qui nous ressemblent de plus en plus. Oui, soi-disant, Dieu nous a créés à son image et à sa ressemblance, nous voulons faire la même chose avec les robots. Et puis quelle catégorie générique et juridique auront-ils (ou aurons-nous) ?

Q. Que peut faire la société au milieu de cette révolution ?

R. Vous devez être très présent dans tous ces processus et établir la nécessité ou non de chacun d’eux. Et surtout, protéger l’individu. Un code d’éthique doit couvrir toutes les personnes impliquées dans ces travaux d’intelligence artificielle. Il y a ici plusieurs questions importantes auxquelles il faut répondre : un humain modifié par la technologie cesse-t-il d’être humain ? Où faut-il tracer la ligne de démarcation ? Créons-nous de nouvelles espèces ? Il existe de nombreuses autres questions qui doivent également être étudiées sur le plan juridique.

Q. L’être humain est-il en route vers l’obsolescence ?

R. Oui, Novotny, professeur émérite à l’Université de Columbia et auteur d’un livre très intéressant intitulé Foi dans l’intelligence artificielle parler de “coévolution”. Il faut déjà apprendre à coexister dans notre quotidien avec, par exemple, les robots. Ou vivez plusieurs vies à la fois grâce au métaverse ou aux avatars. Tout cela dépassera nos frontières tangibles, physiques et connues. Oui, il y a d’abord eu l’évolution darwinienne et maintenant nous sommes dans une coévolution homme-machine.

Q. Les magnats de la technologie sont-ils un danger pour les démocraties ?

R. Oui, ils constituent une menace très sérieuse. Leurs entreprises sont aussi puissantes, voire plus, que de nombreux États. Ils ne paient pas d’impôts, ils menacent, ils peuvent arrêter de vivre et de travailler quand ils le veulent. Aux États-Unis, avant les événements des Twin Towers, il y avait un gros conflit juridique entre l’État nord-américain et ces entreprises. Lorsque des événements aussi terribles se produisaient, la CIA devait se tourner vers eux car c’était eux qui détenaient les meilleures informations. Ainsi prit fin la lutte juridique. Les entreprises technologiques sont passées du statut de criminels à héros du jour au lendemain parce qu’elles contribuaient à sauver l’humanité. Ils sont nés avec cette intention, mais le fait est que tous leurs propriétaires sont aujourd’hui propriétaires des plus grandes fortunes mondiales. Aujourd’hui, le danger ne réside pas dans l’ignorance, qui est encore grande, mais dans la connaissance incontrôlée.

Q. Considérez-vous Internet comme un territoire sans contrôle ?

R. D’une certaine manière, oui. Un territoire difficile à préciser mentalement. Voici deux alternatives intéressantes et uniques. Soit c’est absolument gratuit et en dehors de toute juridiction légale, soit c’est légalisé et normalisé selon le reste de la société. Je préfère que les pirates soient poursuivis, ainsi que ceux qui divulguent des documents personnels ou publics sans consentement. Pour moi, c’est aussi l’ordre et non l’anarchie qui devrait régner sur Internet.

Q. L’appréciation de la science dans notre pays a-t-elle changé ?

R. Oui, elle jouit aujourd’hui d’un grand prestige et de grands chercheurs. Mais il lui manque encore le soutien financier nécessaire de la part de l’État et même des fondations privées. Il n’y a plus d’anti-scientifiques comme Unamuno ni de pro-scientifiques comme Galdós et Pío Baroja. Tout le monde est conscient de l’importance de la science. La science en Espagne était fortement persécutée par les pouvoirs politiques et religieux, même s’il existait des disciplines comme les mathématiques, la géographie, la botanique ou la médecine qui un chemin moins tortueux. Mais il n’y avait pas de scientifiques comme Galilée, Descartes, Newton ou Bacon.

R. Très vif. Même si aujourd’hui je crois que la présence littéraire la plus troublante pour moi continue d’être l’œuvre de B. F-Skinner, Walden Deux. Un roman dans lequel la liberté et l’individu sont sacrifiés sur l’autel de la science. Ceux qui entrent dans ce Paradis gagnent tout, sauf le libre arbitre. On sait que Microsoft surveille depuis des années le comportement des utilisateurs pour ses propres besoins. Skinner, professeur américain de psychologie, fut l’un des promoteurs du behaviorisme : il fallait « enlever » le cerveau de l’individu pour le sauver du mal, de la douleur, de tout. désirs et émotions, et créer un bonheur apprivoisé. Notre société est sur cette voie depuis plusieurs décennies. Walden Deux (1948) a été publié un an avant 1984 d’Orwell. Skniner est également l’auteur d’un essai intitulé Au-delà de la liberté et de la dignité (1971). Dans ce livre, tout ce qu’il a romancé dans son roman est justifié. Il croyait en tout ce qu’il écrivait. S’il était né avant le totalitarisme, cela aurait constitué un bon précédent.

Q. Il termine son livre en rendant hommage au silence…

R. Oui, car devant tout ce qui est décrit et médité en quatre cents pages, je n’ai eu qu’à me taire un moment. À la base, c’est un hommage à Tanizaki, Handke, Wenders et Ozu. Je pense qu’en Finlande il y a un proverbe qui dit que le silence équivaut à un lingot d’or massif, alors que parler est de l’argent de pas très bonne qualité…