Comment le pape François est devenu l’éthicien incontournable de l’IA pour les dirigeants mondiaux et les géants de la technologie

Comment le pape François est devenu l’éthicien incontournable de l’IA pour les dirigeants mondiaux et les géants de la technologie
Comment le pape François est devenu l’éthicien incontournable de l’IA pour les dirigeants mondiaux et les géants de la technologie
-

Le pape François a parlé de l’intelligence artificielle lors du sommet du G7 en Italie (REUTERS/Louisa Gouliamaki)

Il papa Francisco C’est un octogénaire qui dit qu’il ne peut pas utiliser d’ordinateur, mais un après-midi de février 2019, un haut diplomate américain du Big Tech est entré dans la résidence papale pour demander des conseils sur l’éthique d’une technologie en développement : intelligence artificielle.

Le président de Microsoft, Brad Smithet le pape a parlé du développement rapide de la technologie, a déclaré Smith dans une interview avec Washington Post, et Francisco semblait comprendre les risques. Lorsque Smith partit, le pape lança un avertissement. « Gardez votre humanité »» insista-t-il en attrapant le poignet de Smith.

Au cours des cinq années qui ont suivi cette réunion, l’IA est devenue inévitable, comme le Pape lui-même l’a découvert l’année dernière lorsque des images virales de lui portant une veste Balenciaga annonçaient une nouvelle ère de contrefaçons. Et à mesure que la technologie prolifère, le Vatican s’est positionné comme la conscience d’entreprises comme Microsoft et est devenu une voix étonnamment influente dans le débat sur la gouvernance mondiale de l’IA.

Vendredi, dans le sud de l’Italie, François est devenu le premier pape à s’adresser à un forum réunissant les dirigeants mondiaux du Groupe des Sept. livrer un traité moral sur la « révolution cognitivo-industrielle » que représente l’IAdans une tentative d’élever la question de la même manière qu’il l’a fait avec le changement climatique.

Dans un discours de grande envergure, le Pape a souligné les conséquences de une technologie « aussi fascinante que terrifiante », affirmant que cela pourrait changer « la façon dont nous concevons notre identité en tant qu’êtres humains ». Il a dénoncé le fait que l’IA pourrait consolider la domination de la culture occidentale et porter atteinte à la dignité humaine.

L’IA, a-t-il déclaré, est présentée comme un outil qui pourrait démocratiser la connaissance, faire progresser la science « de façon exponentielle » et améliorer la condition humaine à mesure que les gens cèdent « des tâches ardues aux machines ». Mais il a prévenu qu’elle avait aussi le pouvoir de détruire, et a appelé à une interdiction « urgente » des armes létales autonomes. En tant que fantôme du futur, il a fait référence au roman dystopique de 1907 « Le Seigneur du monde », dans lequel la technologie remplace la religion et la foi en Dieu.

“Aucune machine ne devrait choisir de tuer un être humain.”dit le pape.

Il a déjà insisté sur le fait que les risques liés à l’IA doivent être gérés par le biais d’un traité mondial, et il a approuvé vendredi la nécessité d’un ensemble de « principes » mondiaux unificateurs pour guider le développement de l’IA.

L’« Appel de Rome pour l’éthique de l’intelligence artificielle » – un document qui comptait le Vatican, Microsoft et IBM parmi ses premiers signataires en 2020 – est en train de devenir la référence en matière de meilleures pratiques en matière d’IA. Il a servi de base aux discussions du G-7 sur l’élaboration d’un code de conduite. Et vendredi, les dirigeants du G7 – avec le soutien du Vatican – ont annoncé qu’ils créeraient une sorte d’insigne d’honneur : un nouveau label pour les entreprises qui s’engagent à développer des outils d’IA de manière sûre et éthique et suivre les lignes directrices en matière de déclaration et de surveillance volontaires des risques. Faisant écho aux préoccupations du Vatican, les dirigeants ont en outre appelé à « une utilisation militaire responsable de l’IA ».

Le pape François a reçu Brad Smith, président de Microsoft, au Vatican (Vatican Media/Handout via REUTERS)

La question d’IA a fourni l’occasion à l’Église, diminuée par sa gestion des scandales d’abus sexuels commis par des religieux, de réaffirmer son autorité morale. Microsoft et au moins quelques autres entreprises technologiques semblent désireuses d’obtenir l’approbation de l’Église, alors que l’industrie est confrontée aux défis de relations publiques d’une technologie qui pourrait automatiser les emplois, amplifier la désinformation et créer de nouveaux risques en matière de cybersécurité.

Le Vatican a gagné sa place à la table des grandes technologies. Une ancienne institution à l’histoire inégale dans le domaine scientifique – voir le procès de Galilée – envoie désormais des représentants aux grands événements technologiques.

Le prêtre Paolo Benanti – le principal expert du Vatican en matière d’intelligence artificielle, prêtre franciscain et ingénieur de formation, à qui l’on doit l’invention du terme “algorétique” – a obtenu l’année dernière un poste au sein de l’Organe consultatif des Nations Unies sur l’intelligence artificielle et est devenu un acteur important dans le développement d’une politique nationale d’intelligence artificielle pour l’Italie, pays du G-7. À la demande du Vatican, IBM a organisé un sommet mondial des écoles à l’Université de Notre Dame pour placer l’éthique de l’IA au premier plan des programmes d’études.

Les opinions du Vatican ont influencé des décisions commerciales spécifiques. Smith de Microsoft a déclaré au Post : « Nous avons développé notre propre technologie qui permettrait à n’importe qui, en quelques secondes seulement, de pouvoir reproduire la voix de n’importe qui. Et nous avons décidé de ne pas le divulguer. Les principes de Rome, a-t-il ajouté, font « certainement partie de ce qui nous a aidés, chez Microsoft, à adopter une approche large du développement de l’IA, même au sein de nos propres murs. Je pense que cela nous a fourni un large cadre humaniste et intellectuel.

L’accent mis par l’engagement sur l’inclusion a également influencé la décision de l’entreprise de lancer une bourse réunissant des chercheurs et des dirigeants de la société civile, principalement du Sud, pour évaluer l’impact de la technologie, a-t-il déclaré. Natasha Crampton, directeur responsable de l’intelligence artificielle chez Microsoft. Les stagiaires ont aidé l’entreprise à développer des évaluations multilingues des modèles d’IA et ont veillé à ce que l’entreprise comprenne le contexte local et les normes culturelles lors du développement de nouveaux produits.

Toutes les entreprises ne sont pas d’accord avec les principes de Rome. Certains ont opté pour l’audio manipulé par l’IA qui, selon les chercheurs, pourrait être utilisé pour induire les électeurs en erreur avant les élections.

Tout le monde n’a pas non plus été autorisé à rejoindre le club de Rome. L’entreprise chinoise « a demandé à Huawei », a déclaré l’archevêque Vincenzo Paglia, président de l’Académie Pontificale pour la Vie. “Et nous avons dit non, parce que nous ne savons pas vraiment ce qu’ils pensent [los responsables de allí]».

Pendant ce temps, le Vatican reste préoccupé par l’utilisation abusive de l’IA open source. Cette technologie pourrait produire de grands avantages dans les domaines de la santé et de l’éducation, a déclaré Benanti. « Mais cela peut aussi multiplier de nombreux éléments négatifs dans la société, et nous ne pouvons pas diffuser l’IA partout sans aucune décision politique, car demain nous pourrions nous réveiller avec un multiplicateur d’inégalités et d’armes biologiques », a-t-il déclaré.

Les responsables du Vatican ont déjà tiré la sonnette d’alarme sur ce qu’ils considèrent comme des utilisations potentiellement contraires à l’éthiquey compris les systèmes de reconnaissance faciale déployés lors de la répression des manifestants à Hong Kong en 2019-2020, ainsi que les algorithmes de traitement des réfugiés comme ceux en Allemagne, où des tests linguistiques basés sur l’IA ont été utilisés pour déterminer si les demandeurs d’asile mentent sur leur lieu d’origine.

La relation entre le Vatican et les innovateurs en IA trouve son origine dans un discours prononcé par Benanti en 2018 sur l’éthique de l’IA. Un haut représentant de Microsoft en Italie était présent dans l’auditoire et les deux ont commencé à se rencontrer régulièrement. Ils ont fait appel à Paglia, qui souhaitait élargir la portée de ses recherches au-delà de sujets fondamentaux tels que l’éthique de la recherche sur les cellules souches.

Avant la visite de Smith au pape, Paglia l’a accompagné voir le “Jugement dernier” de Michel-Ange dans la Chapelle Sixtine et lui a montré les représentations de Galilée de la Terre tournant autour du Soleil, une théorie qui lui a valu d’être assigné à résidence à vie après un procès ecclésiastique.

Cependant, La relation du Vatican avec la science n’a pas toujours été luddite. Au Moyen Âge, les érudits catholiques ont implanté en Europe ce qui allait devenir certaines de ses plus grandes universités. Et bien que certains religieux l’aient ciblée, la théorie de l’évolution de Darwin n’a jamais été officiellement remise en question par le Vatican.

Le Révérend Paolo Benanti, principal expert du Vatican en matière d’intelligence artificielle (EFE/EPA/FABIO CIMAGLIA)

L’Église déclare officiellement que « la foi et la raison » ne sont pas en conflit.

« La Bible ne nous dit pas comment fonctionne le paradis, mais comment y arriver »Paglia a dit, citant Galilée. L’archevêque s’est rendu officiellement au siège de Microsoft, près de Seattle, ainsi qu’aux bureaux d’IBM à New York.

Grâce à ses investissements agressifs dans l’intelligence artificielle, Microsoft est devenue l’entreprise la plus valorisée au monde, valant plus de 3 000 milliards de dollars. Mais son succès continu dépend de la réduction des perceptions négatives à l’égard de l’IA. Les craintes que cette technologie puisse supprimer des emplois, exacerber les inégalités, renforcer la surveillance et ouvrir la voie à de nouveaux types de guerre conduisent les gouvernements du monde entier à envisager des réglementations strictes qui pourraient freiner les ambitions de l’entreprise.

L’Union européenne prépare une loi historique qui pourrait limiter les modèles d’IA générative plus avancés. La Federal Trade Commission enquête sur un accord conclu par Microsoft avec la startup d’IA Inflection, afin de déterminer si le géant de la technologie a délibérément organisé l’investissement pour éviter un examen de la fusion. Et les autorités américaines ont conclu un accord qui exposera l’entreprise à un examen plus minutieux de la manière dont elle exerce son pouvoir de domination de l’intelligence artificielle, y compris ses investissements de plusieurs milliards de dollars dans OpenAI, fabricant de ChatGPT. Cette relation a également exposé Microsoft à de nouveaux risques de réputation, car le PDG d’OpenAI, Sam Altman, suscite fréquemment la controverse.

Sous la direction de Smith, Microsoft a créé l’une des organisations de lobbying les plus sophistiquées au monde pour désamorcer ses problèmes de réglementation et tenter de convaincre les gens qu’il s’agit du titan technologique auquel le monde peut faire confiance pour créer l’IA. Smith rencontre régulièrement des chefs d’État et, le mois dernier, il a assisté à l’inauguration d’une usine avec le président Biden. Pour être une entreprise efficace, Microsoft doit trouver des moyens de travailler avec les gouvernements et garantir que sa technologie peut les transcender, a déclaré Smith.

La « plus ancienne organisation mondiale » peut être un enseignant et un partenaire unique dans cet effort, a-t-il déclaré, faisant référence au Vatican. Le catholicisme et les autres religions ne sont soumis à aucune frontière nationale, pas plus que les applications que Microsoft vend dans le monde.

“D’un côté, vous pourriez penser que nous sommes d’étranges compagnons de lit”, a déclaré Smith. “Mais d’autre part, C’est une combinaison parfaite.

© 2024, Le Washington Post

-

NEXT Les experts trouvent une méthode pour empêcher les chats de détruire le canapé – DW – 04/07/2024