Les deepfakes qui ont du succès en Chine ne sont pas célèbres. Ils viennent d’êtres chers décédés

Sun Kai parle une fois par semaine par vidéoconférence avec sa mère. Il lui raconte comment ça se passe au travail et avec sa femme. Sa mère dit quelque chose de temps en temps, mais elle écoute surtout. Mais il y a autre chose : la femme qui apparaît dans les vidéoconférences Ce n’est pas vraiment sa mère, car elle est décédée. ça fait cinq ans.

Pour Kai, cependant, pouvoir continuer à lui parler, même via une représentation virtuelle, était très important. Ainsi, en 2019, elle a contacté une société chinoise d’IA appelée Silicon Intelligence et leur a fourni une image d’elle-même ainsi que plusieurs extraits audio de conversations tenues sur WeChat.

C’était suffisant pour « ressusciter » sa mère. Même si au départ cette recréation virtuelle de sa mère était limitée, au fil du temps, l’avatar est devenu plus convaincant et a aidé Kai à faire face à la terrible perte de sa mère.

Immortalité numérique

Ils le racontent dans le MIT Technology Review, où ils révèlent que ce type de « résurrections de l’IA » est devenu une tendance qui gagne de plus en plus en force en Chine. Il existe déjà plusieurs entreprises qui travaillent sur ce type de systèmes.

L’idée de “immortalité numérique” n’est pas nouveau ni là-bas ni en Occident. Microsoft a lancé début 2021 un chatbot qui permettait de parler aux personnes décédées à l’aide de contenus tels que des images, des enregistrements vocaux ou des publications sur les réseaux sociaux. L’entreprise a déposé un brevet en la matière, mais cela n’a pas abouti au développement d’un produit ou d’un service autour de la proposition.

C’est aussi une idée populaire dans le monde du cinéma. Le premier épisode de la deuxième saison de Black Mirror, intitulé « Be Right Back », expose précisément cette idée d’une manière remarquable et inquiétante.

La possibilité de pouvoir communiquer avec un avatar virtuel d’une personne décédée semble gagner du terrain en Chine. Les entreprises d’IA qui se concentrent généralement sur création de deepfakes pour générer des influenceurs virtuels – Aitana est un bon exemple du phénomène – ils ont également commencé à proposer des services de génération d’avatars correspondant à des personnes décédées.

Comme l’explique Sima Huapeng, PDG de Silicon Intelligence, « même si seulement 1 % de la population chinoise accepte [el clonado por IA de personas muertas]c’est un marché énorme.” Au cours des trois dernières années, les progrès dans ce type de technologie ont été notables, passant du rendu de vidéos de quelques minutes à des avatars “en direct” pouvant interagir avec les utilisateurs.

Le coût a également été réduit et comme l’explique Sima, “l’année dernière, cela coûtait entre 2 000 et 3 000 dollars, mais maintenant ça ne coûte que quelques centaines de dollars“. La concurrence entre les startups qui proposent ce service est féroce et permet à la fois de faire baisser les prix et d’obtenir des résultats de plus en plus convaincants pour les clients.

Zhang Zewei, fondateur de la société Super Brain basée à Shanghai, propose également une telle solution. Il explique comment ils essaient d’aller au-delà des photos que les gens ont de leurs proches décédés à la maison. Leur idée est de créer des cadres numériques avec des images de ces personnes mais qui, grâce à l’IA, peuvent être activés à tout moment pour interagir avec ces appareils et, donc, avec ces avatars virtuels.

Zhang affirme avoir créé ces répliques numériques de personnes décédées pour environ 1 000 clients depuis mars 2023. Le prix varie entre 700 et 1 400 dollars selon le service proposé, et ils proposeront bientôt une application permettant de recréer ces avatars directement depuis le téléphone. et cela coûtera environ 140 $ pour cette alternative.

Ces types de services de création d’avatars virtuels commencent également à abonder en dehors de la Chine. Nous avons déjà parlé par le passé de Replika, la société qui génère des chatbots conversationnels destinés à accompagner, voire à tomber amoureux, les utilisateurs, et d’autres sociétés comme StoryFile ou surtout HereAfter, permettent de générer des avatars virtuels à partir d’audio. des clips et des vidéos de nos proches afin que nous puissions continuer à interagir avec eux après leur décès.

Le danger de la résurrection numérique

De nombreuses questions subsistent quant à savoir si ce type d’option est approprié pour faire face au deuil lors du décès d’un proche. Shen Yang, professeur à l’Université Tsinghua, explique que « la controverse est que si nous répondons à nos proches parce qu’ils nous manquent, nous pourrions restons constamment en état de deuil et nous ne pouvons pas nous en retirer pour accepter qu’ils soient réellement morts.

Ce risque existe, mais les experts mettent en garde contre d’autres dangers. Le Dr Katarzyna Nowaczyk-Basińska, de la LCFI de l’Université de Cambridge, a expliqué que « ce domaine de l’IA est un champ de mines éthique. Il est important de donner la priorité à la dignité du défunt et de veiller à ce qu’elle ne soit pas envahie pour des raisons telles que services numériques après le décès.

La controverse suscitée par ce type de services amène certains experts à préconiser une série de bonnes pratiques qui pourraient même finir par devenir réglementaires.

Dans El País, on a cité les paroles de José González, psychologue spécialisé dans les processus de deuil, qui a mis en garde contre le fait que ces vicissitudes signifient que “au premier moment, il y a un soulagement. Mais puis une addiction, une dépendance surgit. Si l’IA reproduit littéralement ce que l’on était, il existe un grand danger de chronification, surtout dans les relations très intenses. Il est facile de se laisser aller à ce fantasme selon lequel il n’est pas mort. “Cela peut provoquer ce gel dans la phase de déni.”

Images | Genbeta avec Copilot Designer

À Xataka | Discuter avec son passé comme option pour l’avenir : l’intelligence artificielle et des systèmes comme GPT-3 rendent cela possible