Google a étendu son interdiction des publicités au contenu sexuellement explicite pour inclure également les services qui facilitent la création de nus générés par l’intelligence artificielle. Une posture plus stricte qui entrera en vigueur le 30 mai, avec laquelle le géant américain de la technologie cherche à maintenir un environnement numérique sûr et respectueux.
De plus, cette décision fait suite aux inquiétudes croissantes concernant la pornographie deepfake non consensuelle, un problème qui a connu une augmentation alarmante ces dernières années. Rappelons que ce type de contenu utilise l’IA pour créer ou modifier des images sexuellement explicites de personnes sans leur permissioncomme cela s’est produit avec des stars de la stature de Taylor Swift.
En 2023, Google a supprimé plus de 1,8 milliard de publicités pour violation de ses politiques relatives aux contenus à caractère sexuel, selon le rapport annuel sur la sécurité des publicités de l’entreprise. Un fait qui met en évidence l’ampleur du défi auquel cette entreprise est confrontée dans sa lutte contre les contenus inappropriés et l’importance de mettre à jour ses politiques.
L’entreprise utilisera une combinaison d’examens humains et de systèmes automatisés pour appliquer cette politique, soulignant son engagement en faveur de la sécurité en ligne et de la protection des utilisateurs contre les contenus préjudiciables.
Il est important de préciser qu’il s’agit d’une mise à jour des règles de Google Ads et exclura spécifiquement la promotion de contenu synthétique qui a été modifié ou créé pour inclure de la nudité ou être de nature sexuelle.
Selon le porte-parole de Google, Michael Aciman, l’objectif est «interdire explicitement des publicités pour des services proposant de créer de la pornographie deepfake ou du contenu de nudité synthétique.
De même, la violation de ces nouvelles règles a été considérée comme une infraction grave. “Nous prenons très au sérieux les violations de cette politique et les considérons comme flagrantes.“, ont-ils prévenu depuis l’entreprise où il existe une position de tolérance zéro envers les contrevenants.
La mise en œuvre de cette règle met également en évidence comment certaines applications qui facilitent la création de pornographie deepfake Ils avaient déjà réussi à échapper aux restrictions de Google. Par exemple, les applications d’échange de visage qui, bien qu’elles n’aient pas été présentées comme sexuellement explicites sur le Google Play Store, ont été promues sur des sites Web pornographiques.
Cette lacune dans la politique publicitaire avait permis à ce type d’applications de proliférer, qui avait même généré un vide juridique et moral que Google cherche désormais à fermer.
Le problème du deepfake porno non consensuel ne se limite pas à l’exploitation numérique par des adultes; Cela a également touché des mineurs. Deux lycéens de Floride ont été arrêtés en décembre dernier pour avoir prétendument créé des photos nues de camarades de classe générées par l’IA.
De plus, un homme de 57 ans de Pittsburgh Il a récemment été condamné à plus de 14 ans de prison pour possession de matériel d’abus sexuel sur des enfants généré avec l’intelligence artificielle.
Compte tenu de la gravité de cette question, le Congrès américain envisage de prendre des mesures législatives. Le mois dernier, la Chambre et le Sénat ont présenté la loi DEFIANCE, cela établirait un processus par lequel les victimes de « contrefaçons numériques » pourraient poursuivre en justice à ceux qui fabriquent ou distribuent des deepfakes non consensuels.
Cet effort législatif, ainsi que l’initiative de Google, démontrent une reconnaissance et une action croissantes contre les dangers posés par la technologie deepfake lorsqu’il est utilisé de manière inappropriée.
En outre, cela reflète une préoccupation croissante quant à l’impact éthique et social des technologies d’intelligence artificielle, notamment en ce qui concerne la création et la diffusion de faux contenus ou trompeuses pouvant porter atteinte à la dignité des personnes.
