le pouvoir que développe l’intelligence artificielle (et comment elle peut nous affecter)

-

La intelligence artificielle ajoute de plus en plus de capacités. Désormais, cette technologie peut même se développer “mensonges”.

Un nouvel article scientifique publié dans la revue motifs analyse les cas connus de modèles d’intelligence artificielle qui ont menti, dissimulé ou flatté des humains pour atteindre leurs objectifs. Bien qu’ils ne le fassent pas consciemment et de manière programmée, Cette pratique peut avoir de lourdes conséquences s’il n’y a pas de réglementation correcte.

En détail, comme spécifié Gardien, les chercheurs, tous du Massachusetts Institute of Technology (MIT), se sont concentrés sur l’étude de Cicéron, une méta-IA classée parmi les 10 % des meilleurs joueurs humains du jeu en ligne Diplomacy. Tout gagnant a besoin d’une vivacité, d’une stratégie, d’un pieux mensonge. Ce système a réussi à en arriver là.

Ainsi, l’équipe d’enquête a identifié plusieurs cas dans lesquels Cicéron a menti avec préméditation, a conspiré pour attirer d’autres joueurs et, à une occasion particulière, a justifié son absence après avoir été réintégré en disant à un autre joueur qu’il « parlait au téléphone avec sa petite amie ». ». Génial, non ?

L’équipe du MIT a également découvert des problèmes similaires dans d’autres systèmes. Par exemple, dans un système commercial économique qui falsifiait ses préférences pour obtenir un avantage. Même, L’intelligence artificielle a tenté de « faire le mort » pour tromper un test créé pour éliminer les systèmes d’IA qui avaient évolué pour se répliquer rapidement.

“Ma plus grande crainte concernant la tromperie de l’IA est qu’une IA superintelligente et autonome utilise ses capacités de tromperie pour former une coalition croissante d’alliés humains et l’utiliser pour prendre le pouvoir, dans la poursuite à long terme d’un objectif mystérieux.” connu qu’après coup”, dit-il, selon Le paysPeter S. Park, l’un des principaux auteurs de l’article.

Les chercheurs ont alors suggéré qu’une réglementation était nécessaire. Cependant, celles-ci doivent tenir compte de la capacité de ces systèmes à « mentir ». Aujourd’hui peu développé, mais demain peut-être sans possibilité de contrôle. Sans un contrôle approprié, Les risques de fraude ou de manipulation pourraient s’intensifier.

Pour autant, ce n’est pas la première fois que l’intelligence artificielle est utilisée pour désinhiber ou influencer les humains. Il s’agit d’une pratique qui se développe également sur les réseaux sociaux, où des robots automatisés alimentés par l’intelligence artificielle publient de faux contenus pour susciter des inquiétudes ou des alarmes concernant un problème particulier. Par conséquent, ils nuisent aux acteurs impliqués.

En fait, dans un nouveau rapport axé sur l’Asie de l’Est, l’équipe Microsoft Threat Intelligence a souligné que la souhaite manipuler les prochaines élections aux États-Unis, en Inde et en Corée du Sud grâce à cette nouvelle technologie afin de satisfaire ses propres intérêts géopolitiques.


Ce contenu a été initialement publié dans RED/ACCION et est republié dans le du programme « Human Journalism », une alliance pour un journalisme de qualité entre RÍO NEGRO et RED/ACCION.



-

PREV Demain, le gouvernement cherchera à se mettre d’accord avec l’opposition sur les points clés qui bloquent l’adoption de la loi sur les bases au Sénat.
NEXT L’Argentine, leader du tourisme de rencontre et de la qualité du tourisme