Le nouveau PDG par intérim d’OpenAI, Emmet Cisaillementa également exprimé son inquiétude quant à un éventuel scénario catastrophique dans lequel le intelligence artificielle (IA) Il pourrait s’améliorer de manière incontrôlable et sans intervention humaine, au point de représenter une menace réelle pour l’existence de l’humanité.
Shear, qui s’est autoproclamé « techno-optimiste »prévient que même si le progrès technologique apporte principalement des avantages, la possibilité pour l’IA d’évoluer vers une amélioration autonome représente un danger intrinsèque.
En fait, ce serait une probabilité comprise entre 5% et le cinquante% que cela se produise, même s’il reconnaît que des incertitudes subsistent quant à ces estimations. La menace évoquée est si grave qu’elle pourrait être assimilée à un “bombe destructrice d’univers.”
Ces déclarations ont été faites lors d’un entretien en juin avec l’investisseur Logan Bartlettoù Shear a averti que « ce type de renseignement est quelque chose de très dangereux en soi », « parce que l’intelligence est le pouvoir» a-t-il conclu.
L’inquiétude de Shear, fruit de sa vision optimiste du progrès technologique, réside dans la crainte de ce qu’une IA dotée de compétences supérieures dans tous les domaines de la connaissance et de la création.
Il a comparé cette éventualité à la facilité de créer “bombes à fusion” extrêmement destructeur avec des matériaux simples et courants. Ce scénario est exacerbé par la vitesse exponentielle à laquelle l’intelligence artificielle pourrait fermer le cycle d’auto-améliorationce qui le rend effectivement impossible à contrôler.
« Cette boucle se refermera de plus en plus, et de plus en plus vite, jusqu’à ce qu’elle puisse s’améliorer complètement. À ce stade, ce sera très rapide », a déclaré Shear.
Le fondateur et ancien PDG d’OpenAI, Sam Altmanpartage les mêmes préoccupations que son successeur, ayant déjà mis en garde contre la capacité de l’intelligence artificielle à supprimer un large éventail d’emplois.
-Altman a même assuré que les outils d’IA qui pourraient être « potentiellement terrifiant ». Ces alarmes ont contribué à la rédaction d’une lettre signée collectivement par l’homme d’affaires et les experts, demandant que la prévention d’un risque d’extinction induit par cette technologie soit considérée comme un priorité.
“Atténuer le risque d’extinction de l’IA devrait être une priorité mondiale, au même titre que d’autres risques à l’échelle sociétale tels que les pandémies et la guerre nucléaire”, ont-ils déclaré.
Emmett Shear, co-fondateur de la plateforme de streaming Tica été nommé PDG par intérim après le licenciement surprise d’Altman, que le conseil d’administration d’OpenAI accusait de ne pas avoir été “toujours sincère dans ses communications”, sans donner plus de détails.
Shear, interrogé sur la mise en œuvre de règles pour cette technologie émergente, estime que même si cela est prématuré d’envisager une réglementation Compte tenu de l’évolution rapide du secteur, des dispositions réglementaires efficaces pourraient s’avérer nécessaires à l’avenir.
Cela se produit dans un contexte où l’entreprise continue d’être un protagoniste dans la conversation mondiale sur l’avenir de l’IA et de ses applications, comme le modèle génératif. ChatGPT et la plateforme Dall-Etous deux développés sous la direction d’Altman.
Même si les détails exacts qui ont conduit au licenciement d’Altman restent incertains, tout indique une tension entre un vision accélérationniste Altman et un conseil d’administration penchent pour une approche plus prudente.
En fait, l’annonce de la nomination d’Emmett Shear (co-fondateur de Twitch) au poste de PDG par intérim d’OpenAI s’est accompagnée d’un engagement à enquêter de manière indépendante les circonstances qui ont conduit au licenciement d’Altman.
Shear a déjà reconnu que la gestion du licenciement sérieusement endommagé la réputation de l’entreprise et anticipe des changements importants à l’horizon.
