(Circuit)
Apple, Microsoft et Google annoncent une nouvelle ère pour ce qu’ils décrivent comme des smartphones et des ordinateurs dotés d’intelligence artificielle. Ils disent que ces appareils automatiseront des tâches telles que retoucher des photos ou féliciter un ami pour son anniversaire.
Cependant, pour que cela fonctionne, ces entreprises ont besoin de quelque chose de votre part : plus de données.
Dans ce nouveau paradigme, votre ordinateur Windows prendra une capture d’écran de tout ce que vous faites toutes les quelques secondes. Un iPhone collectera des informations sur toutes les applications que vous utilisez. Et un téléphone Android peut écouter un appel en temps réel pour vous alerter d’une arnaque.
Êtes-vous prêt à partager ces informations?
Ce changement a des implications importantes pour notre vie privée. Pour proposer de nouveaux services, les entreprises et leurs appareils ont besoin d’un accès plus persistant et plus approfondi à nos données qu’auparavant. Dans le passé, la façon dont nous utilisions les applications et visualisions les fichiers et les photos sur les téléphones et les ordinateurs était relativement isolée. Selon les experts en sécurité, l’IA a besoin d’une vue d’ensemble pour relier ce que nous faisons à travers les applications, les sites Web et les communications.
« Est-ce que je me sens en sécurité en donnant ces informations à cette entreprise ? » Cliff Steinhauer, directeur de la National Cybersecurity Alliance, une organisation à but non lucratif axée sur la cybersécurité, a posé des questions sur les stratégies d’IA des entreprises.
Tout cela se produit parce qu’il y a près de deux ans, ChatGPT, d’OpenAI, a bouleversé l’industrie technologique. Apple, Google, Microsoft et d’autres sociétés ont depuis révisé leurs stratégies produits, investissant des milliards dans de nouveaux services sous l’égide de l’intelligence artificielle. Ils sont convaincus que ce nouveau type d’interface informatique – qui étudie en permanence ce que vous faites pour vous proposer de l’aide – deviendra indispensable.
Selon les experts, le plus grand risque potentiel pour la sécurité lié à ce changement vient d’une transformation subtile du fonctionnement de nos nouveaux appareils. Parce que l’IA peut automatiser des actions complexes – comme supprimer des objets indésirables d’une photo – elle nécessite parfois plus de puissance de calcul que ce que nos téléphones peuvent gérer. Cela signifie qu’une plus grande partie de nos données personnelles devront peut-être quitter nos téléphones pour être traitées ailleurs.
Les informations sont transmises vers le cloud, un réseau de serveurs qui traitent les requêtes. Lorsque les informations atteignent le cloud, elles peuvent être consultées par d’autres personnes, notamment par des employés de l’entreprise, des acteurs malveillants et des agences gouvernementales. Et si certaines de nos données ont toujours été stockées dans le cloud, nos données les plus personnelles et intimes, autrefois réservées à nos yeux – photos, messages et e-mails – peuvent désormais être connectées et analysées par une entreprise sur ses serveurs.
Les entreprises technologiques affirment avoir fait tout leur possible pour protéger les données des citoyens.
Pour l’instant, il est important de comprendre ce qu’il adviendra de nos données lorsque nous utilisons des outils d’IA. J’ai donc obtenu davantage d’informations auprès des entreprises sur leurs pratiques en matière de données et j’ai interrogé des experts en sécurité. J’attendrai de voir si les technologies fonctionnent suffisamment bien avant de décider si cela vaut la peine de partager mes données.
C’est ce que vous devez savoir.
Apple Intelligence
Apple a récemment annoncé Apple Intelligence, un ensemble de services et sa première grande étape dans la carrière de l’IA.
De nouveaux services d’IA arriveront plus rapidement sur votre iPhone, iPad et Mac à partir de cet automne. Les utilisateurs pourront les utiliser pour supprimer automatiquement les objets indésirables des photos, créer des résumés d’articles Web et rédiger des réponses aux messages texte et aux e-mails. Apple revoit également son assistant vocal, Siri, pour le rendre plus conversationnel et lui donner accès aux données de toutes les applications.
Lors de la conférence d’Apple ce mois-ci présentant Apple Intelligence, le vice-président senior de l’ingénierie logicielle de l’entreprise, Craig Federighi, a expliqué comment cela pourrait fonctionner : Federighi a reçu un e-mail d’un collègue lui demandant de reporter une réunion, mais ce soir-là, il a dû voir une pièce de théâtre. mettant en vedette sa fille. Son téléphone lui montrait son calendrier, un document contenant les détails du travail et une application de cartographie pour prédire s’il serait en retard au travail s’il acceptait de se rencontrer plus tard.
Apple a déclaré qu’il essayait de traiter la plupart des données de l’IA directement sur ses téléphones et ordinateurs, ce qui empêcherait d’autres personnes, y compris Apple, d’accéder aux informations. Toutefois, pour les tâches qui doivent être envoyées aux serveurs, Apple a indiqué avoir développé des mesures de protection, notamment le cryptage des données et leur suppression immédiate.
Apple a également pris des mesures pour garantir que ses employés n’aient pas accès aux données. Apple a même déclaré qu’il autoriserait les chercheurs en sécurité à auditer sa technologie pour s’assurer qu’elle est conforme à ses engagements.
L’engagement d’Apple à supprimer les données des utilisateurs de ses serveurs la distingue des autres entreprises qui conservent des données. Mais Apple n’a pas précisé quelles nouvelles requêtes Siri pourraient être envoyées aux serveurs de l’entreprise, a déclaré Matthew Green, chercheur en sécurité et professeur agrégé d’informatique à l’Université Johns Hopkins, qui a été informé par Apple de sa nouvelle technologie. Tout ce qui quitte votre appareil est intrinsèquement moins sécurisé, a-t-il ajouté.
Apple a noté que lorsque Apple Intelligence sera disponible, les utilisateurs pourront voir un rapport sur les demandes quittant l’appareil pour être traitées dans le cloud.
Ordinateurs portables Microsoft avec IA
Microsoft apporte l’intelligence artificielle à l’ordinateur portable traditionnel.
La semaine dernière, la société a commencé à distribuer des ordinateurs Windows appelés Copilot+ PC, vendus au prix de 1 000 $. Les ordinateurs contiennent un nouveau type de puce et d’autres appareils qui, selon Microsoft, garantiront la confidentialité et la sécurité des données. Les ordinateurs peuvent générer des images et réécrire des documents, entre autres nouvelles fonctions basées sur l’intelligence artificielle.
La société a également introduit Recall, un nouveau système permettant aux utilisateurs de retrouver rapidement les documents et fichiers sur lesquels ils ont travaillé, les e-mails qu’ils ont lus ou les sites Web qu’ils ont consultés. Microsoft compare Recall à une mémoire photographique intégrée au PC.
Pour l’utiliser, vous pouvez écrire des phrases simples, telles que “Je pense à un appel vidéo que j’ai eu avec Joe récemment alors qu’il tenait une tasse de café avec “I Love New York” imprimé dessus.” L’ordinateur récupérera ensuite l’enregistrement de l’appel vidéo contenant ces détails.
Pour ce faire, Recall prend des captures d’écran toutes les cinq secondes de ce que l’utilisateur fait sur la machine et compile ces images dans une base de données consultable. Les instantanés sont stockés et analysés directement sur le PC, de sorte que les données ne sont pas examinées par Microsoft ni utilisées pour améliorer son IA, selon l’entreprise.
Cependant, les chercheurs en sécurité ont mis en garde contre les risques potentiels, expliquant que les données pourraient facilement révéler tout ce que vous avez écrit ou consulté si elles étaient « piratées ». En réponse, Microsoft, qui avait prévu de publier Recall la semaine dernière, a reporté sa sortie sine die.
Les ordinateurs sont équipés du nouveau système d’exploitation Windows 11 de Microsoft. Selon David Weston, responsable de la sécurité de l’entreprise, ce système comporte plusieurs niveaux de sécurité.
Google IA
Google a également annoncé le mois dernier une suite de services d’IA.
L’un des plus importants était un nouveau détecteur d’escroquerie téléphonique basé sur l’IA. L’outil écoute les appels en temps réel et si l’appelant ressemble à un éventuel escroc (par exemple, s’il demande un code PIN bancaire), l’entreprise vous alerte. Selon Google, les utilisateurs devraient activer le détecteur d’arnaque, qui fonctionne entièrement avec le téléphone. Cela signifie que Google n’écoutera pas les appels.
Google a annoncé une autre fonctionnalité, Ask Photos, qui nécessite l’envoi d’informations aux serveurs de l’entreprise. L’utilisateur peut poser des questions telles que « Quand ma fille a-t-elle appris à nager ? » pour qu’apparaissent les premières images de sa fille nageant.
Google affirme que ses employés pourraient, dans de rares cas, examiner les conversations Ask Photos et les données photo pour remédier à des abus ou des dommages, et que les informations pourraient également être utilisées pour améliorer son application Photos. En d’autres termes, votre question et la photo de votre enfant en train de nager pourraient être utilisées pour aider d’autres parents à trouver des photos de leurs enfants en train de nager.
Google a déclaré que son cloud était verrouillé par des technologies de sécurité comprenant un cryptage et des protocoles visant à limiter l’accès des employés aux données.
“Notre stratégie de protection de la vie privée s’applique à nos fonctions d’intelligence artificielle, qu’elles soient utilisées sur un appareil ou dans le cloud”, a déclaré Suzanne Frey, une dirigeante de Google qui supervise la confiance et la confidentialité, dans un communiqué.
Mais Green, le chercheur en sécurité, a déclaré que le modèle de Google en matière de confidentialité de l’IA semblait relativement vague.
“Je n’aime pas l’idée que mes photos et recherches personnelles soient envoyées vers un cloud qui n’est pas sous mon contrôle”, a-t-il conclu.
