Quand OpenAI a présenté son programme ChatGPT en novembre 2022, a déposé les candidatures de IA étaient accessibles à presque tout le monde. Le chatbot a fait le IA pour les gens ordinaires, pas seulement pour les data scientists ou les ingénieurs informaticiens.
Mais tout le monde ne souhaite pas utiliser ces outils à des fins bénignes. Plus tôt cette année, un travailleur financier de Hong Kong transféré plus de 25 millions de dollars à des fraudeurs utilisant la technologie faux profond pour se faire passer pour le directeur financier de l’entreprise lors d’un appel vidéo.
“Ce sont des choses qui m’empêchent de dormir la nuit”, a-t-il déclaré. Maria Milosavljevicdirecteur du groupe de sécurité de l’information chez Groupe bancaire ANZlors d’une conversation virtuelle Fortune mercredi. « Malheureusement, le IAqui est incroyablement utile et puissant, est disponible à la fois pour nos amis et nos ennemis.
L’événement, organisé en association avec Accenturea exploré l’interaction entre les nouveaux outils de IA générative et la cybersécurité.
Il y a « un élargissement global de la portée et du volume des attaques », a-t-il déclaré. Scott Wilkieleader mondial de la sécurité des technologies émergentes Accenture. Le cabinet de conseil a constaté un « doublement » des attaques de piratage rançongiciel et une augmentation de 1 000 % des attaques Hameçonnage au cours des 12 derniers mois.
“La IA générative et de nouveaux modèles de langage à grande échelle permettent des attaques plus sophistiquées et à des volumes plus élevés », a-t-il déclaré.
Calvin Ngdirecteur du centre des programmes de cybersécurité à l’Université Agence de cybersécurité de Singapour, a reconnu que la fréquence et la gravité des cyberattaques avaient augmenté. Une évaluation et une gestion appropriées des risques sont nécessaires, a-t-il expliqué.
“Vous pouvez facilement créer un e-mail de phishing, vous pouvez facilement automatiser des logiciels malveillants”, a-t-il expliqué. ng. « Vous n’avez pas besoin d’être un professionnel de la cybersécurité ; vous pouvez créer des logiciels malveillants en utilisant ChatGPT. Les choses deviennent plus simples ; “Faire le mal est simplifié aujourd’hui.”
ng a mis en garde contre le potentiel de « pollution des données », lorsqu’un adversaire cible la formation définie derrière un modèle IA. Les organisations doivent réfléchir aux conséquences du déploiement IA qui peuvent « suivre les informations de partout et produire des informations librement sans consulter personne », et ériger des barrières pour empêcher la contamination des données, a-t-il expliqué.
Mercredi, Microsoft a annoncé qu’il avait découvert un moyen de publier un modèle de IA générativel’amenant à ignorer ses barrières et à générer du contenu lié aux explosifs, à la drogue et à la politique.
Cependant, les panélistes ont également noté que IA peut aider, et pas seulement gêner, les équipes de cybersécurité.
« Nous recevons chaque jour plus de 10 milliards d’événements de données. Nous ne pouvons pas laisser les humains examiner tout, c’est pourquoi 35 % de nos réponses aux incidents ont déjà été automatisées grâce au machine learning et IA“, dit Milosavljevic.
La cybersécurité comme « sport d’équipe » À mesure que les attaques se multiplient, la cybersécurité est moins une initiative qui concerne uniquement les services informatiques. TOI. Mercredi, les panélistes ont souligné que la cybersécurité n’est pas seulement une initiative à l’échelle de l’entreprise, mais un effort impliquant plusieurs parties, y compris les gouvernements nationaux.
“Nous avons toujours dit que la cybersécurité devait être un sport d’équipe”, a-t-il déclaré. Wilkie. “Au cours des cinq dernières années, je n’ai certainement jamais vu une époque où la collaboration était plus grande ou où les intentions étaient meilleures.”
Par exemple, une quarantaine de pays ont signé un pacte international pour s’engager à ne pas céder aux exigences des attaquants de rançongiciel. Les membres conviennent également de travailler ensemble pour entreprendre des projets de recherche visant à renforcer la résilience.
Une partie des raisons pour lesquelles les gouvernements se soucient de la situation tient également à la sécurité nationale et à la géopolitique. Même si la technologie peut aider un pays à développer son économie, elle doit le faire dans un « environnement équilibré », a-t-il déclaré. ng.
Les entreprises, et en particulier celles qui ne font pas partie de secteurs fortement réglementés, doivent réellement adopter une « cyberhygiène de base », a-t-il déclaré. Jennifer Tiangdirecteur régional des cyberpratiques pour l’Asie chez Willis Towers Watson. Il a comparé cela à la sécurité de la maison : disposer des systèmes de caméras les plus sophistiqués ne signifie pas grand-chose si les propriétaires choisissent de ne pas verrouiller leurs portes.
« Les risques auxquels ils sont confrontés sont très sophistiqués », a-t-il déclaré. «Ils doivent bien faire les bases et investir là où il y a peut-être un investissement minimal.»
(C) 2024, Fortune
