Les spécialistes de la cybersécurité qui suivent les vulnérabilités les plus dangereuses à l’heure actuelle affirment que les menaces internes, l’injection de requêtes visant l’intelligence artificielle (IA), l’hameçonnage alimenté par l’IA et les rançongiciels en tant que service figurent tous parmi les principales préoccupations auxquelles les responsables et les professionnels de la sécurité doivent accorder une attention immédiate. Fait intéressant, ils soulignent que l’IA elle-même présente certaines faiblesses fondamentales qui la rendent vulnérable, particulièrement aux attaques par injection de requêtes.
Gestion des risques liés aux menaces internes
Le chercheur en cybersécurité Jason Clark a présenté ses perspectives lors d’un récent webinaire de Dark Reading, commandité par la firme de gestion des identités Okta. Il affirme que les menaces internes demeurent actuellement l’un des risques de cybersécurité les plus importants, mais qu’elles sont souvent sous-estimées.
Les personnes à l’interne sont celles qui disposent d’un accès légitime aux systèmes. Leurs actions, qu’elles soient malveillantes ou involontaires, peuvent contourner les contrôles de sécurité traditionnels généralement mis en place pour empêcher les attaquants externes d’accéder aux systèmes, explique-t-il.
Il ajoute qu’il existe trois catégories distinctes de personnes à l’interne susceptibles d’introduire des risques. Il s’agit des personnes malveillantes, de celles qui agissent involontairement et des partenaires commerciaux — fournisseurs, sous-traitants et prestataires de services qui peuvent disposer d’un accès privilégié. « Il est important de comprendre ces différents profils de personnes à l’interne », a-t-il déclaré aux participants au webinaire.
Les types d’attaques comprennent généralement la fraude (qui nécessite souvent une collusion entre deux personnes ou plus à l’interne), le vol de propriété intellectuelle (PI) et le sabotage. Le vol de PI peut notamment survenir lorsque des programmeurs ou des vendeurs emportent du code de l’entreprise ou des listes de clients chez leur prochain employeur. Le sabotage est généralement associé à un employé mécontent. L’utilisation des ressources de l’entreprise à des fins personnelles peut également exposer celle-ci à des risques. Enfin, l’espionnage, soit la collecte et la divulgation systématiques et non autorisées de renseignements confidentiels, figure également sur la liste des principales menaces dressée par M. Clark.
« Chacun de ces types de menaces exige vraiment une stratégie de détection et de prévention presque sur mesure. » Il ajoute que chacun nécessite également une approche à plusieurs niveaux.
Solutions :
- Mettre en place un programme officiel de gestion des menaces internes.
- Établir des processus structurés permettant d’identifier, d’évaluer et de gérer les risques de manière proactive.
- Adopter une architecture « zéro confiance » dans la mesure du possible. Mettre en œuvre une vérification continue des identités, des contrôles d’accès stricts et une surveillance approfondie de l’activité des utilisateurs.
- Explorer les nombreuses solutions disponibles pour la surveillance de l’activité des utilisateurs (User Activity Monitoring ou UAM en anglais).
- Mettre en place des politiques et de la formation. Élaborer des lignes directrices complètes ainsi que des normes de responsabilisation concernant le traitement des données, l’utilisation acceptable et les pratiques de sécurité.
- Veiller à ce que ces politiques soient régulièrement mises à jour et communiquées. « Une formation régulière et stimulante est vraiment essentielle », affirme Jason Clark.
La protection contre les menaces provenant de l’intérieur exige une surveillance proactive des risques, des politiques claires et des contrôles robustes, selon M. Clark.
« Essentiellement, nous voulons tenter de vérifier chaque utilisateur et chaque tentative d’accès, peu importe l’emplacement ou le réseau », souligne-t-il.
Attaques d’hameçonnage optimisées par l’IA
Parmi les cybermenaces qui connaissent actuellement la croissance la plus rapide, les attaques d’hameçonnage optimisées par l’IA vont au-delà des stratagèmes manuels de l’hameçonnage traditionnel, permettant aux attaquants d’automatiser leurs efforts et de les déployer à grande échelle « avec une précision vraiment alarmante », affirme le chercheur.
Il explique que les messages ainsi créés sont hautement personnalisés, convaincants et difficiles à détecter, même pour des utilisateurs bien formés. L’intégration d’hypertrucages, notamment des imitations réalistes de dirigeants et de collègues, est particulièrement préoccupante.
M. Clark souligne que l’hameçonnage peut aujourd’hui également imiter de façon convaincante des communications internes légitimes en faisant référence avec précision à de véritables projets, événements, personnes et procédures internes. Les capacités de génération automatisée de campagnes sont également alarmantes, tout comme les capacités d’apprentissage continu de l’IA.
« L’effet combiné de ces innovations crée des attaques d’hameçonnage d’un niveau de sophistication, d’une ampleur et d’une efficacité sans précédent — cela remet véritablement en question nos approches traditionnelles de sensibilisation à la sécurité », affirme-t-il.
Encore une fois, ajoute-t-il, une stratégie de défense complète et à plusieurs niveaux est nécessaire.
Solutions :
- Commencer par une formation avancée de sensibilisation à la sécurité.
- Établir des procédures de vérification claires pour les demandes sensibles.
- Déployer des techniques et des solutions avancées de filtrage des courriels alimentées par l’IA.
- Déployer des outils d’analyse comportementale et de surveillance. Jason Clark explique que cette approche est semblable à l’analyse comportementale et à la surveillance utilisées pour détecter les menaces internes. « Nous voulons tenter d’établir des profils de référence des comportements normaux, puis d’enquêter rapidement sur les écarts », dit-il.
- Élaborer des plans et des capacités d’intervention rapide en cas d’incident. Mettre au point des processus d’intervention soutenus par l’IA pour mettre en quarantaine les comptes compromis et révoquer les accès afin de réduire au minimum les dommages causés par les attaques réussies.
« Le temps est vraiment un facteur critique pour contenir ces brèches liées à l’hameçonnage », affirme-t-il.
Injection de requêtes
L’injection de requêtes est un vecteur d’attaque relativement nouveau et émergent. M. Clark explique que ces attaques exploitent les vulnérabilités des systèmes d’IA en introduisant des données d’entrée structurées de manière malveillante et conçues pour tromper le modèle d’IA afin qu’il effectue des actions non prévues ou divulgue des renseignements sensibles.
« Les systèmes d’IA font intrinsèquement confiance aux données qu’ils reçoivent, ce qui les rend vraiment vulnérables aux manipulations malveillantes, particulièrement dans le traitement du langage naturel (TLN) », affirme-t-il. « Les techniques automatisées d’injection de requêtes amplifient véritablement cette menace en sondant systématiquement les vulnérabilités de l’IA à grande échelle. »
Les tentatives d’injection de requêtes peuvent notamment consister à soumettre aux modèles d’IA des données malveillantes délibérément conçues pour perturber la façon dont les systèmes d’IA prennent leurs décisions. La manipulation du contexte survient lorsque des attaquants tentent de fournir à l’IA des données et des scénarios trompeurs, l’amenant à mal interpréter son environnement. L’injection directe d’instructions consiste à intégrer des commandes qui semblent légitimes, mais qui sont conçues pour contourner les mesures de protection du système.
Selon le chercheur, l’IA fera confiance par défaut aux données qu’elle reçoit. « Cela signifie qu’elle traitera ce qu’elle reçoit sans exercer suffisamment de discernement. »
Fait intéressant, une question posée au présentateur demandait s’il était possible de sécuriser complètement les grands modèles de langage (GML), « ou si nous ne faisons que colmater une architecture intrinsèquement défaillante ».
En réponse, Jason Clark convient que la faille en question constitue une faiblesse fondamentale. « Il n’existe vraiment aucune forme d’isolation véritable entre les requêtes et la logique du système. À mon avis, cela en fait un problème qui va au-delà de ce qui peut être corrigé par de simples correctifs », affirme-t-il. « Nous pouvons ajouter des filtres, des garde-fous ou de la surveillance, mais au bout du compte, je pense qu’il s’agit d’une faille architecturale. Une véritable sécurité nécessitera, selon moi, des défenses encore plus nombreuses et à plusieurs niveaux — je pense notamment à des moteurs de règles externes, à la vérification de l’identité et à des interfaces de programmation d’applications (API ou Application Programming Interfaces en anglais) à usage limité pour faire respecter ces limites. » Il conclut en répétant qu’il s’agit actuellement d’une faiblesse fondamentale qui exige davantage que de simples correctifs.
Solutions :
Les stratégies intégrées et à plusieurs niveaux qui sont recommandées dans ce cas comprennent trois piliers de défense qui, selon M. Clark, réduisent les risques sans compromettre les avantages liés à l’adoption de l’IA.
- Examiner la validation et l’assainissement des données d’entrée, en commençant par un filtrage rigoureux qui inspecte puis nettoie les données avant que l’IA ne les traite.
- Envisager d’ajouter des mécanismes de limitation du débit et de reconnaissance de motifs afin de détecter les tentatives de sondage par lesquelles des attaquants cherchent à tester les limites du système.
- Élaborer des plans d’intervention en cas d’incident propres à l’IA. « Qui intervient? Qui est déconnecté? Quelles preuves sont recueillies? Et ainsi de suite », affirme-t-il. « Plus important encore, à mon avis, nous voulons maintenir une supervision humaine. À l’heure actuelle, l’IA devrait soutenir le jugement humain, et non le remplacer, particulièrement lorsque des vulnérabilités et des décisions à forts enjeux sont en cause. »
Rançongiciels en tant que service (RaaS )
Enfin, il affirme que les rançongiciels en tant que service (RaaS ou Ransomware as a Service en anglais) ont fondamentalement transformé le paysage des menaces liées aux rançongiciels en abaissant les barrières techniques à l’entrée pour ceux qui lancent des attaques sophistiquées.
Non seulement ces services fonctionnent selon des modèles d’abonnement et de partage des profits, mais ils permettent également à des attaquants possédant une expertise technique minimale de « louer » des outils et une infrastructure de rançongiciel au moyen de plateformes simples et conviviales. Ces plateformes fournissent également des mises à jour continues et du soutien technique.
« Ce modèle d’affaires accroît véritablement la fréquence et l’ampleur des attaques par rançongiciel », affirme-t-il. « Ce qui était autrefois limité à une poignée d’attaquants hautement qualifiés est maintenant devenu un modèle d’affaires évolutif fondé sur l’abonnement, qui offre accessibilité et rentabilité et qui évolue constamment, ce qui le rend difficile à contrer. »
Jason Clark affirme que les RaaS sont particulièrement dangereux parce qu’ils fonctionnent comme des fournisseurs de services légitimes, offrant notamment des options de paiement flexibles et du soutien technique, ainsi qu’un accès à faible coût même aux cybercriminels inexpérimentés qui souhaitent lancer des campagnes sophistiquées de rançongiciels. « Ils perfectionnent constamment leurs techniques d’évasion », affirme M. Clark. « L’un des aspects les plus dangereux des RaaS est vraiment la rapidité avec laquelle ils peuvent prendre de l’ampleur. »
Il met également en garde contre les efforts continus déployés par ces services pour s’améliorer, ce qui permet aux RaaS de conserver une longueur d’avance sur ceux qui cherchent à s’en défendre. « Ces plateformes ne sont pas statiques », affirme-t-il.
Solutions :
Encore une fois, plusieurs stratégies proactives sont recommandées.
- Commencer par le renseignement sur les menaces. « La lutte contre les rançongiciels commence vraiment bien avant qu’une attaque n’atteigne votre réseau », affirme M. Clark. Il ajoute que les entreprises doivent se tenir au courant des plus récentes tactiques, techniques et procédures. À cette fin, il recommande de s’abonner à un service fiable de renseignements sur les menaces. « Tirez des leçons des incidents qui peuvent toucher vos pairs », affirme-t-il.
- Mettre en œuvre une surveillance continue. « Des exercices réguliers de recherche proactive de menaces sont vraiment essentiels. » Il affirme que de nombreuses attaques réussies ne font qu’exploiter d’anciennes vulnérabilités presque oubliées qui n’ont pas été corrigées.
- Mettre l’accent sur une protection robuste des terminaux, puisque ceux-ci sont souvent les premières cibles des attaques. « Il est essentiel de les sécuriser », affirme-t-il. « L’application rapide des correctifs est fondamentale. »
- Planifier à l’avance. « Même avec de solides défenses, il est important de se préparer au pire », mentionne-t-il.
- Sécuriser les sauvegardes et la récupération. Jason Clark recommande la stratégie classique « 3-2-1 ». Elle consiste pour les entreprises à conserver trois copies de leurs données sur au moins deux types de supports différents, dont au moins une sauvegarde stockée hors site.
- Segmenter le réseau. Appliquer le principe du moindre privilège afin de s’assurer que les utilisateurs ont uniquement accès à ce dont ils ont besoin. Limiter les accès et isoler les systèmes peut considérablement ralentir, voire contenir, la propagation d’un rançongiciel, affirme M. Clark. « Segmentez votre réseau, particulièrement entre les services ou les systèmes à haut risque. Réduisez la capacité de l’attaquant à se déplacer latéralement. »
