Ce n’est un secret pour personne que les cybercriminels ont récemment commencé à exploiter les grands modèles de langage pour optimiser leurs activités. En conséquence, les nombreuses campagnes de phishing et de programmes malveillants visant les entreprises ont nettement gagné en qualité. Ces emails contiennent désormais moins d’erreurs flagrantes et leur ton imite fidèlement celui d’une correspondance professionnelle légitime.

Cependant, les méthodes utilisées pour le déploiement de ces campagnes laissent toujours transparaître clairement leur véritable objectif : tenter de voler des identifiants ou d’exécuter du code malveillant. Les attaques de compromission de la messagerie en entreprise (BEC) constituent toutefois un défi plus important. Les attaques de type BEC reposent généralement entièrement sur l’ingénierie sociale, qui consiste à amener un employé à exécuter les demandes des escrocs.

La qualité de ces attaques s’est également considérablement améliorée depuis l’apparition des modèles LLM. Si les escrocs parviennent à leurs fins, c’est-à-dire s’ils réussissent à convaincre un employé de transférer des fonds vers un compte tiers plutôt que vers celui d’un prestataire, l’entreprise peut subir des pertes financières considérables en l’espace d’un instant. C’est pourquoi nous avons mis au point une technologie spécialisée permettant de détecter les emails BEC générés par l’IA. Exemple d’email BEC généré par un modèle LLM. Fonctionnement de la technologie de détection des emails BEC générés par l’IA Sans entrer dans les détails techniques, voici comment fonctionne cette nouvelle technologie.

Comme vous le savez peut-être, les grands modèles de langage ne rédigent pas de textes de la même manière que les humains. Ils se contentent plutôt de prédire les mots les plus susceptibles de correspondre à la tâche décrite dans l’invite. De plus, les cybercriminels ont tendance à choisir la voie de la facilité : plutôt que de réinventer la roue, ils s’appuient sur les modèles d’IA les plus répandus.

Comme l’objectif des pirates est évident, nous pouvons extraire du texte des expressions clés propres aux attaques BEC. Nous avons également appris à repérer quand un texte a été généré par une machine. Ces indicateurs sont la pierre angulaire de notre technologie de détection.

Notre solution de sécurité est donc désormais capable d’identifier et de bloquer les tentatives d’attaques BEC dès leur phase initiale, avant même que le pirate n’ait eu le temps de piéger un employé. Cette technologie permet actuellement de détecter les emails BEC générés par l’IA en anglais, russe, allemand, français, italien, espagnol, portugais et turc. Laquelle de nos solutions intègre la technologie de détection des emails BEC générés par l’IA ?

Notre gamme de solutions de sécurité pour les entreprises comprend Kaspersky Security for Mail Server, qui intègre Kaspersky Secure Mail Gateway. C’est au niveau de la passerelle de messagerie sécurisée que notre technologie de détection des attaques BEC basées sur l’IA est mise en œuvre. Pour être précis, cette fonctionnalité est disponible dans la licence KSMS Plus depuis la récente mise à jour KSMG 3.1.

Rendez-vous sur la page officielle de Kaspersky Secure Mail Server pour en savoir plus à propos de nos solutions de protection des messageries et des fonctionnalités ajoutées dans la dernière mise à jour.