L’intelligence artificielle (IA) est une technologie en constante évolution qui offre de nombreuses opportunités, mais elle présente également des risques, notamment lorsqu’elle tombe entre de mauvaises mains comme celles des escrocs.
Les cybercriminels et les escrocs en ligne exploitent de plus en plus l’IA pour améliorer leurs tactiques et rendre leurs attaques plus efficaces.
Dans cet article, nous explorons comment l’IA est utilisée dans le domaine de la cybercriminalité et les risques qu’elle présente. Comprendre cela vous permettra d’être plus vigilant à l’avenir.
Des arnaques sophistiquées
L’une des utilisations de l’IA par les cybercriminels concerne le « phishing » ou hameçonnage. Cette technique consiste à contacter une cible pour l’inciter à divulguer ses identifiants sur un site Web frauduleux qui imite un site légitime. L’IA est utilisée pour générer des e-mails convaincants, exempts de fautes d’orthographe ou de grammaire, ce qui rend les attaques plus crédibles. En conséquence, le rythme des attaques augmente, ce qui pose un défi majeur pour la cybersécurité.
|
Il est important de souligner que l’IA amène à ne plus voir de fautes d’orthographe sur les faux sites (ou faux email) ! C’est pourtant l’une des recommandations souvent citée pour déceler une arnaque… Hors ce sera de moins en moins vrai et le manque de fautes d’orthographe ne doit pas lever votre vigilance. |
Les pirates utilisent des forums en ligne et des messageries privées pour partager des « prompts », des modèles permettant de générer automatiquement des messages frauduleux de plus en plus ciblés.
Pour contourner les limitations imposées par les fournisseurs de solutions d’IA, certains groupes ont développé des modèles de langage spécialement conçus pour produire du contenu malveillant, comme FraudGPT. Bien que leur efficacité soit encore à prouver, cette tendance est en croissance, et les experts avertissent que nous n’en sommes qu’au début.
Risques de fuite de données
Une étude récente du cabinet Gartner a identifié l’IA générative comme l’une des cinq principales menaces émergentes pour les entreprises. L’une des principales préoccupations est la fuite de données sensibles partagées par les employés au sein d’outils d’IA générative.
Toute information saisie dans ces outils peut être intégrée à leur corpus d’apprentissage, ce qui signifie que des données confidentielles pourraient se retrouver dans les résultats générés pour d’autres utilisateurs. Les entreprises doivent être vigilantes pour éviter de telles fuites de données.
Pour rassurer les entreprises, certaines sociétés, comme OpenAI, ont lancé des versions professionnelles de leurs robots, telles que ChatGPT Enterprise, qui n’utilisent pas les conversations pour leur entraînement. Google recommande également de ne pas saisir d’informations confidentielles ou sensibles dans ses chatbots, tels que Bard.
Usurpation d’identité et de voix
L’une des nouvelles menaces les plus préoccupantes liées à l’IA est la facilité avec laquelle il est désormais possible de copier un visage ou une voix. À partir d’un enregistrement vocal ou vidéo de quelques secondes, des outils en ligne peuvent générer des imitations très convaincantes. Cette technologie est susceptible d’être exploitée par des escrocs pour tromper les individus, voire les entreprises.
Les petits escrocs, qui sont souvent à l’origine de campagnes de SMS malveillants ou d’arnaques au président, pourraient utiliser ces outils pour extorquer des informations sensibles, telles que des numéros de cartes bancaires.
Les voix ou les vidéos truquées peuvent avoir un impact significatif sur les victimes, modifiant le cours des événements en faveur des cybercriminels.
L’IA au service des futurs escrocs
Malgré les inquiétudes, il est important de noter que l’IA générative n’est pas encore la principale source d’attaques réussies. Les experts estiment que les attaques réussies au cours de la dernière année n’ont pas été principalement produites par une IA générative.
Cependant, l’IA peut permettre à des individus moins compétents de monter en compétence dans le domaine de la cybercriminalité. Bien que ces outils puissent identifier des failles et générer du code malveillant, ils ne peuvent pas encore exécuter directement ces attaques complexes.
Conclusion
L’IA est un double tranchant. Elle offre de nombreuses possibilités, mais elle présente également des risques importants, notamment lorsqu’elle est utilisée par des cybercriminels.
Les entreprises et les particuliers doivent être vigilants et adopter des mesures de sécurité appropriées pour se protéger contre les menaces liées à l’IA dans le monde numérique en constante évolution.
Soyez le premier à commenter