L’IA et la menace de deepfakes

Un employé d’une multinationale hongkongaise a été dupé et a payé 25 millions de dollars à des fraudeurs utilisant la technologie des deepfakes pour se faire passer pour le directeur financier de son entreprise lors d’une vidéoconférence, comme l’a indiqué la police de Hong Kong.

Dans cette escroquerie sophistiquée, cet employé croyait assister à une vidéoconférence avec plusieurs collègues, alors qu’il s’agissait en fait de trucages par deepfake, comme l’a expliqué vendredi le responsable de la police, Chan Shun-ching.

L’employé a reçu un message qui semblait provenir de son directeur financier, basé au Royaume-Uni, lui demandant d’effectuer une transaction secrète. Il a initialement pensé qu’il s’agissait d’un e-mail de phishing, ou hameçonnage. Cependant, il a été convaincu que tous les autres participants à la vidéoconférence étaient authentiques, car ils avaient l’apparence et la voix de ses collègues – alors qu’il s’agissait en fait de trucages par deepfake.

Ignorant qu’il s’agissait d’une escroquerie, l’employé a, selon la police, viré 200 millions de dollars hongkongais, soit environ 25,6 millions de dollars.

Cette affaire est l’un des nombreux incidents récents dans lesquels des fraudeurs ont utilisé la technologie des deepfakes pour manipuler des vidéos et d’autres séquences en accès libre afin de tromper leurs victimes et de voler leur argent. Avec l’utilisation de l’IA et des deepfakes, les pratiques frauduleuses ont pris une nouvelle dimension.

La fraude dite « au président » est un grave problème pour les dirigeants d’entreprise. Dans ce type de fraude, les criminels se font passer pour des cadres supérieurs afin de manipuler des employés qui ne se doutent de rien, en particulier ceux qui traitent des questions financières, et de les amener à effectuer des transferts de fonds non autorisés. Souvent, ils créent un sentiment d’urgence ou de confidentialité et exercent une forte pression sur le collaborateur responsable des transferts.

À l’ère de l’IA, la fraude au président pourrait devenir encore plus répandue en raison de l’utilisation répandue des deepfakes. Ceux-ci impliquent la manipulation d’enregistrements vidéo ou audio à l’aide de l’IA, et soulèvent des inquiétudes quant à la désinformation et à l’utilisation abusive, y compris des deepfakes où des individus semblent tenir des propos qu’ils n’ont jamais réellement tenus.

À mesure que nous dépendons de plus en plus de l’IA pour diverses applications, le revers de la médaille de cette avancée technologique est l’escalade des menaces dans le domaine de la cybersécurité. Selon une enquête récente, la plupart des responsables de la sécurité informatique s’attendent à une évolution des menaces, et 46 % indiquent que l’IA et l’apprentissage automatique sont les cyber-risques les plus importants. Les experts anticipent des niveaux plus élevés de cyber-risques à mesure que les technologies basées sur l’IA progressent et permettent aux pirates d’améliorer leurs tactiques, leur rapidité et leur champ d’action. Les pirates utilisent également l’IA générative pour créer des logiciels malveillants plus sophistiqués et des e-mails d’hameçonnage plus convaincants, ce qui les rend de plus en plus difficiles à détecter. Pour suivre le rythme de ces menaces en constante évolution, il faut des mesures de cybersécurité innovantes pour toujours garder une longueur d’avance.

Investir dans la cybersécurité
De nombreux éléments viennent souligner l’importance croissante de la protection des données et des infrastructures numériques, et le secteur de la cybersécurité devrait être un élément crucial de l’économie américaine l’année prochaine, notamment à cause des facteurs suivants :

1. Les cybercriminels sont de plus en plus à même d’exploiter des vulnérabilités et de développer de nouvelles méthodes d’attaque. Par conséquent, les entreprises et les organisations doivent garder une longueur d’avance et mettre en œuvre des mesures de cybersécurité efficaces. Cela tire la demande pour des solutions de cybersécurité de pointe, telles que les systèmes de détection et de prévention des menaces, les outils de chiffrement des données et les formations de sensibilisation à la sécurité.

2. De plus en plus d’entreprises et d’organisations se tournent vers des plateformes en ligne et adoptent des technologies basées sur le cloud. Cela signifie que le nombre de cibles potentielles de cyberattaques augmente, ce qui rend nécessaires des stratégies de cybersécurité complètes qui englobent sécurité des réseaux, sécurité des terminaux et sécurité du cloud.

3. Les cyberattaques peuvent avoir des conséquences financières catastrophiques pour les organisations, avec des violations de la confidentialité de données, des activités mises à l’arrêt, et une atteinte à leur réputation. Cela oblige les entreprises à investir massivement dans la cybersécurité pour protéger leurs actifs et réduire le risque de cyberincidents coûteux.

Les entreprises semblent prendre la cybersécurité au sérieux, car plus des deux tiers des responsables en sécurité informatique ont constaté une augmentation des budgets de cybersécurité pour 2024. Selon une nouvelle prévision de Gartner, les dépenses mondiales des utilisateurs finaux en matière de sécurité et de gestion des risques devraient atteindre 215 milliards de dollars en 2024. Ce serait là une augmentation de 14,3 % par rapport à 2023, année où on estime que ces mêmes dépenses ont dépassé 188 milliards de dollars.