Deep Fakes: Comment lutter contre les "deep fakes" et les arnaqueurs pilotés par l'IA ?
Le 18 juillet 2024, Aurel-George Proroocu et Mihai Roman, Security & Fraud Chapter Leads chez ING, interviendront au congrès mondial WeAreDevelopers à Berlin. Cet événement est le plus important au monde pour les développeurs et les décideurs en matière de technologie. Ils partageront leurs points de vue sur la menace croissante des "deep fakes" dans nos vies, tant sur le plan personnel que professionnel.
Pourquoi les "deep fakes" sont-ils un sujet important ?
Aurel-George : «Les deep fakes utilisent la technologie de l'IA pour générer du contenu montrant des personnes en train de dire ou de faire des choses qu'elles n'ont jamais faites dans la réalité. Les cybercriminels s'en servent pour usurper l'identité de personnes que nous connaissons et en qui nous avons confiance. Cette tactique, appelée ingénierie sociale ou manipulation sociale, permet aux arnaqueurs d'être plus efficaces et de cibler davantage de personnes. Ils jouent sur vos émotions, créant un sentiment de panique. C'est à ce moment-là que les gens sont les plus vulnérables.»
Mihai : «Il n'existe pas de solution miracle. Cependant, les outils de détection évolueront en parallèle avec les technologies de deep fake et d'IA. En attendant, nos collègues produisent beaucoup de contenu sur les réseaux sociaux et collaborent avec d'autres banques et autorités pour combattre et relever ces défis. C'est une responsabilité qui incombe à l'ensemble de la société.»
Comment fonctionne le deep fake ?
Aurel-George : «L'arnaque n'est pas un phénomène nouveau. Il y a de nombreuses années, il y avait ce qu'on appelle le 'accident scam'. Les arnaqueurs contactaient les parents d'une personne, disons John, en prétendant qu'il avait eu un accident et en demandant de l'argent rapidement pour lui sauver la vie. Ils jouaient vraiment sur les émotions des gens, allant même jusqu'à envoyer quelqu'un pour collecter l'argent en personne.»
Mihai : «Aujourd'hui, les États-Unis font face à une version 2.0 du 'accident scam'. Les arnaqueurs utilisent maintenant la voix de John pour appeler ses parents, rendant l'escroquerie beaucoup plus réaliste. Ils demandent d'envoyer rapidement de l'argent via un lien de paiement. La pression émotionnelle est bien plus forte ainsi. Et ce n'est qu'un exemple de la manière dont les malfaiteurs exploitent les deep fakes.»
Y a-t-il déjà des cyber-arnaqueurs utilisant des "deep fakes" dans le secteur bancaire ou en Belgique ?
Mihai : «Nous n'en voyons pas beaucoup en dehors des États-Unis et d'autres pays anglophones. Du moins, pas encore. Cependant, il y a déjà eu des incidents en Belgique et aux Pays-Bas. Ce n'est qu'une question de temps avant que cela ne nous touche également. La technologie de l'IA évolue et s'améliore rapidement dans des langues autres que l'anglais.»
Chaque année, Aurel-George et Mihai ont plusieurs occasions de s'exprimer, que ce soit lors de discussions internes ou de conférences technologiques mondiales. Aurel-George explique : «Nous nous assurons toujours que le public retienne clairement notre message. En ce qui concerne les deep fakes, notre but est de sensibiliser les gens sur les mesures de protection à adopter tant dans leur vie personnelle et professionnelle.»
Mihai : «Nous présentons des cas concrets ainsi qu'une vidéo que nous avons produite nous-mêmes. Vous pouvez voir Aurel-George à l'écran, mais c'est moi qui parle. La réalisation a été relativement simple, grâce à l'utilisation d'une technologie open source et à des ressources matérielles modestes. Cela démontre simplement que cela pourrait vous arriver à vous aussi».
Comment pouvons-nous nous protéger ?
Aurel-George : « Les escrocs utilisent toutes les données disponibles qu'ils trouvent. Soyez donc vigilant quant aux informations que vous partagez sur les plateformes comme Meta. Posez des questions auxquelles seule la personne réelle pourrait répondre de manière détaillée. Les escrocs essaieront de les contourner, en profitant de l'état de panique dans lequel vous pourriez vous trouver. Mais cela peut tout de même contribuer à vous protéger.»
Mihai : «Soyez vigilant et attentif. Soyez à l'affût des signes qui paraissent inhabituels. Si vous avez des doutes, abstenez-vous de cliquer ou de suivre les instructions demandées. Par exemple, cela peut arriver même avec un simple SMS vous invitant à appeler un numéro. Dans ce cas, vérifiez le numéro en le comparant avec celui enregistré dans l'application de votre banque. Le principe est simple : ne faites confiance à personne, y compris à vous-même.»
Les "deep fakes" sont-ils le seul sujet de vos conférences ?
Aurel-George : «Bien que les deep fakes captent beaucoup d'attention actuellement, nous traitons également d'autres sujets. J'aime offrir au public des connaissances précieuses qu'il peut appliquer. Nous aimons aussi partager la culture et les réalisations d'ING. Nous mettons toujours l'accent sur notre culture de l'ingénierie, parce que nous sommes une véritable entreprise technologique.»
Mihai : «J'ai également eu l'occasion de discuter d'ingénierie par le passé. En tant qu'ingénieur, notre curiosité s'étend à tous les domaines d'actualité. Actuellement, l'intelligence artificielle et les deep fakes occupent une place centrale. Nous organisons ces conférences dans le but de sensibiliser le public et de protéger à la fois la banque, les clients et toutes les personnes à travers le monde.»
Comment êtes-vous entré dans le domaine de la cybersécurité ?
Aurel-George : «J'ai débuté ma carrière en tant que jeune entrepreneur à l'âge de 16 ans en cofondant un fournisseur d'accès à Internet dans ma ville natale, Bucarest. Depuis lors, j'ai occupé divers postes dans le domaine des technologies de l'information – de l'ingénierie à la direction. Il y a cinq ans, j'ai rejoint ING, me concentrant sur la fraude et la cybersécurité. J'adore travailler ici, car nous nous tenons vraiment au courant de ce qui se passe dans le monde et nous explorons des solutions. »
Mihai : «Je suis ingénieur depuis aussi longtemps que je me souvienne, cela fait au moins 10 à 15 ans. J'ai commencé dans mon pays natal, la Roumanie, au sein d'une équipe travaillant pour ING. Après six ans, j'ai pris un aller simple pour la Belgique et j'ai débuté dans le domaine de la sécurité, avec pour objectif de protéger la banque et ses clients contre les menaces malveillantes. Puis l'intelligence artificielle et les deep fakes sont arrivés, et nous voilà...»
Le congrès mondial WeAreDevelopers se tiendra du 17 au 19 juillet à Berlin. Il accueillera 8000 entreprises, 15000 participants et plus de 500 intervenants dont Aurel-George et Mihai. Pour en savoir plus, cliquez ici.
Aurel-George et Mihai ont déjà abordé ce sujet lors du NDC Security à Oslo en janvier de cette année. Vous pouvez visionner l'enregistrement ici.