Deep Fakes: Hoe deepfakes en AI-gestuurde oplichters bestrijden
Op 18 juli 2024 zullen Aurel-George Proroocu en Mihai Roman, ING's Security & Fraud Chapter Leads, spreken op het WeAreDevelopers World Congress in Berlijn. Het meest toonaangevende evenement ter wereld voor developers en tech decision-makers. Ze zullen inzichten delen over de toenemende dreiging van deepfakes in ons leven in zowel persoonlijke als professionele conext.
Waarom zijn deepfakes een belangrijk onderwerp?
Aurel-George: “Deepfakes gebruiken AI-technologie om content te genereren waarin mensen dingen zeggen of doen die ze nooit in het echt gedaan hebben. Cybercriminelen gebruiken het om zich voor te doen als mensen die we kennen en vertrouwen. Dit heet ‘social engineering’, ofwel sociale manipulatie. Hierdoor kunnen oplichters efficiënter te werk gaan en meer mensen aanspreken. Ze doen een beroep op je emoties en creëren een gevoel van paniek. Dan zijn mensen het meest kwetsbaar."
Mihai: "Er is geen magische oplossing voor dit probleem. Maar naarmate deepfake- en AI-technologie zich ontwikkelen, zullen ook de detectietools verbeteren. Ondertussen creëren onze collega's veel content op sociale media en werken ze samen met andere banken en autoriteiten om deze uitdagingen te bestrijden en aan te pakken. Het is de verantwoordelijkheid van de hele samenleving om hiermee om te gaan."
Hoe werken deepfakes?
Aurel-George: "Oplichting is niets nieuws. Jaren geleden was er the accident scam. Oplichters belden bijvoorbeeld de ouders van iemand, laten we hem John noemen, en vertelden hen dat John een ongeluk had gehad. Ze vroegen om snel geld om zijn leven te redden. Ze deden echt een beroep op hun emoties. Ze stuurden zelfs iemand langs om het geld op te halen."
Mihai: "Tegenwoordig zien we de the accident scam 2.0 in de VS. Nu gebruiken ze de stem van John wanneer ze zijn ouders bellen, waardoor het veel echter lijkt. Ze vragen hen om snel geld te sturen via een betaallink. De emotionele druk is nog groter op deze manier. En dat is slechts één voorbeeld van hoe deepfakes door criminelen worden gebruikt."
Zien we deepfake-cyberoplichting ook in de bankensector of in België?
Mihai: "We zien het niet veel gebeuren buiten de VS of andere Engelstalige landen. Nog niet in ieder geval. Er zijn echter wel al incidenten geweest in België en Nederland. En het is slechts een kwestie van tijd tot het ook ons zal overspoelen. AI-technologie evolueert en verbetert snel, ook in andere talen dan het Engels."
Aurel-George en Mihai spreken elk jaar op verschillende gelegenheden, van interne presentaties tot wereldwijde tech-conferenties. Aurel-George: "We hebben altijd een duidelijk doel voor ogen over wat we het publiek willen meegeven. Het doel voor deepfakes is om mensen bewust te maken en ze te informeren over hoe ze zichzelf kunnen beschermen in zowel hun persoonlijke als professionele leven."
Mihai: "We delen voorbeelden uit het echte leven, maar laten ook een zelfgemaakte video zien. Je ziet Aurel-George maar je hoort mij praten. Het was vrij eenvoudig om te maken, met behulp van open source technologie en zelfs beperkte hardware power. Gewoon om te zeggen dat dit jou ook allemaal kan overkomen."
Hoe kunnen we onszelf beschermen?
Aurel-George: "Oplichters gebruiken alle beschikbare gegevens dat ze kunnen vinden. Wees dus voorzichtig met wat je deelt op Meta en stel gedetailleerde vragen die alleen de echte persoon kan beantwoorden. Ze zullen proberen daar omheen te werken, omdat ze inspelen op de staat van paniek waarin je verkeert. Maar het kan nog steeds helpen."
Mihai: "Kijk en luister goed. Let op signalen die niet lijken te kloppen. Als je het niet vertrouwt, klik dan niet of doe niet wat ze je vragen. Maar het kan ook gebeuren met een simpel sms'je waarin ze je vragen een nummer te bellen. Als dat gebeurt, controleer dan het nummer en kijk of het ook in je bankapp staat. De eenvoudige regel is: vertrouw niemand, ook jezelf niet."
Praten jullie alleen over deepfakes?
Aurel-George: “Deepfakes zijn tegenwoordig interessant, maar we praten ook over andere onderwerpen. Ik vind het belangrijk om het publiek iets waardevols mee te geven. Daarnaast delen we graag onze ING-cultuur en prestaties. We benadrukken altijd onze engineeringcultuur, omdat we echt een techbedrijf zijn."
Mihai: "Ik heb het ook al over engineering gehad. Maar zoals elke ingenieur zijn we nieuwsgierig naar alles wat er in de wereld gebeurt. En vandaag zijn AI en deepfakes het onderwerp van het moment. We geven deze presentaties om bewustzijn te creëren. Om de bank, de klanten en iedereen in de wereld te beschermen."
Hoe ben je in cybersecurity terechtgekomen?
Aurel-George: "Ik begon mijn carrière als jonge ondernemer op 16-jarige leeftijd, toen ik medeoprichter was van een Internet Service Provider in mijn geboortestad Boekarest. Sindsdien heb ik in verschillende functies binnen de IT gewerkt, van ingenieur tot manager. Vijf jaar geleden ben ik bij ING begonnen, in fraude en cybersecurity. Ik werk hier graag, omdat we echt op de hoogte blijven van wat er in de wereld speelt en oplossingen verkennen."
Mihai: "Ik ben al zo lang ingenieur als ik me kan herinneren, zeker 10 tot 15 jaar. Ik begon in mijn thuisland Roemenië, in een team dat voor ING werkte. Na zes jaar kocht ik een enkel ticket naar België en ging ik werken in security. Om de bank en haar klanten te beschermen tegen mensen met slechte bedoelingen. Toen kwamen AI en deepfakes en hier staan we nu..."
Het WeAreDevelopers World Congress vindt plaats van 17 tot 19 juli in Berlijn. Met 8 000 bedrijven, 15 000 bezoekers en meer dan 500 sprekers. Ontdek er hier meer over.
Aurel-George en Mihai sprak al over dit onderwerp op de NDC Security in Oslo in januari van dit jaar. Je kunt de opname hier bekijken.