CrowdStrike volgt aandachtig het gebruik van gefabriceerde en gemanipuleerde content van threat actors uit natiestaten, criminele en hacktivistische organisaties die worden gebruikt om individuen en groepen mensen te misleiden voor verschillende doeleinden. De drempel voor deepfake content wordt steeds lager, dankzij de voortdurende ontwikkeling van generative AI. CrowdStrike verwacht dat het gebruik van generative AI-tools in criminele, desinformatie- en beïnvloedingsoperaties door threat actors het komende jaar zal toenemen, aldus Adam Meyers, Head of Counter Adversary Operations bij Crowdstrike.
Een recent voorbeeld zijn de China-nexus actoren. Die worden ervan beschuldigd dat ze AI hebben gebruikt om videocontent van de Taiwanese presidentskandidaten te manipuleren, twee dagen voor de verkiezingen. Taiwanese mediabronnen meldden dat Chinese beïnvloedingsactoren mogelijk een grote hoeveelheid met AI gemanipuleerde content over de Taiwanese president Tsai Ing-wen en presidentskandidaat Lai Ching-te hebben ontwikkeld en verspreid via social media. Het gebruik van generative-AI tekst-naar-spraak taalmodellen en AI-gegenereerde avatars hebben volgens anonieme officiële bronnen doen geloven dat deze informatieoperatie (IO) werd uitgevoerd door Chinese beïnvloedingsactoren. Het gebruik van meerdere generative AI-taalmodellen in pro-Chinese IO’s is een consistente trend geweest in 2022 en 2023.
> LEES OOK: Risico’s van generatieve AI vereisen terughoudendheid in gebruik
Nep-robotoproepen bij verkiezingen in New Hampshire
Eind januari 2024, in de aanloop naar de voorverkiezingen in New Hampshire, werd een onderzoek aangekondigd naar vermeende pogingen om kiezers te onderdrukken. Potentiële kiezers ontvingen nep-robotoproepen met een stem die de Amerikaanse president Biden imiteerde, inclusief anekdotes die vaak door de president worden gebruikt.
> LEES OOK: Vijf AI trends voor 2024
Daarnaast werd er deze week nog, twee dagen voor de verkiezingen in Slowakije, een geluidsopname op sociale media geplaatst waarin de stem van Michal Simecka, de leider van de progressieve Slowaakse partij, werd nagebootst. Er werd gesproken over het manipuleren van de verkiezingen door middel van het kopen van stemmen.
Beide incidenten tonen aan dat generatieve AI waarschijnlijk een aanzienlijke rol zal spelen bij het maken van misleidende of fake content in het kader van mis- of desinformatiepogingen met betrekking tot diverse verkiezingen wereldwijd in 2024.
Adam Meyers, Head of Counter Adversary Operations, CrowdStrike
Volg Security Management op LinkedIn