ÃÛÌÒTV

Manipulatie van identiteit

Met generatieve AI kan in luttele seconden ultrarealistisch beeld en geluid worden gemaakt, en kunnen live videobeelden worden gewijzigd op het moment dat ze worden gegenereerd. Dit is slecht voor het vertrouwen in allerlei belangrijke systemen, van gezichtsherkenningssoftware tot juridisch beeldbewijs tot politieke campagnes. Hiermee wordt het vertrouwen in vrijwel elke vorm van visuele identiteit ondermijnd. 

Phishing met dynamiet

Aanvallers kunnen generatieve AI gebruiken voor het realistisch namaken van gezichten, stemmen en schrijfstijlen, en voor het nabootsen van bedrijfslogo's en merken. Die kunnen vervolgens worden ingezet voor zeer effectieve phishing die moeilijk te herkennen is. 

Prompt injection

Omdat veel organisaties kant-en-klare modellen voor generatieve AI gebruiken, stellen ze de informatie die ze gebruiken voor het trainen ervan en in prompts bloot aan mogelijke injection-aanvallen die worden uitgevoerd op veelgebruikte AI-modellen. Zonder strenge beveiligingsmaatregelen en regelmatige updates is een exploit voor het basismodel een risico voor elk bedrijf dat gebruikmaakt van dat model.  

Machine-hallucinaties

De spraak en tekst die door AI wordt gegenereerd, is in het algemeen behoorlijk overtuigend, maar niet altijd juist. Dit kan een probleem zijn voor organisaties die op AI vertrouwen voor het genereren van informatie voor gebruikers, of machine learning gebruiken voor het opsporen van dreigingen. In dergelijke situaties kunnen afwijkende resultaten behoorlijk kostbaar zijn. 

Geraffineerde aanvallen

Omdat AI op bovenmenselijke snelheid functionele code kan schrijven, kan het potentieel worden gebruikt om aanvallen op te schalen met ongekende snelheid en complexiteit. Daarnaast kan AI worden gebruikt voor het opsporen van kwetsbaarheden in gecompromitteerde code, waarmee aanvallers zich gemakkelijker toegang kunnen verschaffen.  

Maatwerkmalware

De meeste populaire LLM's zijn tot op zekere hoogte beveiligd tegen gebruikers die kwaadaardige code maken, maar geavanceerde cybercriminelen kunnen nog altijd exploits en achterdeurtjes vinden. Ook kunnen gestolen of gekopieerde modellen worden ontdaan van deze beveiligingsmaatregelen, met als gevolg dat boosdoeners aangepaste exploits kunnen maken die vrijwel onmogelijk zijn op te sporen. 

Datavergiftiging

Aanvallen hoeven niet per se misbruik te maken van de AI zelf. In plaats daarvan kunnen de data die worden gebruikt om het machine-learningmodel te trainen het doelwit worden, met als doel het genereren van vervalste output. Die kan vervolgens worden gebruikt om exploits te maken binnen het model zelf en bijvoorbeeld een DNA-keten in een database met criminelen te vervalsen; of er kunnen simpelweg resultaten worden geproduceerd om de organisatie schade toe te brengen.  

Datalekken

AI die is getraind met gevoelige gegevens of die verwerkt, kan die gegevens mogelijk openbaarmaken; door een bug, zoals is gebeurd met enkele van de grote commerciële modellen, of als gevolg van een gerichte aanval.