ÃÛÌÒTV

Manipolazione dell'identità

L'AI generativa può creare immagini e video ultra-realistici in pochi secondi e persino modificare i video in tempo reale mentre vengono generati. Questo può minare la fiducia in una serie di sistemi fondamentali, dai software di riconoscimento facciale alle prove video nel campo legale fino alla disinformazione politica, compromettendo la fiducia in quasi tutte le forme di identità visiva. 

Phishing ad alto potenziale

Gli aggressori possono utilizzare strumenti di AI generativa per simulare in modo realistico volti, voci e stili di scrittura, nonché emulare l'identità aziendale o del marchio, e utilizzare il tutto per attacchi di phishing ad alta efficacia e difficili da rilevare. 

Rischio injection con i prompt

Le tante organizzazioni che utilizzano modelli di AI generativa già pronti, espongono potenzialmente le informazioni usate per addestrare o fornire prompt alle loro istanze ad attacchi di tipo injection perfezionati dagli aggressori per colpire i modelli più diffusi. In assenza di misure di sicurezza rigorose e di aggiornamenti frequenti, un exploit per il modello di base può esporre qualunque organizzazione utilizzi quel modello.  

Allucinazioni della macchina

Sebbene l'AI sia nel complesso in grado di creare rapidamente un discorso o un testo convincente, non è sempre accurata. Questo è un problema complesso per le organizzazioni che si affidano all'AI per generare contenuti informativi o di supporto per gli utenti, così come per le organizzazioni che utilizzano il machine learning per rilevare le minacce, perché in entrambi i casi un risultato anomalo può rivelarsi molto costoso. 

Accuratezza dell'attacco

Grazie alla sua capacità di scrivere codice funzionale con velocità sovrumana, l'AI può essere impiegata per scalare attacchi con una velocità e una complessità senza precedenti. Inoltre, l'AI può essere utilizzata per individuare le vulnerabilità in una base di codice compromessa e può ampliare il raggio d'azione degli aggressori abbassando la barriera d'ingresso.  

Malware personalizzato

Anche se gli LLM più diffusi hanno alcune protezioni contro la creazione di codice malevolo da parte degli utenti, gli aggressori più sofisticati possono trovare exploit e falle. Inoltre, è possibile privare di tali protezioni i modelli rubati o copiati, consentendo agli aggressori di generare rapidamente exploit quasi non rilevabili e altamente personalizzabili. 

Dati avvelenati

Gli attacchi non richiedono necessariamente un exploit basato su AI. Possono anche mirare ai dati usati per addestrare un modello di machine learning al fine di falsare l'output. Questa azione si può ulteriormente sfruttare per creare exploit all'interno del modello stesso - come falsificare la sequenza di un DNA in un database criminale - o semplicemente per produrre risultati dannosi per l'organizzazione target.  

Fughe di notizie sulla privacy

L'AI addestrata con dati sensibili o coinvolta nella gestione di tali dati, può potenzialmente esporli, sia a causa di un bug, come è accaduto con alcuni dei principali modelli commerciali, sia attraverso un attacco mirato.