La privacy nell’era degli LLM

Di cosa ti preoccupi quando utilizzi un LLM? Delle allucinazioni? Della struttura del tuo prompt?
E alla privacy, ci pensi mai?

Siamo tutti molto attenti a non inserire dati personali su un sito pubblico, ma spesso non abbiamo la stessa cura quando si tratta di intelligenza artificiale, soprattutto nel caso di un suo utilizzo in ambito lavorativo: la sensazione, amplificata dall’uso del linguaggio naturale da parte dello strumento è di “chiacchierare” privatamente con qualcuno di cui ci possiamo fidare.

La realtà però è ben diversa: i dati che carichiamo possono essere memorizzati nei log del provider e usati per migliorare i modelli futuri, violando il GDPR ed esponendo l’azienda a diversi rischi, forse non ancora del tutto esplorati.
Le informazioni strategiche, riservate e personali possono diventare la risposta all’interrogazione di un altro utente, esponendo informazioni riservate all’esterno e possono essere contaminati con informazioni esterne o allucinazioni, dando origine ad output che contendono dati reali mescolati a invenzioni.

Infine, possono diventare oggetto di data leakage o di attacchi intenzionali, che adottano dinamiche di reverse engineering per recuperare informazioni nascoste.

A cosa fare attenzione? Non soltanto alle password e ai numeri di carta di credito, ma anche a informazioni riservate di business (come strategie, prezzi, contratti o report interni) e naturalmente ai dati personali dei clienti raccolti per fini marketing.?
Questo significa rinunciare ad usare l’AI? Naturalmente no.
Basta adottare costantemente e diligentemente alcune buone pratiche per il suo utilizzo.

In Olojin abbiamo condotto un audit specifico, con esperti di privacy, per verificare gli impieghi dell’AI e definire delle regole per il suo utilizzo,.
Abbiamo scelto di non usare l’intelligenza artificiale per l’archiviazione di dati e applichiamo il principio di “privacy by design”, anteponendo la tutela dei dati alla scrittura del prompt.

Lavoriamo solo su testi già “puliti” da dati personali o informazioni riservate e non carichiamo mai dati sensibili o riservati dei clienti all’interno dei tool che utilizziamo.

Anche se il nostro tool di AI preferito ci parla come se fosse un amico, sappiamo bene che potrebbe essere proprio quell’amico che giura che non dirà niente a nessuno, ma poi…