Foto per l'articolo Privacy e dati negli strumenti IA
Foto di viarami su Pixabay

Valutazione strumenti

Privacy e dati negli strumenti IA

Quattro controlli sui dati prima di usare uno strumento IA per il lavoro: contenuti, usi dichiarati, conservazione e accessi.

Questo è uno pseudonimo editoriale della testata, non una dichiarazione di identità personale verificata in modo indipendente. Firma editoriale originale: Redazione IA.

Prima di inserire dati di lavoro in uno strumento IA, chiarite quali contenuti riceverà, per quali scopi il fornitore dichiara di usarli, quanto a lungo li conserva e chi può accedervi. Verificate prodotto, account, piano e impostazioni: una dichiarazione generale sulla privacy può non descrivere il percorso di un file caricato o di una conversazione condivisa.

Per i dati personali, il riferimento europeo è il GDPR: l’art. 5 e il considerando 39 richiamano liceità, correttezza e trasparenza, limitazione della finalità, minimizzazione, limitazione della conservazione, esattezza, integrità e riservatezza, e responsabilizzazione. In Italia, il Garante per la protezione dei dati personali è l’autorità nazionale di riferimento.

Seguire il percorso dei dati

Il contenuto può entrare come testo incollato, file allegato o materiale richiamato da un’app collegata. Tracciate il caso concreto: chi invia il materiale, dove compare il risultato e chi lo riceve. Considerate anche progetti condivisi e copie scaricate.

Distinguete i dati personali dalle altre informazioni riservate: un documento senza dati personali può contenere segreti commerciali o condizioni contrattuali da proteggere secondo le regole dell’organizzazione. Per i dati personali valutate finalità, necessità, durata e accessi. Se il fornitore li tratta per conto dell’organizzazione, verificate ruoli e accordo sul trattamento.

Principi del GDPR applicabili ai dati nei tool IA

Licenza
Trattamento lecito, corretto e trasparente
Minimizzazione
Solo i dati necessari al compito vengono elaborati
Conservazione limitata
I dati non vengono mantenuti oltre il tempo necessario
Integrità e riservatezza
Protezione da accessi non autorizzati, perdita o danneggiamento

Leggere le dichiarazioni nel loro perimetro

Cercate risposte separate su elaborazione della richiesta, sicurezza, conservazione, miglioramento del servizio e addestramento dei modelli. Una dichiarazione sul mancato addestramento non indica, da sola, quanto restano disponibili i contenuti o chi può consultarli. Disattivare la cronologia non equivale necessariamente a cancellare subito ogni copia.

Le condizioni possono cambiare tra account personali, spazi di lavoro gestiti e servizi collegati. Verificate condizioni e impostazioni dell’account e del percorso usati: la cronologia dell’app Gemini può essere distinta da quella di Gemini in Workspace, mentre Microsoft Copilot Chat registra le interazioni per finalità di auditing eDiscovery.

Per Microsoft Copilot Chat, prompt e risposte sono trattati entro il perimetro del servizio Microsoft 365 e non sono usati per addestrare i modelli di base. Le interazioni sono registrate per auditing eDiscovery, mentre controlli e criteri variano in base al piano di abbonamento.

Con un account personale senza un’edizione Google Workspace idonea, le chat dell’app Gemini possono essere esaminate da revisori umani e usate per migliorare i prodotti, i servizi e le tecnologie di machine learning di Google. Google invita questi utenti a non inserire informazioni riservate o sensibili. Per le edizioni Workspace idonee che includono Gemini come servizio principale, i contenuti non sono esaminati da persone né usati per addestrare modelli di IA generativa fuori dal dominio senza permesso.

Differenze tra account personali e Workspace per Gemini (Google)

  • Account personaleChat possono essere esaminate da revisori umani e usate per migliorare prodotti AI di Google. Non consigliato per dati sensibili.
  • Edizione Google Workspace idoneaContenuti non sono esaminati da persone né usati per addestrare modelli fuori dal dominio senza permesso.

Pro e contro dell’uso della cronologia delle conversazioni in Copilot (Microsoft)

  • ProLe interazioni sono registrate per auditing e Discovery, utile per conformità legale e gestione documentale.
  • ControPrompt e risposte sono trattati all’interno del servizio Microsoft 365 e potrebbero essere accessibili a soggetti autorizzati, anche se non usati per addestrare modelli.

Controllare conservazione e accessi

Chiedete che cosa elimina ciascun comando: cancellare una chat, un file o un progetto può avere effetti diversi. Verificate copie in librerie, sistemi di conformità, backup ed esportazioni. Annotate chi imposta le durate e quali obblighi possono sospendere la cancellazione.

Distinguete chi può usare la funzione IA, chi può leggere la fonte e chi può vedere o scaricare il risultato. Un ruolo di amministratore, l’invito a un progetto e il permesso su un documento collegato sono autorizzazioni diverse. Controllate gruppi e collegamenti di condivisione prima di usare materiale aziendale.

Decisione prima dell’invio / Evidenza da raccogliere

Il contenuto è necessario?
Scopo della richiesta e versione ridotta dell’input.
L’uso dichiarato è compatibile?
Condizioni della funzione, piano, impostazioni e accordi pertinenti.
La durata è accettabile?
Regole per chat, file, copie e cancellazione.
Gli accessi sono corretti?
Permessi su fonte, spazio condiviso e risultato.

Per Gemini in Workspace, l’amministratore può configurare l’eliminazione automatica delle conversazioni inattive. Quelle che corrispondono alle impostazioni vengono di norma eliminate entro un giorno, ma errori di elaborazione possono ritardare la cancellazione; questa indicazione riguarda la cronologia di Gemini in Workspace, non l’app Gemini.

Applicare i principi ai dati in ingresso

Per ogni uso di dati personali, formulate una finalità specifica prima di scegliere l’input. Confrontate il compito con i dati che intendete inviare e togliete quelli non necessari: la minimizzazione riguarda ciò che viene trattato, non solo ciò che appare nella risposta.

Verificate che le informazioni siano corrette e aggiornate rispetto allo scopo. Se un dato inesatto può alterare il risultato o la decisione, correggetelo prima dell’invio o escludetelo. Per riservatezza e integrità, controllate che le misure tecniche e organizzative proteggano da accessi non autorizzati, perdita o danneggiamento accidentale.

La verifica non si esaurisce nella configurazione iniziale: l’organizzazione resta responsabile di rispettare i principi e di poterlo dimostrare. Conservate l’evidenza delle scelte — finalità, dati ammessi, durata prevista e misure di accesso — per ricostruire perché quel flusso è stato considerato adeguato.

Rendere verificabili finalità e informazioni

Per i dati personali, controllate che l’organizzazione sappia indicare alle persone interessate chi li tratta, per quali scopi e su quale fondamento, quali categorie di dati sono coinvolte e per quanto tempo saranno conservate. Verificate anche quali soggetti li ricevono, se sono trasferiti fuori dall’UE e quali diritti e possibilità di reclamo sono disponibili.

Nell’informativa rendete verificabili anche il nome dell’organizzazione e i contatti del responsabile della protezione dei dati, se presente. Tra i diritti da indicare rientrano, per esempio, l’accesso, la portabilità o la rimozione dei dati e la possibilità di presentare reclamo all’autorità di controllo; va inoltre indicato il diritto di revocare il consenso in qualsiasi momento.

Se i dati provengono da una fonte diversa dalla persona interessata, tra le informazioni da rendere verificabili rientrano provenienza ed eventuale origine pubblica. Se lo strumento comporta decisioni automatizzate, considerate se occorre spiegare la logica coinvolta e le conseguenze previste: non basta descrivere il testo inserito nel servizio.

Se il trasferimento fuori dall’UE non è chiarito, chiedete al fornitore quali soggetti ricevono i dati e dove vengono trattati prima di usare dati reali. Le informazioni sul trasferimento e sui destinatari devono essere coerenti con quelle rese alle persone interessate.

Le impostazioni amministrative possono incidere su chi è abilitato e sulle condizioni applicabili. Google Workspace indica che gli amministratori possono controllare l’accesso degli utenti all’app Gemini; gli account di lavoro o scolastici possono avere condizioni diverse da quelli personali. Verificate l’account e il servizio usati, non solo il nome dell’app.

Iniziare con un test circoscritto

Per una prima prova, costruite dati fittizi che conservino solo la struttura necessaria al compito. Cambiare un nome in un documento reale non rende automaticamente anonimo il caso: altri dettagli possono identificare la persona. Se servono dati reali, seguite la procedura interna prima del caricamento.

Documentate la decisione per il caso esaminato: contenuti ammessi, prodotto e account, impostazioni e persone abilitate. Riesaminatela quando cambiano funzione, fornitore, piano o finalità.

Prima di ampliare la prova, controllate che il test rispetti criteri osservabili: l’input contiene solo dati necessari, la finalità è definita, le regole di conservazione sono note e gli accessi a fonte e risultato sono coerenti con il lavoro. Se uno di questi elementi resta incerto, mantenete il test su dati fittizi.

Esempio compilato: per provare a preparare una bozza di email, usate uno scenario e dati fittizi; registrate prodotto e account verificati, finalità della prova, impostazioni, durata dichiarata e persone abilitate. Se durata o accessi non sono chiari, l’esito è “non pronto” e la prova resta sui dati fittizi.

Il passaggio ai dati reali è valutabile solo quando input, finalità, conservazione e accessi sono tutti noti e coerenti con il compito. Se uno di questi controlli fallisce o resta senza risposta, non ampliate la prova e chiedete chiarimenti prima di riprenderla.

Registrate anche le variazioni che richiedono una nuova verifica: un diverso scopo, una nuova categoria di dati, un cambiamento delle condizioni applicabili o dei soggetti che ricevono i contenuti. Per ogni aggiornamento, riesaminate finalità, durata, destinatari e misure di protezione prima di riprendere l’uso dei dati reali.

Per approfondire: Navigazione (garanteprivacy.it).

In questa guida

  1. Controllare la conservazione prima di caricare file aziendaliCome verificare la durata di file, chat, progetti e copie prima di caricare documenti aziendali in uno strumento IA.
  2. Verificare gli usi dichiarati dei dati inviati: le domandeDistingui elaborazione, addestramento, audit e servizi collegati nelle dichiarazioni sui dati inviati agli strumenti IA.
  3. Confrontare permessi individuali e di teamUna matrice per verificare l’accesso a fonti, chat, progetti e risultati quando un team usa strumenti IA.
  4. Usare dati non sensibili durante un testPrepara casi fittizi per provare uno strumento IA senza inviare dati personali o informazioni aziendali riservate.

Altro su Valutazione strumenti

Valutazione strumenti

Affidabilità degli strumenti IA

Come valutare ripetibilità, documenti lunghi, recupero degli errori e garanzie di servizio di uno strumento IA usato nel lavoro.