
Progetti pilota
Parte di Progetti pilota con l'IA
Limitare il primo test a un processo a basso rischio
Come scegliere per il primo test IA un processo controllabile e reversibile, definendo i casi ammessi e le condizioni di arresto.
Per limitare il primo test IA a un processo a basso rischio, scegli un’attività con scopo, utenti e contesto d’uso circoscritti e impatti che si possano valutare. Il NIST AI RMF articola la gestione del rischio nelle funzioni Govern, Map, Measure e Manage: Map inquadra il contesto, Measure valuta le caratteristiche del sistema e Manage aiuta a decidere se procedere.
Nell’UE il riferimento normativo è il regolamento (UE) 2024/1689, la legge sull’IA, che definisce 4 livelli di rischio: inaccettabile, elevato, di trasparenza e minimo o nullo. Un primo test dovrebbe restare nell’ultima fascia, dove la legge non introduce norme.
Considera la scelta provvisoria: la gestione del rischio è continua e richiede prospettive diverse. Se cambiano l’uso previsto o il contesto, rivaluta gli impatti prima di estendere il test.
Scegliere il punto da provare: criteri ed esempi
Inizia definendo il compito e lo scopo del sistema, i tipi di utenti e l’ambiente in cui sarà usato. Per la funzione Map, chiarisci anche le ipotesi e i limiti dell’uso previsto, le norme e le aspettative pertinenti e i possibili impatti negativi su persone, gruppi, comunità e organizzazioni.
Un processo è adatto al primo test se supera quattro domande: l’uso non rientra nei casi ad alto rischio della legge sull’IA; il trattamento non richiede una valutazione d’impatto sulla protezione dei dati; un errore si corregge prima che produca effetti; una persona rivede ogni risultato. Se una risposta è no, scegli un altro processo.
Da escludere sono gli usi che la Commissione europea indica come ad alto rischio, per esempio il software di selezione dei CV per le assunzioni, il punteggio degli esami o il punteggio di credito che decide l’accesso a un prestito. All’opposto, la grande maggioranza dei sistemi in uso nell’UE è a rischio minimo, come i filtri antispam.
Per i dati personali, il Garante ricorda che il GDPR impone una valutazione d’impatto quando il trattamento può comportare un rischio elevato, ad esempio per il monitoraggio sistematico dei comportamenti o per il gran numero di interessati con dati sensibili. Un primo test non dovrebbe ricadere in questi casi: meglio una bozza interna rivista da una persona o la sintesi di documenti non riservati.
Per il primo test, preferisci un’attività abbastanza circoscritta da rendere comprensibili e gestibili i suoi impatti. Se il compito, gli utenti o il contesto restano indefiniti, oppure non è chiaro quali conseguenze possa produrre il sistema, non considerare quel processo un buon punto di partenza.
Valuta anche se serve davvero l’IA: tra le alternative possibili, il NIST indica metodi semi-autonomi o prevalentemente manuali per raccogliere e valutare informazioni. Se un’alternativa non basata sull’IA risponde al bisogno, confrontala con il test prima di decidere.
Valutare il processo nelle condizioni previste
Esamina il processo nelle condizioni in cui il test avverrà: utenti, ambiente previsto, impatti positivi e negativi e requisiti della legge sull’IA e del GDPR. Considera anche che gli strumenti IA possono essere riutilizzati o destinati a usi diversi da quelli previsti.
Definisci metriche coerenti con lo scopo, gli obiettivi e i vincoli del test, incluse le caratteristiche di affidabilità che intendi valutare. Confronta poi i benefici attesi con i rischi negativi e documenta gli eventuali compromessi: Manage richiede di decidere se il sistema raggiunge lo scopo e se sviluppo o distribuzione debbano procedere.
Fasi del primo test IA a basso rischio
- Definire lo scopo, gli utenti e il contesto del testFase Map del NIST AI RMF
- Stabilire metriche coerenti con gli obiettiviValutazione delle caratteristiche del sistema (Measure)
- Confrontare benefici attesi con rischi potenzialiDecisione basata su Manage
- Documentare compromessi e definire condizioni di arrestoProcesso Govern continuo
Scrivere il confine operativo e il percorso di ritorno
Metti per iscritto il compito incluso nel test, il suo scopo, gli utenti e il contesto ammessi, insieme alle ipotesi e ai limiti dell’uso. Considera anche possibili usi inattesi e chiarisci che un cambiamento di finalità o ambiente richiede di rivalutare gli impatti.
Prima di iniziare, individua un’alternativa non basata sull’IA, anche prevalentemente manuale, a cui tornare. Stabilisci di non proseguire se il sistema non raggiunge gli obiettivi dichiarati o se la valutazione dei rischi e dei benefici non giustifica il test. Interrompi subito il test anche se l’uso si sposta verso un caso ad alto rischio o verso dati che richiederebbero una valutazione d’impatto.
Rivedi regolarmente metriche, rischi e benefici durante il ciclo di vita del sistema. La funzione Govern attraversa le altre funzioni e il percorso Map, Measure e Manage va adattato e ripetuto quando la valutazione lo richiede.



