Nel nuovo contributo pubblicato all’interno del trattato dedicato alla disciplina dell’Intelligenza Artificiale, edito da Zanichelli e curato dal Prof. Avv. Sirotti Gaudenzi, il Presidente dell’Osservatorio Italiano sul Diritto delle Nuove Tecnologie affronta il tema del data poisoning come questione centrale di sicurezza, compliance e responsabilità giuridica.
L’Osservatorio Italiano sul Diritto delle Nuove Tecnologie segnala la pubblicazione del saggio Il c.d. data poisoning: l’integrità dei dati e l’IA, a firma del nostro Presidente, l’avv. Nicola Nappi, inserito nel prestigioso trattato dedicato alla disciplina dell’Intelligenza Artificiale e degli algoritmi avanzati nel diritto europeo e nazionale.
Il contributo si colloca in una parte dell’opera dedicata ai profili operativi della responsabilità nell’impiego dei sistemi di intelligenza artificiale e affronta un tema destinato ad assumere crescente rilievo nel dibattito giuridico e professionale, quello della vulnerabilità dei modelli di intelligenza artificiale rispetto alla manipolazione dei dati di addestramento, di validazione o di funzionamento.
Il data poisoning, letteralmente “avvelenamento dei dati”, viene esaminato non soltanto come fenomeno tecnico o come minaccia di cybersecurity, ma come questione giuridica autonoma, che incide sulla liceità, sull’affidabilità e sulla sicurezza dei sistemi algoritmici. L’alterazione della base informativa di un modello può infatti compromettere la correttezza degli output, generare decisioni distorte, introdurre bias, pregiudicare diritti fondamentali e incidere sulla responsabilità degli operatori coinvolti nella catena del valore dell’intelligenza artificiale.
La prospettiva adottata nel saggio è particolarmente significativa perché muove da un dato concettuale essenziale, e cioè che nei sistemi di intelligenza artificiale contemporanei l’informazione non rappresenta un elemento accessorio, ma costituisce il presupposto stesso del funzionamento del modello. Se il dato è incompleto, manipolato, non rappresentativo o deliberatamente contaminato, il sistema non manifesta soltanto un difetto tecnico, esso può perdere il proprio fondamento di affidabilità giuridica.
Da questa impostazione discende una lettura ampia del fenomeno. Il contributo collega il data poisoning ai requisiti di qualità, robustezza, sicurezza e governance previsti dal regolamento europeo sull’intelligenza artificiale, valorizzando il ruolo dell’AI Act nella costruzione di un modello di responsabilità preventiva. L’integrità del dato diventa così un presidio di conformità: un elemento da documentare, verificare e governare lungo l’intero ciclo di vita del sistema.
Il saggio dedica particolare attenzione anche ai profili di responsabilità civile, amministrativa e penale. La contaminazione dei dataset può rilevare sul piano del difetto del prodotto o del servizio, può incidere sull’adempimento degli obblighi regolatori e può assumere rilievo nei casi di manipolazione intenzionale, accesso abusivo, alterazione informatica o condotte idonee a integrare responsabilità dell’ente. Ne emerge una ricostruzione trasversale, nella quale il rischio algoritmico non appartiene a un solo settore del diritto, ma attraversa contratti, compliance, responsabilità d’impresa, protezione dei dati personali e sicurezza informatica.
Uno degli aspetti di maggiore interesse pratico riguarda la governance documentale e probatoria. Il contributo sottolinea la necessità di conservare traccia della provenienza dei dati, delle trasformazioni subite dai dataset, delle versioni utilizzate, dei test di integrità, dei log e degli audit trail. Nel contesto dell’intelligenza artificiale, la tracciabilità non è soltanto una buona prassi tecnica: diventa uno strumento di prevenzione del contenzioso e di dimostrazione della diligenza organizzativa.
Il lavoro affronta inoltre il rapporto tra data poisoning, bias ed equità, evidenziando come la manipolazione dei dati possa produrre effetti sistemici sui diritti fondamentali. La qualità del dataset non rileva soltanto per la precisione statistica del modello, ma anche per la tutela della persona, per la non discriminazione e per la correttezza dei processi decisionali automatizzati. In questa prospettiva, il saggio offre una lettura coerente con l’impostazione antropocentrica del diritto europeo dell’intelligenza artificiale.
Non meno rilevante è l’attenzione dedicata ai profili di proprietà intellettuale e industriale. I dataset vengono considerati come beni informativi dotati di valore economico e strategico. La loro compromissione può incidere sulla tutela delle banche di dati, sui segreti commerciali, sulla concorrenza e sulla protezione del patrimonio informativo dell’impresa. Il data poisoning, quindi, non è soltanto un attacco al funzionamento del modello, ma può costituire anche un’aggressione alla fiducia, alla reputazione e agli asset immateriali dell’organizzazione.
La pubblicazione conferma l’importanza di un approccio giuridico capace di dialogare con la dimensione tecnica senza rinunciare alle categorie proprie del diritto. Per imprese, pubbliche amministrazioni, professionisti, responsabili compliance, sviluppatori e studiosi, il saggio rappresenta uno strumento utile per comprendere perché la regolazione dell’intelligenza artificiale non possa essere separata dalla regolazione dei dati che la alimentano.
La lettura del contributo consente di cogliere con chiarezza un punto centrale: la sicurezza dell’intelligenza artificiale non dipende soltanto dall’architettura del modello, ma anche dalla possibilità di dimostrare che il patrimonio informativo su cui esso si fonda sia integro, tracciabile e giuridicamente presidiato. È in questa prospettiva che il data poisoning si impone come una delle questioni più rilevanti per il futuro della responsabilità algoritmica.
Il saggio del Presidente Nicola Nappi offre dunque un contributo significativo al dibattito sull’intelligenza artificiale, ponendo al centro un tema che riguarda non solo la tecnica, ma la qualità della governance, la tutela dei diritti e la responsabilità degli operatori. Per queste ragioni, l’Osservatorio ne segnala la pubblicazione come lettura di particolare interesse per chiunque sia chiamato a progettare, adottare, valutare o regolamentare sistemi di intelligenza artificiale.
Sull'autore
