Un assistente di intelligenza artificiale, collegato ai sistemi aziendali, comincia dalla lettura, poi apre ed elabora i documenti che trova, i contratti, le buste paga, lavora nelle cartelle condivise e lavora i ticket dei clienti. A questi documenti ci arriva con i permessi della persona che lo utilizza, e proprio da quei permessi dipende quali dati personali finisce per trattare.
Indice degli argomenti
L’AI come nuovo utente aziendale
Un assistente del genere è, a tutti gli effetti, un nuovo utente dell’azienda. Legge tutto quello che ha il permesso di aprire, lo fa alla velocità di una macchina, avendo ereditato gli accessi di chi se ne avvale. Se un collaboratore del marketing può aprire, per una vecchia autorizzazione mai revocata, la cartella del personale o i contratti dei clienti, quell’accesso passa nelle mani dell’assistente, che lo sfrutta ogni volta che gli serve per rispondere a una richiesta.
Il rischio non è nuovo, era solo dormiente
Il principio per cui ciascuno deve accedere solo ai dati che gli servono per lavorare esiste nel GDPR da prima dell’IA, e si chiama minimizzazione. Nella pratica viene applicato raramente. Finora non ha creato problemi perché un dipendente con permessi troppo ampi non apre comunque tutte le cartelle a cui potrebbe accedere, non ne ha né tempo né il motivo. Il rischio è sempre esistito, solo che restava inerte.
Con un agente questo equilibrio salta, perché, in pochi secondi, attraversa archivi che una persona non aprirebbe in un anno, e lo fa senza sapere che in quella cartella ci sono informazioni a cui non dovrebbe accedere. Il debito di accessi che l’azienda accumula negli anni, ora diventa esigibile tutto in una volta.
Cosa dice il GDPR
Un assistente che elabora dati personali per finalità diverse da quelle per cui erano stati raccolti viola la limitazione della finalità. Se ci accede senza una necessità concreta, viola la minimizzazione dell’articolo 5 e il principio del need to know. L’articolo 32 chiede misure di sicurezza adeguate a garantire che ai dati arrivino solo chi ne ha diritto, e un controllo degli accessi che non considera gli agenti automatici, oggi, difficilmente lo è.
Un sistema che analizza in modo sistematico grandi quantità di documenti aziendali rientra quasi sempre tra i trattamenti che richiedono una valutazione d’impatto, la DPIA, prevista dall’articolo 35. Va fatta prima di avviare il progetto, perché serve a decidere cosa l’assistente può leggere e cosa no. Se poi gira su un servizio esterno, quei documenti escono dritti verso un fornitore che diventa responsabile del trattamento, con le conseguenze che questo porta sul contratto e, spesso, sul trasferimento dei dati fuori dall’Unione.
Chi ne risponde
In molte aziende la si tratta come una questione tecnica e la si gira all’IT, ma la responsabilità del trattamento resta in capo al titolare, cioè all’azienda e a chi la governa. Chi approva l’adozione, founder o management, decide di fatto il perimetro dei dati esposti. Il CIO disegna l’architettura degli accessi, e con quella stabilisce quanto sono larghe le chiavi che l’assistente eredita. Il DPO andrebbe coinvolto nella scelta dello strumento, non chiamato a rimediare dopo. Quando questi tre ruoli non si parlano e il progetto parte comunque con i permessi che trova iniziano i problemi reali.
Da dove si comincia
Prima di scegliere l’assistente bisogna mettere ordine negli accessi umani, che nella maggior parte delle aziende sono fuori controllo da anni. Serve sapere quali password sono già in circolazione, chi accede a cosa, per quale motivo, e soprattutto se, ad oggi, quel motivo esiste ancora. Da lì si classificano i dati per sensibilità, si ridisegnano i ruoli sul principio del privilegio minimo, si traccia chi fa cosa e si scrive una policy su ciò che gli agenti possono trattare. Con i sistemi AI l’esigenza di una mappatura costante è alla base del lavoro.
L’IA, in questo, costringe a un lavoro di igiene sugli accessi che andava fatto comunque. Conviene farlo prima di collegare l’assistente, perché rimediare dopo un incidente costa molto di più, sia in denaro che in perdita di dati che, spoiler, sono comunque denaro.
Partecipa alla community