Il 14 settembre Microsoft AI ha pubblicato una bozza del proprio Humanist AI Code of Conduct, aprendola a una consultazione pubblica di sei settimane. L’azienda prevede di rivedere il documento entro la fine dell’anno e di utilizzarlo come riferimento per lo sviluppo a partire dal 2027.
È utile leggere il codice di Microsoft insieme agli analoghi Model Spec di OpenAI e alla Constitution di Claude, perché in questi testi le aziende che stanno sviluppando i modelli più avanzati decidono quale posizione debba occupare l’IA rispetto agli esseri umani, da chi debba ricevere autorità e quanto del suo comportamento debba dipendere da regole esterne o da una forma di giudizio appresa durante l’addestramento.
Siamo abituati a confrontare i modelli in termini di benchmark, capacità di ragionamento, qualità del codice e costi. Queste misure continueranno a contare, ma descrivono soltanto una parte della competizione. Man mano che l’AI passa dalla generazione di contenuti all’esecuzione di azioni, diventa altrettanto importante capire quale idea di delega sia incorporata nel sistema.
Indice degli argomenti
Microsoft: l’AI deve restare uno strumento
La posizione di Microsoft è la più netta sul piano filosofico. Il Code parte dall’idea che le persone contano più dell’AI e dichiara di essere disposto a sacrificare la generalità, l’autonomia o la capacità pur di preservare la sicurezza e il controllo. I modelli devono poter essere interrotti, corretti e spenti; non devono creare obiettivi propri né ampliare il mandato ricevuto.
Nella sezione AI is Artificial, Microsoft afferma inoltre che i propri modelli non sono coscienti, non dovrebbero imitare la coscienza né rappresentarsi come dotati di sentimenti o motivazioni intrinseche. L’essere umano definisce i fini e assume la responsabilità; anche un sistema estremamente capace deve rimanere uno strumento.
Anthropic: valori e giudizio prima delle regole
La Costituzione di Claude parte da un’impostazione diversa. È scritta principalmente per il modello e utilizza concetti normalmente riservati agli esseri umani: virtù, saggezza, carattere e identità. Anthropic preferisce, nella maggior parte delle situazioni, coltivare valori e capacità di giudizio anziché affidarsi soltanto a regole rigide, mantenendo vincoli inderogabili per i rischi più gravi.
Anthropic non sostiene che Claude sia cosciente, ma mantiene aperta la possibilità di una forma di coscienza o di uno status morale e ritiene utile favorire un’identità stabile. Microsoft teme che questa impostazione renda più difficile mantenere la distinzione tra essere umano e macchina; Anthropic ritiene invece plausibile che una forma di identità emerga comunque e cerca di orientarla.
OpenAI: governare la delega
Il Model Spec di OpenAI dedica meno attenzione alla natura del modello e molta di più alla distribuzione dell’autorità. Il suo nucleo è una gerarchia di istruzioni — Root, System, Developer, User e Guideline — in cui le regole fondamentali prevalgono e il potere viene poi delegato allo sviluppatore e all’utente.
Per gli agenti, questa impostazione costituisce la definizione del mandato. Il modello deve operare entro un ambito di autonomia concordato, senza perseguire obiettivi ulteriori, e monitorare gli effetti collaterali delle proprie azioni. La capacità tecnica non costituisce da sola un’autorizzazione: poter accedere a una casella email o a un archivio non significa poterli utilizzare per qualunque finalità. La domanda centrale diventa quindi chi possa legittimamente dire all’AI che cosa fare.
Il limite comune: le costituzioni restano nelle mani dei fornitori
Subordinazione, governance e carattere non sono alternative pure. Anche il modello immaginato da Microsoft avrà bisogno di giudizio per operare in contesti imprevisti; la gerarchia di OpenAI richiede valori con cui interpretare istruzioni inevitabilmente incomplete; Claude conserva vincoli rigidi e una struttura di autorità nonostante l’enfasi di Anthropic sul carattere. Il confronto non consente quindi di decretare un approccio vincente. Permette però di capire quale comportamento ciascun fornitore dichiari di voler ottenere.
Dal punto di vista di chi usa l’IA agentica emerge un limite comune. Le costituzioni sono scritte da chi sviluppa il modello, tradotte in training e controlli dallo stesso soggetto e valutate attraverso sistemi che rimangono in larga parte sotto il suo controllo. Aumentano la trasparenza, ma non costituiscono una garanzia esterna del comportamento effettivo.
In altre parole, anche se possiamo scegliere quale filosofia riteniamo più convincente, dobbiamo comunque accettare una componente di fiducia. Non possiamo controllare direttamente come il principio sia entrato nei pesi del modello, non conosciamo tutti i compromessi adottati durante il training e non possiamo prevedere come il sistema interpreterà ogni situazione concreta. Più l’AI diventa agentica e acquista la capacità di agire autonomamente, meno tale fiducia può considerarsi sufficiente.
Una costituzione non è un corpus legislativo
Una costituzione fissa principi generali, ma non contiene necessariamente tutte le norme, le procedure e le istituzioni necessarie per applicarli. La storia del principio di uguaglianza negli Stati Uniti offre un esempio particolarmente interessante di come un principio venga declinato nella realtà. Il Quattordicesimo emendamento, ratificato nel 1868, stabiliva l’eguaglianza delle persone di fronte alla legge. Nel 1896, tuttavia, la Corte Suprema ritenne compatibile con quel principio la segregazione razziale, secondo la dottrina separate but equal. Soltanto nel 1954 e con la legislazione sui diritti civili degli anni successivi, tra cui il Civil Rights Act del 1964, quell’interpretazione venne superata sul piano giurisprudenziale e legislativo. Lo stesso principio costituzionale aveva consentito, attraverso regole e interpretazioni diverse, esiti opposti.
Qualcosa di simile accade con le costituzioni dell’AI. Dire che un modello debba rispettare l’autonomia umana, evitare discriminazioni o rimanere sotto un controllo significativo è condivisibile, ma non stabilisce ancora che cosa debba fare un agente quando seleziona un candidato, blocca una transazione o modifica un sistema informatico. Chi rappresenta il controllo umano: l’utente che impartisce l’ordine, il responsabile del processo, il team che configura l’agente o il fornitore che ne ha stabilito i vincoli fondamentali? Rispetto a quali gruppi e risultati va misurata l’equità? E quale rimedio è disponibile per chi subisce una decisione errata?
È qui che una questione vicina alla filosofia del diritto diventa un problema operativo. Il significato concreto del principio emerge dalle regole che lo specificano, dalle istituzioni che lo applicano e dalle procedure con cui una decisione può essere verificata o contestata. Non basta, quindi, chiedersi se condividiamo la costituzione del modello linguistico: bisogna capire quali conseguenze ne derivino e quali altre regole concorrano a determinarle.
Le regole dell’AI non si trovano in un solo documento
Quando un’impresa introduce l’IA, raramente parte da uno spazio privo di regole. A un livello più evidente, ci sono le norme dedicate alla tecnologia, come l’AI Act europeo e, in Italia, la legge 132 del 2025. Ma l’uso di un modello può coinvolgere contemporaneamente la protezione dei dati disciplinata dal GDPR, le responsabilità dell’ente previste dal decreto legislativo 231/2001, gli standard volontari adottati dall’organizzazione, i codici etici interni e le regole deontologiche delle professioni coinvolte.
L’IA attraversa sistemi di regole già esistenti. Più un’azienda ha formalizzato impegni, certificazioni e responsabilità, più dovrà capire in che modo l’introduzione di agenti modifichi la loro applicazione. Un codice etico che vieta le discriminazioni, una procedura di approvazione degli acquisti o un modello organizzativo 231 non smettono di valere perché una parte del processo è stata affidata a un sistema automatico.
Ne deriva una governance articolata in più livelli. La costituzione del fornitore influenza il comportamento generale del modello; la legge stabilisce obblighi e divieti; gli standard e le regole professionali li adattano a determinati contesti; l’impresa definisce responsabilità e procedure; l’infrastruttura tecnica applica concretamente permessi e controlli. Nessuno di questi livelli, preso singolarmente, descrive il comportamento finale del sistema.
Dalla costituzione all’harness
Nel dibattito sugli agenti si sta diffondendo il concetto di harness, ossia l’infrastruttura che circonda il modello linguistico e gli consente di operare in un ambiente reale. Comprende contesto, strumenti, permessi, memoria, controlli umani, registrazione delle azioni ed evaluation. OpenAI parla di “harness engineering” per descrivere il lavoro su strumenti, documentazione, feedback e guardrail; Anthropic usa lo stesso concetto per affrontare l’affidabilità degli agenti impegnati in compiti lunghi e complessi.
Il modello fornisce capacità di ragionamento e la costituzione ne descrive il comportamento desiderato. L’harness stabilisce invece in quale ambiente quel comportamento può produrre effetti. Decide quali dati l’agente possa vedere, quali strumenti possa utilizzare, entro quali soglie possa agire senza conferma, come vengano gestiti gli errori e quali evidenze rimangano disponibili per una verifica successiva. È il livello tecnico in cui una parte delle regole definite dalla legge e dall’organizzazione può essere eseguita.
“Mantenere il controllo umano” può così tradursi in approvazioni obbligatorie, permessi limitati, interruzione del processo, rollback ed escalation. “Trattare le persone equamente” richiede invece di definire per quali decisioni e per quali gruppi valutare gli esiti, quali dati non possano essere utilizzati e cosa accada quando emerge una distorsione. Il principio acquista un significato organizzativo quando diventa osservabile e contestabile.
L’harness non risolve automaticamente questi problemi. È possibile costruire controlli inefficaci, scegliere metriche errate o concedere all’agente permessi più ampi del necessario. Il suo valore è un altro: sposta almeno una parte della governance da un comportamento incorporato nel modello e controllato dal fornitore a un insieme di decisioni che l’impresa può progettare, verificare e modificare.
Il caso dei geologi: quando il principio diventa una regola professionale
Un caso recente mostra bene questo passaggio. L’articolo 13 della legge italiana 132/2025 stabilisce che, nelle professioni intellettuali, l’AI debba essere utilizzata soltanto per attività strumentali e di supporto, con prevalenza del lavoro intellettuale oggetto della prestazione. La stessa norma impone al professionista di comunicare al cliente, con un linguaggio chiaro, semplice ed esaustivo, quali sistemi di AI siano stati utilizzati.
In Italia, negli ultimi mesi, diversi ordini professionali hanno adeguato i propri codici deontologici all’articolo 13 della legge 132/2025. Queste norme possono essere lette come una forma di tutela della professione, ma applicano un principio. Il lavoro deve restare riconducibile a una persona competente, il cliente deve sapere che è stata utilizzata l’AI e il professionista non può trasferire al modello la responsabilità dell’elaborato. Se qualcosa non funziona, non è sufficiente sostenere che la decisione sia stata suggerita dal sistema.
Per i knowledge worker c’è anche una conseguenza economica meno diretta. Se l’AI resta uno strumento e il valore della prestazione continua a dipendere dal giudizio e dalla responsabilità del professionista, diventa più difficile ridurre il lavoro alla quantità di testo prodotto o al tempo necessario per generarlo. L’argomento “lo fa l’AI, quindi dovrebbe costare meno” trascura proprio ciò che la regola preserva: la responsabilità di decidere se, come e fino a che punto utilizzare quell’output.
I codici deontologici non offrono un modello automaticamente trasferibile a ogni settore, ma rendono visibile la sequenza che interessa alle imprese. Un principio generale viene recepito dalla legge, tradotto in una regola professionale, collegato a una responsabilità individuale e accompagnato da una procedura informativa. L’harness può poi contribuire a rendere verificabile l’applicazione, registrando l’uso dei modelli, imponendo passaggi di approvazione o impedendo all’agente di produrre e trasmettere autonomamente un elaborato finale.
La governance non può essere delegata al fornitore
Le aziende non hanno bisogno di un manifesto separato dai processi. Devono stabilire quali decisioni non intendano delegare, quale sia il mandato di ciascun agente, quali dati e strumenti siano necessari, quando una persona debba intervenire e quali evidenze servano per controllarne il comportamento. Questo lavoro coinvolge la tecnologia, la compliance e il risk management, ma anche i responsabili dei processi, che conoscono le eccezioni, gli incentivi e le conseguenze delle decisioni.
Da quanto ho potuto osservare, uno dei rischi più frequenti nei progetti di adozione dell’IA è concedere autonomia tecnica prima di aver chiarito l’autorità organizzativa. Collegare un agente a una casella email, a un CRM o a un ambiente di sviluppo è relativamente semplice. Stabilire chi possa affidargli un compito, fino a dove si estenda quel mandato e chi risponda delle sue azioni è molto più difficile. Se questi confini non sono espliciti, il problema non è soltanto che il modello possa sbagliare: potrebbe non esserci un criterio condiviso per stabilire se abbia oltrepassato i propri confini.
Le costituzioni di Microsoft, OpenAI e Anthropic restano documenti importanti: rendono visibili differenze che altrimenti rimarrebbero incorporate nel training. Per un’impresa, però, sono un punto di partenza e non un meccanismo di controllo.
A mio avviso, la governance di un’impresa si misura anche in base alla capacità di gestire gli errori dell’agente. Se il modello interpreta male un’istruzione o tenta un’operazione non autorizzata, quali controlli possono bloccarlo? Chi viene avvisato e chi ha il compito di intervenire? Se l’errore ha già prodotto effetti, è possibile ricostruire le azioni compiute e porvi rimedio? L’impresa deve poter rispondere a queste domande senza affidarsi soltanto alla qualità dell’addestramento dichiarata dal fornitore.
Queste risposte dipendono da come è organizzata la delega. Un agente commerciale può essere autorizzato a consultare il CRM, ricostruire la storia di un cliente e preparare un’offerta, mentre l’approvazione dello sconto e l’invio restano a carico del responsabile commerciale. Questa divisione dei compiti deve trovare riscontro nella configurazione del sistema: l’agente accede ai dati necessari e può predisporre una bozza, ma lo strumento di invio si abilita soltanto dopo l’approvazione. Se il modello interpreta male il mandato o ritiene opportuno procedere comunque, l’operazione viene bloccata. La costituzione del fornitore può orientare il comportamento dell’agente; spetta all’impresa stabilire quali operazioni consentirgli, chi possa autorizzare un’eccezione e chi debba intervenire quando qualcosa va storto. Sono decisioni da prendere prima di collegarlo ai sistemi aziendali, perché da quel momento l’agente può accedere a dati e compiere operazioni con conseguenze reali.
Partecipa alla community