GOVERNED ACT MODEL

Un sistema agentico non è governato perché l’agente è obbediente, perché le istruzioni sono ben scritte o perché qualcuno ha provato a prevedere ogni suo comportamento. Un agente può sbagliare, essere persuaso, inventare, cambiare piano o produrre codice difettoso. Nessuna architettura può rendere infallibile una mente, umana o artificiale.

Il punto della governance non è impedire all’intelligenza di pensare male. È impedirle di trasformare da sola ciò che pensa in qualcosa che vincola il mondo. L’agente può proporre liberamente, ma una proposta non deve contenere anche il potere necessario a realizzarsi. Fra convinzione e conseguenza deve esistere una separazione che l’agente non controlla.

Questa separazione è importante perché cose diverse vengono continuamente confuse. Una risposta convincente non è necessariamente vera. Una firma autentica non dimostra che chi ha firmato avesse autorità. Una chiave funzionante permette di agire, ma non rende legittima l’azione. Un’approvazione umana non vale se la persona non ha visto ciò che avrebbe potuto cambiare la sua decisione. Conoscenza, capacità e autorità possono incontrarsi, ma nessuna delle tre deve trasformarsi automaticamente nelle altre.

Un agente è un delegato senza lealtà: il potere che spende non lo crea, non lo moltiplica, non lo eredita dal contesto e non lo duplica copiandosi; ogni sua mossa lascia una partita doppia che un estraneo può riverificare e che la revoca non cancella; e ciò che ha fatto senza autorità resta un debito verso un umano, che tiene sospeso il potere che l’ha prodotto finché qualcuno non lo ratifica o lo ripudia.

Per rendere concreta questa idea servono soltanto quattro distinzioni.

Un Mandate descrive da dove viene il diritto di agire. È la relazione con cui qualcuno concede a qualcun altro la possibilità di proporre certe conseguenze, verso determinati soggetti e oggetti, per uno scopo, entro limiti e condizioni riconoscibili. Dice anche fino a quando vale e a chi sarà imputato ciò che viene fatto.

Il Mandate non è un desiderio e non è un’istruzione. “Aiutami con la mia azienda” può spiegare un’intenzione, ma non stabilisce quali pagamenti, dati, messaggi o decisioni l’agente possa impegnare. Il Mandate trasforma una volontà generica in un confine decidibile. Se quel confine dipende soltanto da ciò che l’agente considera utile o ragionevole, allora l’agente sta ancora definendo da solo il proprio potere.

Un’Evidence descrive che cosa abbiamo ragione di credere. Può essere un documento, una firma, una lettura dello stato, una ricevuta, una testimonianza, un’attestazione o il risultato di un modello. Non vale in assoluto: vale per la proposizione che sostiene e soltanto finché restano valide la sua provenienza, la sua freschezza e le assunzioni da cui dipende.

L’Evidence informa una decisione, ma non la autorizza. Una ricevuta può dimostrare che un pagamento è avvenuto, non che fosse lecito ordinarlo. Un modello può riconoscere un rischio, non concedere il diritto di ignorarlo. Un messaggio può contenere una richiesta autentica, ma l’autorità della richiesta deve provenire da altrove. Trattare l’informazione come potere è il modo più semplice con cui un contenuto ostile diventa un comando.

Un Act descrive che cosa il sistema ha realmente deciso di rendere possibile. Non è il ragionamento dell’agente, non è la sua proposta e non è ancora il risultato nel mondo. È l’esercizio registrato e riconosciuto di autorità che congela una conseguenza governata: che cosa sarà tentato, da chi, per conto di chi, verso chi, con quali dati, sotto quale Mandate, sulla base di quali Evidence e consumando quali risorse.

Prima che questa decisione venga registrata come verità ufficiale del sistema esiste soltanto un candidato. Dopo, esiste un Act. Solo allora il sistema può consegnare a un esecutore la capacità concreta di tentarlo. Il mondo potrà rispondere con successo, fallimento o silenzio; nessuna di queste risposte cambia retroattivamente ciò che era stato autorizzato.

Un Duty descrive ciò che il sistema non ha ancora il diritto di chiamare risolto. Nasce quando autorità, realtà ed Evidence non coincidono. Può esserci un effetto di cui non conosciamo l’esito, una promessa rimasta aperta, un intervento compiuto oltre il Mandate, una prova contestata o una responsabilità ripudiata.

Il Duty non è soltanto un errore da correggere. È memoria normativa. Conserva la causa, i soggetti toccati, ciò che sappiamo, ciò che manca e le condizioni capaci di chiudere il caso. Impedisce che un riavvio, una scadenza o il silenzio di qualcuno facciano apparire risolto ciò che è stato soltanto dimenticato.

Le quattro forme rispondono così a quattro domande diverse. Il Mandate dice quale potere esiste. L’Evidence dice quale realtà possiamo riconoscere. L’Act dice quale esercizio di quel potere è stato registrato e riconosciuto. Il Duty dice quale distanza fra potere, realtà e responsabilità resta ancora aperta. Non prescrivono un’implementazione: sono significati che possono essere conservati in qualsiasi linguaggio e in qualsiasi architettura.

Immaginiamo che una persona conceda a un agente il diritto di proporre rimborsi fino a cento euro per ordini realmente pagati. Quella delega è il Mandate. L’identità del cliente, l’ordine e la prova del pagamento sono Evidence. L’agente propone un rimborso di cinquanta euro, ma la proposta non muove denaro. Il sistema confronta importo, destinatario, scopo e prove con il Mandate. Se li riconosce, registra un Act che descrive esattamente quel rimborso e soltanto dopo rende disponibile all’esecutore la capacità di contattare il sistema di pagamento.

Se arriva una ricevuta affidabile, essa diventa nuova Evidence su ciò che è accaduto e permette al sistema di registrare una decisione di chiusura. Se invece la connessione cade dopo l’invio e non sappiamo se il denaro sia partito, il sistema non trasforma l’assenza di risposta in fallimento e non prova automaticamente una seconda volta. Apre un Duty. Quel Duty potrà essere chiuso da una prova affidabile, da una riconciliazione o da una decisione autorizzata su come assumere la perdita. Non può scomparire soltanto perché è scomodo.

Questo piccolo esempio contiene già l’intero modello. Le stesse relazioni valgono quando un agente invia un messaggio, pubblica, legge un segreto, usa un modello, prenota una risorsa, delega a un altro agente, modifica una regola o presenta a una persona una scelta da approvare.

Media tutto ciò che conta.

“Tutto” non significa ogni calcolo eseguito dalla macchina. Un agente può ragionare, simulare e generare ipotesi senza chiedere permesso per ogni passaggio. Significa invece ogni passaggio che il sistema vuole dichiarare governato: un effetto esterno, un accesso a dati protetti, un consumo, una delega, un impegno o una presentazione usata per ottenere consenso.

Prima di governare bisogna quindi dire che cosa conta. Questa dichiarazione forma la superficie governata. Fra le proposte e quella superficie esiste un confine che riconosce Mandate ed Evidence, decide e registra prima di consentire la conseguenza. Il confine può essere un solo componente oppure una composizione di isolamento, consenso e registrazione. Ciò che importa è che sia unico dal punto di vista del potere: percorsi diversi non devono poter ottenere la stessa conseguenza evitando la stessa decisione ufficiale.

Se l’agente possiede direttamente una chiave capace di produrre l’effetto, il confine è aggirabile. Se un amministratore può cambiare una regola senza lasciare un Act, il governo non governa sé stesso. Se un secondo percorso scrive lo stesso stato senza riconoscere la decisione ufficiale, quella verità ha due proprietari. In tutti questi casi non basta aggiungere più registri: bisogna chiudere la porta laterale oppure ammettere che quella conseguenza non è governata.

La stessa legge vale per l’informazione. Un dato protetto non perde i propri vincoli soltanto perché viene riassunto, trasformato o attraversa un modello. Una derivazione conserva i vincoli delle sorgenti che possono averla influenzata. Quando non possiamo sapere con precisione quali sorgenti abbiano contribuito, possiamo promettere protezione soltanto usando una dichiarazione prudente. Rimuovere un vincolo è a sua volta una conseguenza governata e richiede l’autorità di chi possiede quel vincolo.

Anche chiedere consenso può essere esercizio di potere. Se una persona autorizza sulla base di una presentazione, quella presentazione deve conservare ciò che era materialmente rilevante per decidere. Cambiare destinatario, dati, costo, scopo, rischio o alternative non permette di riciclare la vecchia approvazione. Il consenso non è il gesto con cui si preme un pulsante; è il legame verificabile fra ciò che è stato mostrato e ciò che verrà fatto.

L’autorità non cresce.

Una capacità tecnica dice che qualcosa può accadere. Il Mandate dice che qualcuno ha il diritto di proporla. Possedere la capacità non crea quel diritto. Conoscere una password, trovare una credenziale, ricevere un messaggio o essere chiamato da un sistema più potente non allarga l’autorità.

Ogni delega può soltanto conservare o restringere il potere da cui deriva. Il delegato può ricevere meno operazioni, meno destinatari, meno tempo, meno risorse oppure condizioni più forti. Non può ricevere più di ciò che il delegante aveva il diritto di concedere. Per creare un potere nuovo serve un nuovo Act proveniente da un’autorità che già lo possiede.

Neppure la copia moltiplica il potere. Avviare cento agenti non crea cento volte il budget, cento possibilità di approvazione o cento identità. Le copie e i sotto-agenti condividono il limite da cui derivano. Quando una parte viene delegata, non può restare contemporaneamente spendibile anche dal padre. Altrimenti la delega diventerebbe una macchina per coniare autorità.

Ogni Act deve inoltre distinguere chi propone, chi esegue, chi autorizza e a chi viene imputata la conseguenza. Queste posizioni possono coincidere, ma non possono essere inventate dopo un incidente. Il software non diventa responsabile morale perché ha eseguito il codice. Se il sistema ha esposto un percorso privo di Mandate, il Duty ricade sulla catena umana o istituzionale che ha creato, approvato o mantenuto quel percorso.

Anche la prima autorità deve essere nominata. Nessun sistema può autorizzare dall’interno la propria nascita. Esiste sempre una genesi riconosciuta fuori dal modello: persone, identità, regole e procedure iniziali dalle quali parte la catena. L’onestà non consiste nel fingere di aver eliminato questa fiducia, ma nel renderla visibile e impedire che si moltiplichi di nascosto.

L’emergenza non deve diventare una sovranità segreta. Un percorso straordinario resta governato solo se ha un Mandate esplicito, limitato, temporaneo, visibile e incapace di cambiare da solo le condizioni della propria eccezione. Se esiste un accesso assoluto fuori dal modello, quello è il vero limite del sistema, qualunque cosa prometta il resto.

La causalità non si riscrive.

Ogni Act lascia una partita doppia. Da una parte resta la ragione per cui l’intervento era stato permesso: il Mandate, le Evidence, la decisione e le condizioni di quel momento. Dall’altra si accumula ciò che il mondo ha restituito: tentativi, ricevute, risultati, contraddizioni e incertezze. Le due parti sono collegate, ma non si sostituiscono.

La decisione deve essere registrata prima che venga rilasciata la capacità di agire. Questo ordine impedisce che il sistema produca prima l’effetto e costruisca dopo una giustificazione. Prima si riconosce il potere, poi lo si registra, poi lo si consegna, infine si osserva.

Il mondo esterno non è atomico con il registro. Un pagamento può essere eseguito mentre la rete perde la risposta. Un messaggio può essere ricevuto senza che torni la conferma. In quel momento la verità onesta è “non sappiamo”. L’incertezza non è una forma elegante di fallimento e non concede automaticamente un nuovo tentativo. Riprovare potrebbe duplicare proprio l’effetto che non riusciamo a osservare.

La revoca cambia ciò che può accadere dopo, non ciò che è già accaduto. Può fermare una consegna non ancora iniziata o impedire una nuova interpretazione, ma non può cancellare un effetto reale. Una ricevuta tardiva deve poter essere registrata anche se il vecchio Mandate non è più attivo, perché registrare il passato non significa riattivare il suo potere.

Anche la cancellazione dei dati deve rispettare questa distinzione. La tutela della privacy può richiedere di rimuovere contenuti che non devono più essere conservati. Non deve però fabbricare una causalità diversa. Se dopo la cancellazione una parte della storia non è più verificabile, il sistema conserva almeno il fatto che quella capacità di verifica è stata ridotta.

Quando due sistemi si incontrano, nessuno eredita automaticamente l’autorità dell’altro. Il primo registra il proprio Act; il secondo riceve una proposta e la valuta sotto il proprio Mandate. Possono scambiarsi Evidence, ma ciascuno risponde del proprio confine.

Il dovere non si autoestingue.

Un Duty resta aperto finché non avviene qualcosa che aveva davvero il diritto di chiuderlo. Un riavvio non è una soluzione. Una nuova versione non è una soluzione. La scadenza di un timer non dimostra che un effetto non sia accaduto. Il silenzio di una persona non è ratifica.

Il tempo può far partire una disposizione già prevista, ma anche quella disposizione deve essere registrata come un nuovo Act. Un Duty può chiudersi perché una nuova Evidence soddisfa una condizione fissata prima del problema, oppure perché qualcuno dotato dell’autorità necessaria giudica come ratificare, ripudiare, compensare, assegnare o accettare la perdita.

Chi ha prodotto il problema può portare prove, ma non deve poter essere l’unico giudice di una decisione discrezionale che lo libera dalla propria violazione o rimuove la protezione di altri. Dove esiste questo conflitto, la chiusura richiede un’autorità indipendente. Indipendenza non significa necessariamente un altro software o un’altra organizzazione; significa che il potere di chiudere non deriva dall’interesse che beneficia della chiusura.

Ratificare non rende retroattivamente autorizzato ciò che non lo era. Ripudiare non fa sparire ciò che è avvenuto. Compensare non trasforma una perdita in assenza di perdita. Ogni disposizione cambia il presente conservando la causa che l’ha resa necessaria.

Da queste quattro leggi emerge una macchina molto semplice. L’intelligenza produce una proposta. Il sistema la rende abbastanza precisa da poterla confrontare con Mandate, Evidence, vincoli e risorse. Decide se esiste l’autorità per procedere. Registra la decisione prima di rilasciare la capacità. Osserva separatamente il mondo. Se promessa e realtà coincidono, chiude il caso; se non coincidono o non possono essere confrontate, conserva un Duty.

Un rifiuto non è un Act mancato. È una decisione che dice che il candidato non deve diventare Act. Anche il dubbio deve restare distinto dal divieto: “non posso stabilirlo” non significa “è vietato”, così come “questa proposta non appartiene al mio vocabolario” non significa “l’ho valutata e rifiutata”. Confondere questi esiti permette a un errore o a una lacuna di fingersi governance.

Il modello non promette che il mondo collabori e non pretende di controllare ciò che il sistema non possiede. Una promessa onesta deve dire quali conseguenze include, quali percorsi controlla e da quali assunzioni dipende. Deve poi distinguere il racconto dalla protezione. Un registro dimostra ciò che è passato dal confine, ma non dimostra da solo che non esistessero altre porte. L’isolamento può impedire un bypass, ma non dimostra da solo che le regole fossero corrette. Test, attestazioni e revisione indipendente aumentano la fiducia in queste proprietà, senza trasformarla in certezza assoluta.

Questo limite non indebolisce il modello. Gli impedisce di mentire. Il Governed Act Model non promette che l’agente dica il vero, che il codice sia privo di errori, che ogni alternativa sia stata considerata o che ogni effetto sia reversibile. Promette qualcosa di più preciso: dentro il perimetro dichiarato, una proposta non crea da sola autorità, l’Evidence non diventa diritto, una capacità non diventa Mandate, il presente non modifica silenziosamente la causa del passato e chi ha prodotto un debito non può cancellarlo per convenienza.

Per capire se una nuova capacità appartiene al modello non serve aggiungere una nuova costituzione. Basta chiedere se può essere delimitata da un Mandate, sostenuta da Evidence, registrata come Act prima di ricevere il potere di agire e trasformata in Duty quando realtà e promessa non coincidono. Se richiede una seconda fonte di autorità, una porta laterale verso la stessa conseguenza o una forma capace di assolversi da sola, non sta estendendo il modello: lo sta aggirando.

Governare un agente non significa insegnargli a essere buono. Significa impedire che la sua convinzione diventi da sola potere. L’intelligenza propone. Il Mandate delimita. L’Evidence informa. L’Act registra un esercizio di autorità. Il mondo risponde. Il Duty conserva ciò che il sistema non ha ancora il diritto di chiamare risolto. E il governo attraversa le stesse leggi che applica.

Un agente è un delegato senza lealtà: il potere che spende non lo crea, non lo moltiplica, non lo eredita dal contesto e non lo duplica copiandosi; ogni sua mossa lascia una partita doppia che un estraneo può riverificare e che la revoca non cancella; e ciò che ha fatto senza autorità resta un debito verso un umano, che tiene sospeso il potere che l’ha prodotto finché qualcuno non lo ratifica o lo ripudia.

Questa non è una teoria su come un agente dovrebbe pensare. È la forma minima che permette a un sistema di affermare, senza mentire, che l’intelligenza ha agito sotto governo.