L'AI non deve vedere tutto
Il lavoro sul Data Shield mette alla prova una domanda concreta: quali informazioni servono al modello? Arrivano anche Data Gate, retry e nuovi limiti.
La domanda che mi ero portato dietro dall’evento della settimana scorsa ha trovato un problema molto concreto.
Stavo lavorando alla schermatura dei dati per l’AI. Il testo doveva essere preparato prima dell’analisi, sostituendo le informazioni riservate. Ma il passaggio che aiutava a riconoscerle riceveva già il testo originale.
Mi sono dovuto fermare. Avevo ragionato bene sull’uscita e non abbastanza sull’ingresso.
Seguire il dato, dall’inizio
Il Data Shield nasce per sostituire i riferimenti riservati con segnaposto, mantenendo una corrispondenza che permetta di ricostruire il risultato nel contesto corretto. È pseudonimizzazione reversibile, non una promessa che il dato smetta di essere delicato.
Il punto è scegliere con attenzione che cosa deve arrivare al modello, e controllare tutti i passaggi che lo precedono.
Ho lavorato anche sull’integrazione con Ollama, per usare modelli locali. È una possibilità importante per alcuni contesti, ma non voglio raccontarla come una soluzione automatica a ogni problema di riservatezza. Restano da capire configurazione, accessi e uso effettivo delle informazioni.
Questa settimana mi è servita proprio a evitare una spiegazione troppo comoda.
Fermarsi quando manca qualcosa
Con il Data Gate il flusso può impedire l’avanzamento se non ci sono i dati richiesti.
Mi piace l’idea di rendere esplicita quella fermata. Se una persona deve completare una richiesta, deve sapere che cosa manca. Se un agente deve fare un’analisi, non dovrebbe colmare il vuoto con una risposta plausibile soltanto per proseguire.
Sono arrivati anche il limite alle iterazioni in uno stato, il retry dei task falliti e il builder visuale delle regole AI. Sono tutti modi per dare un confine al lavoro: quanto può ripetersi, quando si può riprovare, che cosa è richiesto per andare avanti.
Una protezione va provata nel percorso reale
Sessantotto commit e diciotto versioni. Il numero racconta una settimana piena, ma il punto che mi resterà è quel primo passaggio con il testo ancora in chiaro.
Mi ricorda che assegnare un nome rassicurante a una funzione non dimostra nulla. Devo seguirne il comportamento, compresi i pezzi che sembrano preparatori.
Voglio continuare a mettere l’AI nei processi. Vorrei farlo mandandole quello che le serve, con una ragione comprensibile per ogni informazione in più.