Un sistema AI in produzione senza logging è una scatola nera. Sapere cosa ha fatto il modello, quando, su quali dati e con quale risultato non è opzionale — è il requisito minimo per operare sistemi AI in modo responsabile, conforme e migliorabile.
I sistemi AI in produzione prendono decisioni che impattano clienti, dipendenti e processi critici. Senza tracciabilità, un errore del modello è impossibile da rilevare, investigare e correggere in tempo utile.
Quando un sistema AI rifiuta un ordine, approva un credito o classifica un reclamo, chi ha subito la decisione ha diritto a una spiegazione. Senza log, la risposta è "il modello lo ha deciso" — inaccettabile legalmente e commercialmente.
I modelli AI degradano silenziosamente nel tempo quando i dati in ingresso cambiano rispetto al training. Senza monitoring continuo, ci si accorge del problema solo quando l'impatto sul business è già significativo.
L'art. 22 del GDPR richiede che le decisioni automatizzate significative siano tracciabili e spiegabili. L'EU AI Act estende questi obblighi. Operare sistemi AI senza audit trail espone a sanzioni fino al 4% del fatturato globale.
Progettiamo sistemi di osservabilità AI integrati nell'architettura fin dal primo giorno, non aggiunti come retrofit. Ogni componente della pipeline AI viene strumentato, monitorato e alertato.
Ogni chiamata al modello viene loggata: input, prompt completo, output, latenza, token usati, versione del modello. Con LangSmith e Langfuse si tracciano automaticamente anche le pipeline multi-step e le tool calls.
Dashboard Grafana con metriche custom: latenza p50/p95/p99, tasso di errori, distribuzione dei token, costo per richiesta, qualità delle risposte nel tempo. Alert automatici su soglie critiche via PagerDuty o Slack.
Log strutturati con pseudonimizzazione automatica dei dati personali, retention policy configurabile, meccanismo di cancellazione per diritto all'oblio e esportazione per richieste di accesso ai dati (DSAR).
Monitoring statistico della distribuzione degli input e degli output per rilevare data drift e concept drift. Alert quando la distribuzione si discosta significativamente dalla baseline del training o da periodi storici.
I log AI vengono inviati al SIEM aziendale (Splunk, Elastic SIEM, Microsoft Sentinel) tramite OpenTelemetry. Gli eventi di sicurezza del sistema AI diventano parte della postura di sicurezza aziendale complessiva.
Sistema di raccolta feedback utente (thumbs up/down, correzioni) associato alle trace. Valutazione automatica della qualità delle risposte con LLM-as-a-judge. Dataset di valutazione che cresce in produzione.
L'osservabilità AI si progetta insieme all'architettura del sistema, non si aggiunge dopo. Seguiamo un percorso in tre fasi per garantire copertura completa fin dal primo rilascio.
Definiamo cosa tracciare, dove archiviare i log, per quanto tempo, chi vi può accedere e come si integrano con i sistemi esistenti. Identifichiamo i KPI del sistema AI e le soglie di alert critici per il business.
Integriamo LangSmith o Langfuse nella pipeline AI, configuriamo Prometheus per le metriche di sistema, costruiamo le dashboard Grafana e colleghiamo tutto al sistema di alerting aziendale.
Documentiamo l'architettura di logging per il DPO, configuriamo le retention policy GDPR, testiamo i processi di DSAR e cancellazione, e produciamo la documentazione per il registro dei trattamenti.
Utilizziamo gli strumenti leader dell'ecosistema per l'osservabilità AI, integrandoli con l'infrastruttura di monitoring già presente in azienda.
Enplin progetta e implementa sistemi di audit e logging AI per aziende a Meda, Monza, Milano e in tutta la Lombardia. Supportiamo le aziende nella conformità GDPR e EU AI Act, con particolare attenzione ai settori finanziari, assicurativi e sanitari dove i requisiti normativi sono più stringenti.
Con l'EU AI Act pienamente operativo, le aziende lombarde che usano AI in processi di business critici — selezione del personale, concessione del credito, gestione reclami — devono dimostrare tracciabilità e spiegabilità delle decisioni. Chi non si attrezza oggi affronterà audit normativi senza le prove documentali necessarie.