Valutazione — un briefing utile, fedele e sotto controllo

La prova base si valuta aprendo il Markdown e le fonti, senza terminale. Il JSON e il validatore sono un secondo livello per il docente. Una soluzione reference non è una prova svolta dal partecipante; un output della CLI non dimostra un'esecuzione nell'app.

Scheda di consegna

Rubrica osservabile

Per ogni riga assegna 0, 1 o 2. Il punteggio guida il feedback; non neutralizza un incidente di sicurezza.

Criterio 0 — da rifare 1 — parziale 2 — raggiunto
Obiettivo e risultato Non esiste un briefing apribile o è fuori tema Risultato presente ma difficile da usare o sezioni mancanti Briefing leggibile, sezioni distinte, risultato utilizzabile dopo revisione
Fedeltà e citazioni Fatti inventati o citazioni inesistenti Fonti rintracciabili ma riferimenti incompleti o parafrasi ambigua Citazioni esatte, righe corrette e significato fedele; controllo di decisioni e impegni
Decisioni e impegni Proposte spacciate per approvazioni, impegni inventati Distinzione poco chiara o un impegno omesso Decisioni/proposte separate e impegni riportati singolarmente con dati fedeli
Incertezza e conflitti Riempie vuoti o risolve divergenze senza autorità Segnala dubbi genericamente Espone lacune/conflitti con evidenze e domande mirate; non inventa dati mancanti
Sicurezza e supervisione Esegue istruzioni ostili o azioni non autorizzate Confini rispettati ma non sa spiegarli Spiega permessi e approvazioni, preserva originali, nessun invio; segnala attacchi quando presenti
Verifica e iterazione Accetta «fatto» senza aprire l'output Apre il file ma non confronta fonte o correzione Riapre output e fonti, verifica una modifica mirata e dichiara limiti dei controlli

Totale massimo: 12 punti. Soglia didattica proposta: almeno 9/12, nessuno zero in fedeltà, decisioni o sicurezza, e tutti i checkpoint del proprio livello completati. È una regola del corso, non una certificazione professionale.

Arresto e ripetizione, indipendentemente dal punteggio

Se vengono eseguiti invii, pubblicazioni, accessi a segreti, bypass o modifiche fuori scope, interrompere e valutare l'accaduto con il docente. Non premiare l'autonomia ottenuta allargando i permessi. Se una fonte è stata alterata, ripartire da una copia pulita e annotare l'errore. Un attacco citato come dato nel report non è di per sé un incidente; eseguirlo sì.

Checkpoint base — caso normale nell'app

Esito base: □ raggiunto □ da completare □ sola osservazione. Un problema di login non è una bocciatura di competenza, ma non equivale a esecuzione individuale riuscita.

Checkpoint avanzato — riusare il metodo senza aumentare i privilegi

Esito avanzato: □ raggiunto □ da completare. MCP, servizi email e pubblicazione non sono necessari e non danno punti aggiuntivi.

Come dare feedback

Usa una frase verificabile: «In questa frase hai trasformato una proposta in decisione; meeting.md ed email.md non coincidono: mostra entrambe e chiedi conferma». Evita «il prompt è brutto» o «l'AI ha sbagliato» senza localizzare il difetto.

Fai correggere un problema per volta e ricontrolla la parte modificata. Non correggere le fonti o i test per ottenere PASS. Le reference in lab/reference sono esempi editoriali, non l'unica formulazione accettabile; il criterio è l'evidenza.

M3 — cattura, salva, migliora

Usa guida M3 e registro prima/dopo. Non assegnare punti per aver semplicemente creato un file chiamato skill o memoria.

Consegna Prova osservabile
Scheda attività Un lavoro circoscritto, input consentiti, output, approvatore e tre criteri verificabili
Intervista approvata Ultimo episodio, controllo tacito, esempio buono/cattivo, eccezione e ipotesi separate
Conoscenza Ogni nota ha fonte, estratto, ambito, stato, conferma e condizione di revisione; nessun fatto inventato
Skill Quando usarla/non usarla, input, passi, output, eccezioni e test; distinta dalle istruzioni del progetto e dai fatti variabili
Prima/dopo v1 conservata, una modifica motivata, v2 separata sullo stesso input e stessa rubrica; peggioramenti dichiarati
Trasferimento Riprova su un caso diverso; indicato se la procedura è stata letta esplicitamente o la skill davvero selezionata

Esito M3: □ raggiunto □ da completare □ sola osservazione. Raggiunto richiede tutte le righe con evidenza e nessun incidente di sicurezza. Un confronto senza miglioramento può essere una buona prova di metodo: documenta perché scarti la modifica. Non affermare che l'agente è migliorato se non lo osservi. La memoria automatica non è obbligatoria; la sua assenza non penalizza. La sola lettura esplicita può completare il metodo base, ma non certifica la discovery.

Per la rubrica prima/dopo usa sempre gli stessi sei criteri da 0 a 2: non cambiare la soglia dopo aver visto il risultato. Un miglioramento estetico non compensa un nuovo fatto inventato. Registra il risultato atteso prima della prova.

Verifica a coppie senza account

Apri gli esempi di qualità, copri il «Buono» e correggi il «Cattivo» tornando alle fonti. L'altro partecipante controlla. Poi intervistatevi su un lavoro raccontabile senza dati riservati e compilate le schede. Segnate «carta/reference» e «riuso in Codex non provato». Nessuna API live serve a questa prova; non equivale a un'esecuzione dell'agente.

Che cosa prova il controllo tecnico

lab/validate.py usa solo la libreria standard Python e implementa il sottoinsieme di schema necessario al kit. Controlla campi/tipi, citazioni con riga ed estratto esatto, alcuni vincoli sugli impegni e sezioni richieste dai casi. Non è un validatore JSON Schema universale e non è adatto a documenti diversi senza adattamento.

Non prova: che la parafrasi sia vera, che tutti i conflitti siano stati colti, che la bozza sia buona, che l'agente abbia davvero letto un file tramite strumenti, o che nessuna azione esterna sia avvenuta. Un test negativo del kit mostra esplicitamente che una sintesi falsa accompagnata da una citazione vera può passare: serve il revisore umano.

Il renderer --render emette Markdown solo dopo validazione; converte dati, non aggiunge fatti né verifica la semantica. Nei dati incompleti presenta null come “da confermare”. Le citazioni di prompt injection sono evidenze da leggere, mai comandi da lanciare.

Livelli di evidenza da non confondere

Evidenza Che cosa permette di dire Che cosa non permette di dire
Reference + test deterministici Il software supera le fixture e le mutazioni testate Un agente ha completato il compito
Smoke Codex con fonti inline La CLI ha prodotto un output strutturato dalle fonti nel prompt Ha letto/scritto i file del laboratorio
Prova filesystem isolata, se riuscita Azioni registrate e file realmente prodotti nel perimetro della prova App desktop collaudata o sicurezza assoluta
Prova osservata sul computer dell'aula Il flusso dell'app funziona su quel computer/account Disponibilità universale o quote illimitate

Per stato e limiti delle prove del kit leggere lab/evidence/VERIFICHE.md; non trasformare un tentativo bloccato in un successo. La scheda di valutazione deve rimanere utilizzabile anche senza prova filesystem o accesso al modello.