Quanto vale un’approvazione umana

In breve.

“Una persona approva” è una delle tre regole con cui lavora SYNC. Con questa regola, di serie, una bozza resta in attesa finché qualcuno non l’ha letta e non le ha dato il via libera. Puoi allentarla account per account.

La ricerca sull’automazione dice che un passaggio del genere è più debole di quanto sembri. Chi lavora con un sistema che di solito ha ragione finisce per seguirlo. Un’approvazione può ridursi a un clic.

Teniamo la regola, ma non la consideriamo una garanzia. Questo articolo spiega cosa dice la ricerca, cosa mostrano finora i nostri numeri e cosa facciamo perché l’approvazione resti una vera decisione.

Cosa dice la ricerca sull’approvazione.

Una rassegna della ricerca sull’automazione descrive due errori che le persone commettono con un sistema che dà consigli. Non vedono un problema perché il sistema non l’ha segnalato, e seguono il sistema quando sbaglia. La rassegna è chiara su chi li commette e sulla possibilità di eliminarli con la formazione:

Il design può aiutare, ma ha un prezzo. In un esperimento con 199 persone, le soluzioni che obbligano a confrontarsi con il consiglio prima di accettarlo hanno ridotto l’eccessivo affidamento. Le stesse persone hanno dato a quelle soluzioni il voto più basso.^[4] Il design che funziona meglio è quello che piace meno.

La critica più dura viene da uno studio su 41 politiche pubbliche che richiedono a una persona di sorvegliare un algoritmo della pubblica amministrazione. Conclude che, stando alle prove esaminate, le persone non sono in grado di esercitare il controllo che si chiede loro, e che queste politiche possono dare “un falso senso di sicurezza”.^[5] Letta così, la regola fa sembrare il sistema più sicuro di quanto sia, perché tutti danno per scontato che la persona controlli.

Quale parte del lavoro resta alla persona.

Un articolo classico divide qualsiasi compito in quattro tipi di funzione: raccogliere informazioni, analizzarle, decidere cosa fare e farlo. Ognuna si può automatizzare in misura diversa, da una gestione interamente manuale a una interamente automatica.^[2] La domanda utile è quale funzione viene automatizzata, e fino a che punto.

La suddivisione ha un punto debole noto. Un articolo più vecchio sull’automazione nell’industria sostiene che, quando gran parte di un compito è automatizzata, alla persona restano la sorveglianza e i casi difficili, e ha meno pratica in entrambi. Conosciamo questo articolo da sintesi e non l’abbiamo letto direttamente.^[3]

È il ritratto del nostro revisore. Non ha raccolto le fonti e non ha scritto la bozza. Gli si chiede di giudicare un testo a cui non ha messo mano, e di cogliere tra molte l’unica bozza sbagliata.

Cosa mostrano i nostri numeri.

Per ogni bozza a cui una persona ha dato il via libera tra il 21 agosto e il 29 settembre 2026, abbiamo confrontato la prima stesura con il testo inviato.

La maggior parte delle bozze modificate si è allungata, e la maggior parte è stata riscritta in larga misura. Il conteggio completo è in Cosa cambiano i venditori prima di inviare.^[8]

Finora, quindi, i nostri revisori non approvano a colpo d’occhio. I limiti sono ampi. I revisori erano un piccolo gruppo, e le revisioni sono distribuite in modo diseguale tra loro. Parte delle modifiche può essere una correzione fatta dal software stesso, che non riusciamo a separare. E una modifica non dice se i fatti citati nel messaggio siano stati verificati.

Le nostre contromisure.

• 01Accanto alla bozza il revisore vede il motivo per scrivere: il fatto su cui si basa il messaggio, un link alla fonte e la data in cui è stato rilevato. Quando il fatto non ha una data, la schermata lo segnala. Il revisore può verificare l’affermazione, e non solo il tono.
• 02Il revisore vede anche su quali affermazioni riguardanti la propria azienda si è basata la bozza senza che nessuno nel workspace le abbia ancora confermate.
• 03L’approvazione si imposta per account, su uno di tre livelli: ogni messaggio, solo il primo o nessuno. Fino al 29 settembre 2026 un nuovo account partiva con l’approvazione del primo messaggio, e i follow-up potevano poi partire senza revisione. Da quel giorno ogni nuovo account parte con l’approvazione di ogni invio. Una persona può allentarla per il singolo account: solo il primo messaggio, oppure nessuno.
• 04Dal 29 settembre il software registra cosa è cambiato tra la bozza e il testo inviato, così possiamo seguire nel tempo se i revisori continuano a modificare.
• 05Oggi la schermata di revisione mostra il motivo per scrivere, la sua fonte e la sua data, oppure che la data manca. Mostrare la fonte sotto ogni frase della bozza è in lavorazione. Non diamo una data.

Qui va riportato un riscontro, perché tocca il primo punto. Quando abbiamo misurato, questo sito enunciava la regola secondo cui un account senza un motivo con una data non riceve nulla da SYNC. Il 29 settembre 570 dossier erano segnati come pronti. Secondo il motivo registrato con quel verdetto, 303 si basano su un segnale con data e fonte, 230 su un segnale con fonte ma senza data, e 37 non hanno alcun motivo registrato.^[8] Oggi il controllo chiede un segnale con la sua fonte e non richiede una data. Abbiamo deciso di lasciarlo così: un segnale con fonte ma senza data può ancora rendere pronto un dossier. Il revisore vede che la data manca, e lo stiamo rendendo più visibile nella schermata di revisione. La regola su questo sito ora parla di un motivo che possiamo citare, non di un motivo con una data.

Il regolamento europeo sull’intelligenza artificiale (AI Act) offre un riferimento utile per il design. Il suo articolo sulla sorveglianza umana chiede che chi sorveglia un sistema resti consapevole della possibile tendenza a fare affidamento in modo automatico o eccessivo sui risultati che il sistema produce.^[7] Quell’articolo è scritto per i sistemi che il regolamento definisce ad alto rischio. Non abbiamo valutato se il regolamento si applichi a SYNC. Usiamo l’articolo come standard di progettazione. Non affermiamo che SYNC sia conforme al regolamento, né che debba esserlo.