Ce que vaut une validation humaine

En bref.

« Une personne valide » est l’une des trois règles de travail de SYNC. Selon cette règle, un brouillon attend par défaut que quelqu’un l’ait lu et validé. Vous pouvez assouplir la règle compte par compte.

La recherche sur l’automatisation dit qu’une telle étape est plus faible qu’il n’y paraît. Qui travaille avec un système qui a le plus souvent raison finit par le suivre. Une validation peut devenir un simple clic.

Nous gardons la règle, sans la tenir pour une garantie. Cet article expose ce que dit la recherche, ce que montrent nos propres chiffres à ce jour et ce que nous faisons pour que la validation reste une vraie décision.

Ce que dit la recherche sur la validation.

Une synthèse de la recherche sur l’automatisation décrit deux erreurs que l’on commet avec un système qui conseille. On rate un problème parce que le système ne l’a pas signalé, et on suit le système quand il se trompe. La synthèse est claire sur qui commet ces erreurs, et sur la possibilité de s’en défaire par la formation :

La conception peut aider, mais cela a un prix. Dans une expérience menée auprès de 199 personnes, les interfaces qui obligent à se confronter au conseil avant de l’accepter ont réduit la confiance excessive. Les mêmes personnes ont donné à ces interfaces la note la plus basse.^[4] La conception qui fonctionne le mieux est celle qu’on aime le moins.

La critique la plus dure vient d’une étude de 41 politiques qui imposent qu’une personne supervise un algorithme public. Elle conclut que, d’après les éléments examinés, les personnes ne sont pas capables d’exercer la supervision qu’on leur demande, et que de telles politiques peuvent donner « un faux sentiment de sécurité ».^[5] Dans cette lecture, la règle fait paraître le système plus sûr qu’il ne l’est, parce que tout le monde suppose que la personne vérifie.

La part du travail qui reste à l’humain.

Un article classique divise toute tâche en quatre types de fonctions : recueillir l’information, l’analyser, décider quoi faire et le faire. Chacune peut être automatisée à un degré différent, du tout manuel au tout automatique.^[2] La question utile est de savoir quelle fonction est automatisée, et jusqu’où.

Ce partage a une faiblesse connue. Un article plus ancien sur l’automatisation dans l’industrie soutient que lorsque l’essentiel d’une tâche est automatisé, il reste à la personne la surveillance et les cas difficiles, et qu’elle manque de pratique pour l’une comme pour les autres. Nous connaissons cet article par des résumés et ne l’avons pas lu nous-mêmes.^[3]

C’est la situation de notre relecteur. Il n’a pas réuni les sources et n’a pas écrit le brouillon. On lui demande de juger un texte auquel il n’a pas pris part, et de repérer le brouillon erroné parmi beaucoup d’autres.

Ce que montrent nos propres chiffres.

Pour chaque brouillon validé par une personne entre le 21 août et le 29 septembre 2026, nous avons comparé le premier jet au texte envoyé.

La plupart des brouillons modifiés se sont allongés, et la plupart ont été largement réécrits. Le décompte complet se trouve dans Ce que les commerciaux changent avant l’envoi.^[8]

Jusqu’ici, nos relecteurs ne valident donc pas les yeux fermés. Les limites sont importantes. Les relecteurs formaient un petit groupe, et les relectures sont inégalement réparties entre eux. Une partie des modifications peut venir des propres corrections du logiciel, que nous ne savons pas isoler. Et une modification ne dit rien de la vérification des faits contenus dans le message.

Ce que nous en faisons.

• 01Le relecteur voit la raison d’écrire à côté du brouillon : le fait sur lequel repose le message, un lien vers sa source et la date à laquelle il a été observé. Quand le fait n’a pas de date, l’écran l’indique. Le relecteur peut vérifier l’affirmation, et pas seulement le ton.
• 02Le relecteur voit aussi sur quelles affirmations concernant sa propre entreprise le brouillon s’est appuyé sans que personne dans l’espace de travail ne les ait encore confirmées.
• 03La validation se règle compte par compte, à l’un de trois niveaux : chaque message, le premier message seulement, ou aucun. Jusqu’au 29 septembre 2026, un nouveau compte démarrait avec la validation du premier message, et les relances pouvaient ensuite partir sans relecture. Depuis ce jour, chaque nouveau compte démarre avec une validation à chaque envoi. Une personne peut l’assouplir compte par compte : premier message seulement, ou aucune validation.
• 04Depuis le 29 septembre, le logiciel enregistre ce qui a changé entre le brouillon et le texte envoyé, pour que nous puissions suivre dans le temps si les relecteurs continuent de modifier.
• 05Aujourd’hui, l’écran de relecture montre la raison d’écrire, sa source et sa date, ou le fait que la date manque. Afficher la source sous chaque phrase du brouillon est en cours de développement. Nous ne donnons pas de date pour cela.

Un constat a sa place ici, car il touche le premier point. Au moment de notre mesure, ce site énonçait la règle selon laquelle un compte sans raison datée ne reçoit rien de SYNC. Le 29 septembre, 570 dossiers étaient marqués prêts. D’après la raison enregistrée avec ce verdict, 303 reposent sur un signal daté et sourcé, 230 sur un signal sourcé sans date, et 37 n’ont aucune raison enregistrée.^[8] Aujourd’hui, le contrôle exige un signal et sa source, mais pas de date. Nous avons décidé de le garder : un signal sourcé sans date peut toujours rendre un dossier prêt. Le relecteur voit que la date manque, et nous rendons cela plus visible dans l’écran de relecture. Sur ce site, la règle parle désormais d’une raison que nous pouvons citer, et non plus d’une raison datée.

Le règlement européen sur l’IA (AI Act) offre un repère utile pour la conception. Son article sur le contrôle humain demande qu’une personne qui supervise un système reste consciente de la tendance possible à se fier automatiquement ou excessivement aux résultats qu’il produit.^[7] Cet article vise les systèmes que le règlement qualifie de haut risque. Nous n’avons pas évalué si le règlement s’applique à SYNC. Nous utilisons l’article comme norme de conception. Nous ne prétendons ni que SYNC est conforme au règlement, ni qu’il doit l’être.