Lo que vale una aprobación humana

En resumen.

«Una persona aprueba» es una de las tres reglas con las que trabaja SYNC. Con esa regla, por defecto, un borrador espera hasta que alguien lo ha leído y ha aprobado su envío. Puedes relajarlo en cada cuenta.

La investigación sobre automatización dice que un paso así es más débil de lo que parece. Quien trabaja con un sistema que suele acertar acaba siguiéndolo. Una aprobación puede convertirse en un clic.

Mantenemos la regla, pero no la tratamos como una garantía. Este artículo explica qué dicen los estudios, qué muestran hasta ahora nuestras propias cifras y qué hacemos para que la aprobación siga siendo una decisión de verdad.

Qué dicen los estudios sobre la aprobación.

Una revisión de la investigación sobre automatización describe dos errores que cometen las personas con un sistema que aconseja. No ven un problema porque el sistema no lo señaló, y siguen al sistema cuando se equivoca. La revisión es clara sobre quién los comete y sobre si la formación puede corregirlos:

El diseño puede ayudar, a un precio. En un experimento con 199 personas, los diseños que obligan a examinar la recomendación antes de aceptarla redujeron la confianza excesiva. Esas mismas personas dieron a esos diseños la peor nota.^[4] El diseño que mejor funciona es el que menos gusta.

La crítica más dura viene de un estudio de 41 políticas que exigen que una persona supervise un algoritmo de la administración pública. Concluye que, según las pruebas que revisa, las personas no son capaces de ejercer la supervisión que se les pide, y que esas políticas pueden dar «una falsa sensación de seguridad».^[5] Leída así, la regla hace que el sistema parezca más seguro de lo que es, porque todo el mundo da por hecho que la persona comprueba.

Qué parte del trabajo conserva la persona.

Un artículo clásico divide cualquier tarea en cuatro tipos de función: reunir información, analizarla, decidir qué hacer y hacerlo. Cada una puede automatizarse en distinto grado, de totalmente manual a totalmente automática.^[2] La pregunta útil es qué función se automatiza y hasta dónde.

Esta división tiene un punto débil conocido. Un artículo más antiguo sobre la automatización en la industria sostiene que, cuando casi toda una tarea está automatizada, a la persona le quedan la vigilancia y los casos difíciles, y tiene menos práctica en ambas cosas. Conocemos este artículo por resúmenes y no lo hemos leído nosotros mismos.^[3]

Eso describe a nuestro revisor. No reunió las fuentes ni escribió el borrador. Se le pide que juzgue un texto en el que no ha participado y que detecte, entre muchos, el único borrador que está mal.

Qué muestran nuestras propias cifras.

De cada borrador que una persona aprobó entre el 21 de agosto y el 29 de septiembre de 2026, comparamos el primer borrador con el texto enviado.

La mayoría de los borradores cambiados se alargaron, y la mayoría se reescribieron en buena parte. El recuento completo está en Qué cambian los comerciales antes de enviar.^[8]

Hasta ahora, por tanto, nuestros revisores no aprueban a ciegas. Las limitaciones son considerables. Los revisores eran un grupo pequeño, y las revisiones se reparten de forma desigual entre ellos. Parte del cambio puede ser la propia corrección del software, que no podemos separar. Y un cambio no dice nada de si se comprobaron los hechos del mensaje.

Qué hacemos al respecto.

• 01El revisor ve el motivo para escribir junto al borrador: el hecho en que se apoya el mensaje, un enlace a su fuente y la fecha en que se observó. Cuando el hecho no tiene fecha, la pantalla lo dice. El revisor puede comprobar la afirmación, y no solo el tono.
• 02El revisor ve también qué afirmaciones sobre su propia empresa ha usado el borrador sin que nadie en el espacio de trabajo las haya confirmado todavía.
• 03La aprobación se configura por cuenta, en uno de tres niveles: cada mensaje, solo el primero o ninguno. Hasta el 29 de septiembre de 2026, una cuenta nueva empezaba con aprobación del primer mensaje, y después los seguimientos podían salir sin revisión. Desde ese día, cada cuenta nueva empieza con aprobación de cada envío. Una persona puede relajarlo en cada cuenta, a solo el primer mensaje o a ninguno.
• 04Desde el 29 de septiembre, el software guarda qué cambió entre el borrador y el texto enviado, para que podamos seguir con el tiempo si los revisores siguen editando.
• 05Hoy la pantalla de revisión muestra el motivo para escribir, su fuente y su fecha, o que falta la fecha. Mostrar la fuente bajo cada frase del borrador está en desarrollo. No damos fecha para ello.

Aquí hay que mencionar un hallazgo, porque afecta al primer punto. Cuando medimos, esta web enunciaba la regla de que una cuenta sin un motivo fechado no recibe nada de SYNC. El 29 de septiembre había 570 dosieres marcados como listos. Según el motivo registrado con ese veredicto, 303 se apoyan en una señal fechada y con fuente, 230 en una señal con fuente pero sin fecha y 37 no tienen ningún motivo registrado.^[8] Hoy el control pide una señal con su fuente y no exige fecha. Decidimos mantenerlo así: una señal con fuente pero sin fecha puede seguir dejando listo un dosier. El revisor ve que falta la fecha, y lo estamos haciendo más visible en la pantalla de revisión. La regla de esta web habla ahora de un motivo que podemos citar, no de un motivo fechado.

El Reglamento europeo de IA (AI Act) ofrece una referencia útil para el diseño. Su artículo sobre supervisión humana pide que la persona que supervisa un sistema sea consciente de la posible tendencia a confiar de forma automática o excesiva en los resultados que produce.^[7] Ese artículo está escrito para los sistemas que el Reglamento llama de alto riesgo. No hemos evaluado si el Reglamento se aplica a SYNC. Usamos el artículo como estándar de diseño. No afirmamos que SYNC cumpla el Reglamento, ni que tenga que cumplirlo.