Was eine menschliche Freigabe wert ist

Die Kurzfassung.

„Ein Mensch gibt frei“ ist eine der drei Regeln, nach denen SYNC arbeitet. Nach dieser Regel wartet ein Entwurf standardmäßig, bis jemand ihn gelesen und freigegeben hat. Pro Account können Sie das lockern.

Die Forschung zur Automatisierung sagt, dass ein solcher Schritt schwächer ist, als er klingt. Wer mit einem System arbeitet, das meistens richtig liegt, folgt ihm irgendwann. Aus einer Freigabe kann ein Klick werden.

Wir behalten die Regel, behandeln sie aber nicht als Garantie. Dieser Beitrag zeigt, was die Forschung sagt, was unsere eigenen Zahlen bisher zeigen und was wir tun, damit die Freigabe eine echte Entscheidung bleibt.

Was die Forschung über Freigaben sagt.

Ein Überblicksartikel zur Automatisierungsforschung beschreibt zwei Fehler, die Menschen mit einem beratenden System machen. Sie übersehen ein Problem, weil das System es nicht gemeldet hat, und sie folgen dem System, wenn es falsch liegt. Der Artikel sagt klar, wen das betrifft und ob es sich abtrainieren lässt:

Gestaltung kann helfen, hat aber ihren Preis. In einem Experiment mit 199 Personen verringerten Oberflächen, die einen Menschen zwingen, sich mit dem Rat auseinanderzusetzen, bevor er ihn annimmt, das übermäßige Vertrauen. Dieselben Personen bewerteten genau diese Oberflächen am schlechtesten.^[4] Was am besten wirkt, gefällt am wenigsten.

Die härteste Kritik kommt aus einer Studie über 41 Regelwerke, die verlangen, dass ein Mensch einen staatlichen Algorithmus beaufsichtigt. Sie kommt zu dem Schluss, dass Menschen nach der Beweislage, die sie auswertet, die verlangte Aufsicht nicht leisten können und dass solche Regelwerke „ein falsches Gefühl der Sicherheit“ vermitteln können.^[5] So gelesen lässt die Regel das System sicherer wirken, als es ist, weil alle annehmen, dass der Mensch prüft.

Welchen Teil der Arbeit der Mensch behält.

Ein klassischer Artikel teilt jede Aufgabe in vier Arten von Funktionen: Informationen sammeln, sie analysieren, entscheiden, was zu tun ist, und es tun. Jede davon lässt sich unterschiedlich weit automatisieren, von ganz manuell bis ganz automatisch.^[2] Entscheidend ist, welche Funktion automatisiert wird und wie weit.

Die Aufteilung hat eine bekannte Schwäche. Ein älterer Artikel über Automatisierung in der Industrie argumentiert: Ist der größte Teil einer Aufgabe automatisiert, bleiben dem Menschen das Beobachten und die schwierigen Fälle, und für beides fehlt ihm die Übung. Wir kennen diesen Artikel aus Zusammenfassungen und haben ihn nicht selbst gelesen.^[3]

Genau das ist die Lage unserer Prüfer. Sie haben die Quellen nicht gesammelt und den Entwurf nicht geschrieben. Sie sollen einen Text beurteilen, an dem sie nicht mitgewirkt haben, und unter vielen Entwürfen den einen falschen erkennen.

Was unsere eigenen Zahlen zeigen.

Für jeden Entwurf, den ein Mensch zwischen dem 21. August und dem 29. September 2026 freigegeben hat, haben wir den ersten Entwurf mit dem gesendeten Text verglichen.

Die meisten geänderten Entwürfe wurden länger, und die meisten wurden weitgehend umgeschrieben. Die vollständige Auszählung steht in Was Verkäufer vor dem Senden ändern.^[8]

Bisher geben unsere Prüfer also nicht blind frei. Die Einschränkungen sind groß. Die Prüfer waren eine kleine Gruppe, und die Prüfungen verteilen sich ungleich auf sie. Ein Teil der Änderungen kann die eigene Korrektur der Software sein, die wir nicht herausrechnen können. Und eine Änderung sagt nichts darüber, ob die Fakten in der Nachricht geprüft wurden.

Was wir dagegen tun.

• 01Der Prüfer sieht neben dem Entwurf den Grund zum Schreiben: die Tatsache, auf der die Nachricht beruht, einen Link zu ihrer Quelle und das Datum, an dem sie beobachtet wurde. Hat die Tatsache kein Datum, zeigt der Bildschirm das an. Der Prüfer kann die Aussage prüfen, nicht nur den Ton.
• 02Der Prüfer sieht außerdem, auf welche Aussagen über das eigene Unternehmen sich der Entwurf gestützt hat, die im Arbeitsbereich noch niemand bestätigt hat.
• 03Die Freigabe wird pro Account eingestellt, in einer von drei Stufen: jede Nachricht, nur die erste Nachricht oder keine. Bis zum 29. September 2026 startete ein neuer Account mit Freigabe der ersten Nachricht, und Nachfassmails konnten danach ungeprüft verschickt werden. Seit diesem Tag startet jeder neue Account mit Freigabe für jeden Versand. Ein Mensch kann das pro Account lockern, auf nur die erste Nachricht oder auf keine.
• 04Seit dem 29. September speichert die Software, was sich zwischen Entwurf und gesendetem Text geändert hat, damit wir über die Zeit verfolgen können, ob Prüfer weiterhin Änderungen vornehmen.
• 05Heute zeigt der Prüfbildschirm den Grund zum Schreiben, seine Quelle und sein Datum oder den Hinweis, dass das Datum fehlt. Die Quelle unter jedem Satz des Entwurfs anzuzeigen, ist in Arbeit. Ein Datum dafür nennen wir nicht.

Ein Befund gehört hierher, weil er den ersten Punkt berührt. Als wir gemessen haben, nannte diese Website die Regel, dass ein Account ohne datierten Grund nichts von SYNC bekommt. Am 29. September waren 570 Dossiers als fertig markiert. Nach dem Grund, der mit diesem Urteil erfasst wurde, beruhen 303 auf einem datierten Signal mit Quelle, 230 auf einem Signal mit Quelle, aber ohne Datum, und bei 37 ist kein Grund erfasst.^[8] Heute verlangt die Prüfung ein Signal mit Quelle, aber kein Datum. Wir haben entschieden, das beizubehalten: Ein Dossier kann also weiterhin als fertig gelten, wenn sein Signal eine Quelle, aber kein Datum hat. Der Prüfer sieht, dass das Datum fehlt, und wir machen das im Prüfbildschirm sichtbarer. Auf dieser Website lautet die Regel jetzt: ein Grund, den wir belegen können, nicht ein datierter Grund.

Die europäische KI-Verordnung (AI Act) liefert einen brauchbaren Maßstab für die Gestaltung. Ihr Artikel zur menschlichen Aufsicht verlangt, dass eine Person, die ein System beaufsichtigt, sich der möglichen Neigung bewusst bleibt, sich automatisch oder zu sehr auf dessen Ergebnisse zu verlassen.^[7] Dieser Artikel gilt für Systeme, die die Verordnung als Hochrisiko-Systeme einstuft. Wir haben nicht geprüft, ob die Verordnung auf SYNC anwendbar ist. Wir nutzen den Artikel als Maßstab für die Gestaltung. Wir behaupten weder, dass SYNC die Verordnung erfüllt, noch, dass es sie erfüllen muss.