Wer prüft die zweite?

Was das Buch dazu sagt

Sprachmodelle lassen sich für kritische Anwendungen nicht als Managed Service betreiben, weil ihre Kernleistung, die inhaltliche Korrektheit, weder garantiert noch gemessen noch vertraglich zugesichert werden kann. Je überzeugender das System arbeitet, desto weniger prüft der Mensch. Das ist das Paradox.

Vera hat recht, vier Augen sehen mehr. itedi hat auch recht: Zwei Modelle sind zwei Ziehungen aus Verteilungen, keine zwei Augen. Das Buch nennt die Ausgabe plausible Lüge statt Halluzination: sprachlich korrekt, plausibel, faktisch falsch, eine Systemeigenschaft und keine Störung. Prüfen kann nur, wer das Richtige kennt, und wer das Richtige kennt, braucht den Service weniger. Das ist das Kompetenzparadox.

Das Buch

Das Helferlein-Paradox — LLM zwischen Versprechen und Verantwortung. Die SLA-Falsifikationsmethode, eine Drohnenentwicklung mit 2.000 Seiten Spezifikation als durchgehendes Beispiel, die dreifache Lücke aus BGB, AI Act und Produkthaftungsrichtlinie, das Rechercheur-Modell, ein ehrlicher SLA als Mustervertrag und eine Checkliste für die KI-Einführung in regulierten Branchen.

Im Buchhandel über die ISBN bestellbar.

Alle Folgen zu Band 3

Jede Folge stellt eine Frage, die das Buch beantwortet. Neue Folgen erscheinen montags und donnerstags, 17:30, auf YouTube.

Das Helferlein

Daniel Düsentriebs Roboter-Assistent: assistiert bei allem, versteht nichts, reicht Schrauben, ohne zu wissen, welche passt. Die temporale Asymmetrie dahinter: Die Hilfe geschieht vor der Entscheidung, die Verantwortung bleibt danach. Nutze das Werkzeug. Vertraue ihm nicht blind. Prüfe. Entscheide. Verantworte.

Die anderen Bände

Das Helferlein-Paradox ist Band 3 und prägt den Begriff der Reihe: die plausible Lüge. Band 5 erzählt dieselbe Diagnose als Roman. Dreizehn Bände, ein Muster: Fehler, die sich wiederholen, und die Frage, die sie sichtbar macht.