Der Fehler, den niemand kommen sieht
Fragen Sie einen allgemeinen Assistenten nach der Kündigungsfrist in Ihrem Unternehmen, und er wird sie Ihnen nennen. Flüssig. Im richtigen Ton, in der richtigen Struktur und mit einer Zahl, die genau wie eine Kündigungsfrist klingt. Sie mag sogar stimmen — statistisch ist etwas in dieser Größenordnung üblich.
Genau das ist das Problem. Eine falsche Antwort, die falsch aussieht, fällt in einer Sekunde auf. Eine falsche Antwort, die richtig aussieht, wird weitergeleitet, in einen Vertrag kopiert, einem Kunden gegenüber zitiert. Der Preis von KI im Unternehmen ist fast nie das Abonnement. Es ist die eine selbstbewusste Antwort im Monat, die niemand auf die Idee kam zu prüfen, weil es an ihr nichts zu prüfen gab.
Die Frage an jeden Assistenten, den Sie Ihrem Team vorsetzen, lautet also nicht „wie gut sind seine Antworten“. Sie lautet: was tut er, wenn er keine Grundlage für eine hat?
Quellenbindung: aus dem antworten, was wirklich da ist
Ein allgemeines Modell antwortet aus allem, was es je gelesen hat. Ein quellengebundener Assistent antwortet aus einem definierten Bestand Ihres eigenen Materials — Handbuch, Verträge, Prozesse, Preislisten — und aus nichts sonst.
Diese Einschränkung klingt nach einem Mangel. Sie ist das ganze Produkt.
Der Unterschied zeigt sich sofort. Stellen Sie beiden dieselbe Frage zu Ihren Rückgabebedingungen. Das allgemeine Modell gibt Ihnen eine vernünftige Branchenantwort. Das gebundene gibt Ihnen Ihre Bedingungen — oder sagt Ihnen, dass Ihre Bedingungen diesen Fall nicht abdecken. Nur eines davon ist nützlich, und es ist dasjenige, das manchmal weniger sagt.
Quellenbindung verändert auch, was ein Fehler bedeutet. Ein ungebundenes Modell irrt unsichtbar — die Begründung steckt im Modell. Ein gebundenes Modell zeigt beim Irrtum auf ein Dokument, und Sie können dieses Dokument öffnen und sehen, dass es veraltet ist. Der Fehler wird auffindbar. Das ist eine andere Klasse von System.
Ein System, das auf nachvollziehbare Weise falsch liegen kann, ist sicherer als ein System, das meistens recht hat — aus Gründen, die Sie nicht prüfen können.
Zitate sind keine Fußnote, sie sind die Schnittstelle
Viele Werkzeuge setzen inzwischen einen kleinen „Quelle“-Link unter die Antwort. Wer ihn für Dekoration hält, übersieht, was er leistet.
Ein Zitat verändert das Verhalten der Nutzenden. Ist die Quelle sichtbar, klicken Menschen sie bei den Antworten an, auf die es ankommt, und überspringen sie bei den anderen — genau die richtige Verteilung menschlicher Aufmerksamkeit. Fehlt die Quelle, prüfen Menschen entweder nichts oder alles, und beides ist schlecht.
Ein Zitat verändert auch das Verhalten der Erbauer. Sobald jede Antwort auf ein Dokument zeigen muss, lässt sich eine dünne Wissensbasis nicht mehr mit einem flüssigen Modell übertünchen. Lücken im Inhalt werden als Lücken in den Antworten sichtbar. Der Assistent wird zum Audit Ihrer eigenen Dokumentation — meist unbequem und immer nützlich.
Machen Sie die Quelle präzise. „Aus dem Mitarbeiterhandbuch“ ist kein Zitat; Abschnitt, Version und Datum sind es. Stammt die Antwort aus einem Dokument, das zuletzt vor drei Jahren aktualisiert wurde, sollte das vor dem Handeln bekannt sein.
Berechtigungen sind Teil der Antwort, keine Einstellung
Ein Assistent, der alles lesen darf, wird irgendwann jemandem etwas sagen, das er nicht erfahren sollte. Nicht aus bösem Willen — sondern weil eine Frage so formuliert war, dass sie Gehaltsdaten, einen Vertragsentwurf oder ein Dokument aus einer fremden Abteilung hervorzog.
Die Lösung ist kein nachträglich angeschraubter Filter. Die Lösung ist, Zugriff zum Boden der Antwort zu machen: Der Assistent ruft nur ab, was die fragende Person ohnehin öffnen darf, sodass zwei Kolleginnen dieselbe Frage stellen und korrekterweise unterschiedliche Antworten erhalten können. Wenn Ihr Unternehmen bereits ein Organigramm und Dokumentrechte hat, sollte diese Struktur den Assistenten steuern. Braucht der Assistent ein eigenes Rechtemodell, haben Sie zwei Systeme synchron zu halten — und sie werden auseinanderlaufen.
Machen Sie die Verweigerungsrate zu einer Kennzahl
Hier ist die Zahl, die fast niemand misst: Wie oft lehnt der Assistent eine Antwort ab?
Liegt sie nahe null, ist das System nicht ehrlich — kein Dokumentenbestand deckt alles ab, was Menschen fragen. Ist sie sehr hoch, ist die Wissensbasis zu dünn oder der Abruf scheitert. Irgendwo dazwischen liegt ein System, das Ihnen die Wahrheit über seinen Inhalt sagt.
Besser noch: Behandeln Sie jede Verweigerung als Signal statt als Sackgasse. Eine Frage, die der Assistent nicht beantworten konnte, ist eine Frage, die Ihre Dokumentation nicht abdeckt. Protokollieren und gruppieren Sie diese, und Sie haben eine priorisierte Liste dessen, was als Nächstes zu schreiben ist — erzeugt aus dem tatsächlichen Bedarf der Arbeitenden, nicht davon, wer gerade Zeit für eine Richtlinie hatte.
Sieben Fragen an jeden Anbieter
Bevor Sie unterschreiben, lassen Sie die Demo diese beantworten:
- Fragen Sie etwas, das Ihre Dokumente wirklich nicht abdecken. Sagt er das, oder produziert er etwas Plausibles?
- Fragen Sie etwas, bei dem Ihre Dokumente sich widersprechen. Legt er den Konflikt offen oder wählt er stillschweigend eine Seite?
- Klicken Sie bei drei Antworten auf die Quelle. Landen Sie bei der genauen Passage oder nur bei der Datei?
- Stellen Sie dieselbe Frage als zwei Personen mit unterschiedlichen Rechten. Unterscheiden sich die Antworten korrekt?
- Fragen Sie in einer Sprache nach einem Dokument in einer anderen. Echte Unternehmen laufen auf gemischtsprachigen Dokumenten.
- Fragen Sie nach etwas, das sich kürzlich geändert hat. Nutzt er die aktuelle Fassung oder die zuerst indexierte?
- Fragen Sie, wo die Daten verarbeitet und gespeichert werden. Die Antwort sollte ein Satz sein, kein Termin.
Ein Anbieter, der seinem System vertraut, freut sich über Frage eins und zwei. Achten Sie auf die, die die Demo davon weglenken.
Warum wir es so bauen
Wir haben dieses Prinzip in den Mittelpunkt des internen Arbeitsbereichs gestellt, den wir bauen: Mitarbeitende fragen in normaler Sprache, die Antwort kommt ausschließlich aus den eigenen Dokumenten des Unternehmens, die Quelle wird gezeigt, und wenn es keine gibt, sagt der Assistent, dass er es nicht weiß, statt die Lücke zu füllen.
Dieses letzte Verhalten ist das schwerste, denn es lässt eine Demo schlechter aussehen. Ein Assistent, der alles beantwortet, wirkt zehn Minuten lang beeindruckend. Ein Assistent, der gelegentlich sagt „Ich weiß es nicht, und hier ist, wonach ich gesucht habe“, verdient sich etwas, das eine beeindruckende Demo nie erreicht: Menschen glauben ihm, wenn er doch antwortet.
Dieses Vertrauen ist der eigentliche Wert. Alles andere ist Abruf.