Warum dein Chatbot nichts erfinden darf (und wie man das erreicht)

Ein allgemeines KI-Modell antwortet immer, ob es Bescheid weiß oder nicht. Zum Plaudern ist das in Ordnung; vor einem Kunden ist es ein Risiko: ein erfundener Preis, eine Stornobedingung, die es nicht gibt, ein Versprechen, das dein Betrieb nicht halten kann. Die Lösung hat einen wenig glamourösen Namen: das Modell zwingen, nur mit deinen Dokumenten zu antworten.

Was «nur mit deinen Dokumenten» heißt, in Klartext

Drei Bedingungen, und alle drei kann man von außen überprüfen. Erstens: Der Assistent darf als Quelle nur die Dokumente nutzen, die du geladen hast, nicht sein Internet-Gedächtnis. Zweitens: Jede Antwort zitiert das Dokument und den Abschnitt, aus dem sie stammt, damit jeder sie nachprüfen kann. Drittens: Wenn die Antwort nicht in den Dokumenten steht, sagt er es — «weiß ich nicht» — und gibt die Frage an eine Person weiter, statt die Lücke mit etwas Plausiblem zu füllen.

Ein verlässlicher Assistent ist nicht der, der alles beantwortet. Es ist der, der «das steht nicht geschrieben» sagen kann und daraus einen Hinweis macht.

Die Fragen, die du jedem Anbieter stellen solltest

1. Kann der Assistent etwas beantworten, das nicht in meinen Dokumenten steht? Die einzig gute Antwort ist nein.
2. Wie sehe ich, woher jede Antwort stammt? Er muss Dokument und Abschnitt zitieren, bei jeder Antwort, nicht «im Allgemeinen».
3. Was passiert genau, wenn er es nicht weiß? Lass dir den Ablauf zeigen: wer den Hinweis bekommt, mit welchen Informationen, und wie die Antwort in der Dokumentation landet.
4. Kann ich es mit echten Daten testen, bevor ich zahle? Eine Demo mit geladenen Dokumenten ist mehr wert als jede Broschüre.

Wie Concierge es macht

Concierge wendet die drei Bedingungen standardmäßig an: Er antwortet ausschließlich mit deiner Dokumentation, zeigt die Quelle unter jeder Antwort und verwandelt jedes «weiß ich nicht» in eine E-Mail an den, den du festlegst — es wird einmal beantwortet und kommt ins Handbuch. Du kannst es in der Demo ohne Anmeldung überprüfen: Frag etwas, das nicht in den Beispieldokumenten steht, und schau, was er tut. Genau das, was er dort tut, wird er mit deinen Kunden tun.