Waarom je chatbot niets mag verzinnen (en hoe je dat voor elkaar krijgt)

Een generiek AI-model antwoordt altijd, of het het nu weet of niet. Voor een praatje is dat prima; tegenover een klant is het een risico: een verzonnen prijs, een annuleringsbeleid dat niet bestaat, een belofte die je bedrijf niet kan waarmaken. De oplossing heeft een weinig glamoureuze naam: het model dwingen om alleen met jouw documenten te antwoorden.

Wat ‘alleen met jouw documenten’ betekent, in gewone taal

Drie voorwaarden, en alle drie kun je van buitenaf controleren. Eén: de assistent mag alleen de documenten gebruiken die jij hebt geladen, niet zijn internetgeheugen. Twee: elk antwoord vermeldt het document en de paragraaf waar het vandaan komt, zodat iedereen het kan nagaan. Drie: als het antwoord niet in de documenten staat, zegt hij dat — ‘ik weet het niet’ — en stuurt hij de vraag door naar een persoon, in plaats van het gat op te vullen met iets aannemelijks.

Een betrouwbare assistent is niet degene die alles beantwoordt. Het is degene die kan zeggen ‘dit staat nergens op papier’ en er een melding van maakt.

De vragen die je elke leverancier moet stellen

1. Kan de assistent iets antwoorden dat niet in mijn documenten staat? Het enige goede antwoord is nee.
2. Hoe zie ik waar elk antwoord vandaan komt? Hij moet document en paragraaf vermelden, bij elk antwoord, niet ‘in het algemeen’.
3. Wat gebeurt er precies als hij het niet weet? Vraag om de flow te zien: wie de melding krijgt, met welke informatie, en hoe het antwoord in de documentatie belandt.
4. Kan ik het testen met echte gegevens voordat ik betaal? Een demo met geladen documenten zegt meer dan welke folder ook.

Hoe Concierge het doet

Concierge past de drie voorwaarden standaard toe: hij antwoordt uitsluitend met jouw documentatie, toont de bron onder elk antwoord en zet elk ‘ik weet het niet’ om in een e-mail naar wie jij kiest — één keer beantwoorden en het komt in het handboek. Je kunt het controleren in de demo zonder registratie: stel een vraag die niet in de voorbeelddocumenten staat en kijk wat hij doet. Wat hij daar doet, is precies wat hij met jouw klanten zal doen.