Per què el teu chatbot no ha d'inventar (i com s'aconsegueix)

Un model d'IA generalista respon sempre, en sàpiga o no. Per conversar està bé; davant d'un client és un risc: un preu inventat, una política de cancel·lació que no existeix, una promesa que el teu negoci no pot complir. La solució té un nom poc glamurós: obligar el model a respondre només amb els teus documents.

Què vol dir «només amb els teus documents», explicat clar

Tres condicions, i totes tres es poden comprovar des de fora. Primera: l'assistent només pot fer servir com a font els documents que tu has carregat, no la seva memòria d'internet. Segona: cada resposta cita el document i l'apartat d'on surt, perquè qualsevol la pugui verificar. Tercera: quan la resposta no és als documents, ho diu — «no ho sé» — i escala la pregunta a una persona, en lloc d'omplir el buit amb alguna cosa plausible.

Un assistent fiable no és el que ho respon tot. És el que sap dir «això no està escrit» i ho converteix en un avís.

Les preguntes que has de fer a qualsevol proveïdor

1. Pot l'assistent respondre alguna cosa que no sigui als meus documents? L'única resposta bona és que no.
2. Com veig d'on ha sortit cada resposta? Ha de citar document i apartat, a cada resposta, no «en general».
3. Què passa exactament quan no ho sap? Demana veure el flux: qui rep l'avís, amb quina informació, i com la resposta acaba a la documentació.
4. Puc provar-ho amb dades reals abans de pagar? Una demo amb documents carregats val més que qualsevol fullet.

Com ho fa Concierge

Concierge aplica les tres condicions de sèrie: respon únicament amb la teva documentació, mostra la font sota cada resposta i converteix cada «no ho sé» en un correu a qui tu decideixis — es respon un cop i s'afegeix al manual. Ho pots comprovar a la demo sense registre: pregunta alguna cosa que no sigui als documents d'exemple i mira què fa. El que fa allà és exactament el que farà amb els teus clients.