챗봇이 지어내면 안 되는 이유 (그리고 그렇게 만드는 방법)

범용 AI 모델은 알든 모르든 항상 답합니다. 잡담이라면 괜찮지만 고객 앞에서는 위험합니다. 지어낸 가격, 존재하지 않는 취소 정책, 사업장이 지킬 수 없는 약속. 해결책의 이름은 화려하지 않습니다. 모델이 오직 당신의 문서로만 답하게 강제하는 것.

‘내 문서로만’이 쉽게 말해 무슨 뜻일까

조건은 세 가지이고, 셋 다 밖에서 검증할 수 있습니다. 첫째, 어시스턴트는 당신이 올린 문서만 출처로 쓸 수 있습니다. 인터넷에서 배운 기억은 안 됩니다. 둘째, 모든 답변에 출처가 된 문서와 항목을 표시해서 누구든 검증할 수 있어야 합니다. 셋째, 답이 문서에 없으면 그렇다고 말합니다 — “모르겠습니다” — 그리고 그럴듯한 말로 빈틈을 메우는 대신 질문을 사람에게 넘깁니다.

믿을 수 있는 어시스턴트는 모든 질문에 답하는 어시스턴트가 아닙니다. “이건 문서에 없습니다”라고 말하고 그것을 알림으로 바꿀 줄 아는 어시스턴트입니다.

어떤 공급업체에든 해야 할 질문

1. 어시스턴트가 내 문서에 없는 내용을 답할 수 있나요? 좋은 답은 ‘아니요’ 하나뿐입니다.
2. 각 답변이 어디서 나왔는지 어떻게 확인하나요? ‘대체로’가 아니라 답변마다 문서와 항목을 표시해야 합니다.
3. 모를 때는 정확히 어떻게 되나요? 흐름을 보여 달라고 하세요. 누가, 어떤 정보와 함께 알림을 받고, 그 답이 어떻게 문서에 반영되는지.
4. 결제 전에 실제 데이터로 테스트할 수 있나요? 문서가 올라간 데모 하나가 어떤 브로슈어보다 낫습니다.

Concierge는 이렇게 합니다

Concierge는 세 조건을 기본으로 적용합니다. 오직 당신의 문서로만 답하고, 모든 답변 아래에 출처를 보여 주고, 모든 “모르겠습니다”를 당신이 정한 사람에게 가는 이메일로 바꿉니다. 한 번 답하면 매뉴얼에 추가되죠. 가입 없는 데모에서 직접 확인해 보세요. 예시 문서에 없는 것을 물어보고 어떻게 하는지 지켜보세요. 거기서 하는 행동이 당신의 고객 앞에서 할 행동 그대로입니다.