チャットボットがでっち上げてはいけない理由(と、その実現方法)

汎用のAIモデルは、知っていても知らなくても必ず答える。雑談ならそれでいい。だが顧客の前ではリスクだ。でっち上げの価格、存在しないキャンセルポリシー、ビジネスが果たせない約束。解決策の名前は地味だ:モデルに、あなたのドキュメントだけで答えることを強制する。

「自社ドキュメントだけ」とは、平たく言えば

条件は3つ。そして3つとも外から検証できる。第一:アシスタントが情報源にできるのは、あなたが読み込ませた文書だけ。インターネットで覚えた知識ではない。第二:すべての回答が出どころの文書名とセクションを引用し、誰でも検証できる。第三:答えが文書にないときは、そう言う——「わかりません」——そして、もっともらしい何かで穴を埋める代わりに、質問を人間にエスカレーションする。

信頼できるアシスタントとは、すべてに答えるアシスタントではない。「これは書かれていません」と言えて、それを通知に変えられるアシスタントだ。

どのベンダーにも聞くべき質問

1. アシスタントは、私のドキュメントにないことを答えられますか? 良い答えは「いいえ」だけだ。
2. 各回答の出どころはどう確認できますか? 「おおむね」ではなく、回答ごとに文書名とセクションを引用しなければならない。
3. 知らないとき、正確には何が起こりますか? フローを見せてもらうこと。誰が、どんな情報つきで通知を受け、答えがどうやってドキュメントに反映されるのか。
4. 支払う前に実データで試せますか? ドキュメントを読み込ませたデモは、どんなパンフレットより雄弁だ。

Conciergeのやり方

Conciergeは、この3つの条件を標準で満たしている。あなたのドキュメントだけで答え、各回答の下に出典を表示し、「わかりません」のたびに、あなたが指定した人へメールを送る——一度答えれば、マニュアルに追加される。登録不要のデモで確認できる。サンプル文書にないことを質問して、何が起こるか見てほしい。そこでの挙動こそが、あなたの顧客に対する挙動そのものだ。