لماذا يجب ألا يختلق روبوت المحادثة لديك (وكيف يتحقق ذلك)

نموذج الذكاء الاصطناعي العام يجيب دائمًا، عرف أم لم يعرف. للدردشة لا بأس بذلك؛ أما أمام عميل فهو خطر: سعر مختلَق، أو سياسة إلغاء لا وجود لها، أو وعد لا يستطيع عملك الوفاء به. الحل يحمل اسمًا غير برّاق: إلزام النموذج بأن يجيب اعتمادًا على مستنداتك فقط.

ما معنى «اعتمادًا على مستنداتك فقط»، بلغة واضحة

ثلاثة شروط، وكلها قابلة للتحقق من الخارج. الأول: لا يجوز للمساعد أن يستخدم كمصدر إلا المستندات التي حمّلتها أنت، لا ذاكرته من الإنترنت. الثاني: كل جواب يذكر المستند والفقرة اللذين أُخذ منهما، ليتمكن أي شخص من التحقق منه. الثالث: حين لا يكون الجواب في المستندات، يقولها صراحة — «لا أعرف» — ويصعّد السؤال إلى إنسان، بدل ملء الفراغ بشيء يبدو معقولًا.

المساعد الموثوق ليس من يجيب عن كل شيء، بل من يعرف أن يقول «هذا غير مكتوب» ويحوّله إلى تنبيه.

الأسئلة التي يجب أن تطرحها على أي مزوّد

1. هل يمكن للمساعد أن يجيب بشيء غير موجود في مستنداتي؟ الجواب الجيد الوحيد هو لا.
2. كيف أرى من أين جاء كل جواب؟ يجب أن يذكر المستند والفقرة، في كل جواب، لا «بشكل عام».
3. ماذا يحدث بالضبط حين لا يعرف؟ اطلب رؤية المسار: من يتلقى التنبيه، وبأي معلومات، وكيف ينتهي الجواب في التوثيق.
4. هل يمكنني تجربته ببيانات حقيقية قبل الدفع؟ عرض تجريبي بمستندات محمّلة يساوي أكثر من أي كتيّب دعائي.

كيف يفعلها Concierge

Concierge يطبّق الشروط الثلاثة افتراضيًا: يجيب اعتمادًا على توثيقك حصرًا، ويعرض المصدر أسفل كل جواب، ويحوّل كل «لا أعرف» إلى بريد إلكتروني إلى من تحدده أنت — فيُجاب عنه مرة واحدة ويُضاف إلى الدليل. يمكنك التحقق من ذلك في العرض التجريبي دون تسجيل: اسأل شيئًا غير موجود في المستندات النموذجية وانظر ماذا يفعل. ما يفعله هناك هو بالضبط ما سيفعله مع عملائك.