هلوسة الذكاء الاصطناعي

هلوسة الذكاء الاصطناعي هي إجابة يصوغها الذكاء الاصطناعي بثقة وبشكل معقول، لكنها خاطئة من حيث الوقائع أو مختلَقة بالكامل. عندئذٍ "يخمّن" النموذج إجابة بدلاً من الاعتراف بأن المعلومة تنقصه. وهذا في خدمة العملاء أمر محفوف بالمخاطر، و RAG ودرجة الثقة والتسليم البشري تحدّ منه.

ما هي هلوسة الذكاء الاصطناعي؟

يُقال إن هناك هلوسة للذكاء الاصطناعي حين يقدّم إجابة تبدو مقنعة لكنها غير صحيحة. والخطورة أن الإجابة سليمة لغوياً وتبدو واثقة. المحتوى وحده هو الخاطئ أو المختلَق. وكثيراً ما لا يلاحظ العميل الخطأ.

والسبب يكمن في طريقة عمل النموذج اللغوي الكبير. فهو يتنبّأ بالكلمة التالية الأرجح، وهو مصمَّم لإنتاج إجابة سلسة دائماً، حتى حين تنقصه المعلومة اللازمة. وبدلاً من قول "لا أعرف ذلك"، يملأ الفجوة بتخمين معقول. وهذا تحديداً هو الهلوسة.

لماذا يُعدّ هذا حرجاً للشركات؟

في خدمة العملاء، يمكن لإجابة مختلَقة أن تُلحق ضرراً حقيقياً: سعر خاطئ، أو مدة توصيل موعودة لا يمكن الوفاء بها، أو مهلة إرجاع مختلَقة. وهذا يكلّف ثقةً وربما مالاً. ولذلك تلزم آليات حماية. وثلاث منها تعمل بفاعلية خاصة:

• RAG. يجيب الذكاء الاصطناعي من قاعدة معرفتك الخاصة بدلاً من المعرفة العامة. وإن لم يجد مصدراً مناسباً، فلا شيء لديه ليختلقه.
• درجة الثقة. تحصل كل إجابة على قيمة أمان. وإذا كانت منخفضة جداً، لم يجِب الذكاء الاصطناعي بنفسه.
• التسليم البشري. إذا كان الذكاء الاصطناعي غير متيقّن، مرّر المحادثة إلى موظف بدلاً من التخمين.

كما تساعد هندسة الموجِّهات النظيفة: فتعليمة واضحة مثل "إن لم تكن متأكداً، فأحِل إلى إنسان" تقلّل الهلوسة بدرجة ملحوظة.

مثال من واقع الشركات المتوسطة

يستخدم مكتب سفريات روبوت دردشة بالذكاء الاصطناعي للاستفسارات الأولى. يسأل عميل: "هل أحتاج إلى تأشيرة لكندا؟" بلا حماية، قد يختلق النموذج إجابة محدّدة لكنها قديمة.

ومع الآليات الصحيحة يسير الأمر على نحو مختلف. يبحث الذكاء الاصطناعي في قاعدة المعرفة المحفوظة عن "دخول كندا". وإن لم يجد هناك سجلاً محدّثاً، انخفضت درجة الثقة وأجاب الذكاء الاصطناعي بصدق: "سأتحقّق من ذلك لك سريعاً"، ثم يحيل إلى مستشار سفر. وبدلاً من معلومة خاطئة محفوفة بالمخاطر، يحصل العميل على إجابة موثوقة من إنسان. وهكذا تبقى سرعة الأتمتة قائمة، دون أن يتحمّل المكتب مسؤولية تصريحات مختلَقة.

الحدّ من الهلوسة مع SendSeven

SendSeven منصّة مراسلة موحّدة لكل القنوات في صندوق وارد واحد، واتساب وتيليجرام والرسائل القصيرة وإنستجرام وماسنجر والبريد الإلكتروني والدردشة المباشرة وإشعارات المتصفّح. ومساعد الذكاء الاصطناعي محصَّن من الأساس ضد الهلوسة: فهو يجيب عبر RAG من قاعدة معرفتك، ويقيّم كل إجابة بدرجة ثقة، ويحيل عند عدم اليقين إلى فريقك.

وهذا التسليم الهجين بين الإنسان والذكاء الاصطناعي هو الجوهر: يتولّى الذكاء الاصطناعي ما يستطيع الإجابة عنه بثقة، ويمرّر الباقي إلى البشر. وهكذا لا يتلقّى عملاؤك إجابات مختلَقة. متوافق مع اللائحة العامة لحماية البيانات (GDPR)، مستضاف داخل الاتحاد الأوروبي، صُنع في ألمانيا. جرّبه مجاناً 14 يوماً، دون بطاقة ائتمان.