أنظمة المعرفة بالذكاء الاصطناعي: كيف تجعل مستندات شركتك تجيب عن الأسئلة

يسأل موظف جديد: كم يومًا من الإشعار المسبق يشترط عقدنا مع أحد الموردين؟ الإجابة موجودة في ملف PDF وُقّع قبل سنتين، وفي نسخة معدّلة على المجلد المشترك، وفي ذاكرة مدير المشتريات. معظم الشركات تملك بالفعل إجابات معظم أسئلتها، لكنها موزعة بين السياسات والعقود والأدلة وقوائم الأسعار وسلاسل البريد، والوصول إليها يحتاج شخصًا يعرف أين يبحث.

نظام المعرفة بالذكاء الاصطناعي يتيح للناس أن يسألوا هذه المستندات مباشرة بلغتهم اليومية، فيحصلوا على إجابة مرفقة بمصدرها. في هذا الدليل نشرح كيف يعمل، وما الأسئلة التي يتقنها وما التي لا يصلح لها، والأسباب الأربعة التي تجعل إجاباته تخطئ مع الضابط المناسب لكل سبب، وما الذي تجهّزه قبل البناء، وهل تبنيه أم تشتريه أم تمتلكه، وكيف تعرف أنه يعمل. وهو مكتوب لأصحاب الأعمال ومديري التشغيل، لا للمهندسين.

ما نظام المعرفة بالذكاء الاصطناعي بكلمات بسيطة؟

نظام المعرفة بالذكاء الاصطناعي محرك بحث وكاتب يعملان معًا. البحث يجد في مستنداتك المقاطع المتصلة بالسؤال، ثم يكتب النموذج اللغوي إجابة لا يعتمد فيها إلا على تلك المقاطع، ويذكر من أين جاءت كل معلومة. اسأله: «ما مهلة استرداد المبلغ في العقود السنوية؟» فتحصل على إجابة قصيرة مع رابط إلى البند في السياسة، بدل قائمة ملفات عليك أن تفتحها واحدًا تلو الآخر.

وتُسمّى هذه التقنية «التوليد المعزّز بالاسترجاع» (Retrieval-Augmented Generation أو RAG)، وهو اسم جاء من ورقة بحثية نشرها لويس وزملاؤه عام 2020 وعُرضت في مؤتمر NeurIPS. انطلق الباحثون من نقطة ضعف معروفة في النماذج اللغوية: المعلومات التي تتعلمها أثناء التدريب تُخزَّن داخل معاملاتها، وبقي ربط إجاباتها بمصدر واضح وتحديث ما تعرفه مسألتين بحثيتين مفتوحتين. فأضافت RAG ذاكرة ثانية خارجية: فهرسًا من المستندات قابلًا للبحث، يرجع إليه النموذج لحظة طرح كل سؤال.

وهذه الذاكرة الخارجية هي ما يجعل الفكرة عملية للشركات، وقد اختبرها الباحثون أنفسهم باستبدال الفهرس. سألوا النظام عن 82 من قادة العالم تغيّرت مناصبهم بين عامي 2016 و2018، فأجاب إجابة صحيحة في 70% من الحالات حين استخدم فهرس ويكيبيديا لعام 2016 مع قادة 2016، وفي 68% حين استخدم فهرس 2018 مع قادة 2018. أما حين أُعطي فهرس السنة الخطأ، فلم تتجاوز الإجابات الصحيحة ما بين 4% و12%. لم يُعَد تدريب شيء، بل تبعت الإجابات المستندات، وهذه هي قوة RAG وخطرها الأكبر في آن واحد.

كيف يتحول السؤال إلى إجابة

1. التجهيز. تُجمع المستندات من أماكنها (مجلد مشترك، أو ويكي داخلي، أو مركز مساعدة)، وتُقسَّم إلى مقاطع قصيرة وتُفهرَس، ويُوسَم كل مقطع بمصدره وتاريخه ومن يحق له رؤيته.
2. الاسترجاع. حين يطرح أحدهم سؤالًا، يبحث النظام في الفهرس عن المقاطع الأرجح أن تحتوي الإجابة، مقتصرًا على المستندات التي يحق لهذا الشخص قراءتها.
3. التوليد. يتلقى النموذج اللغوي السؤال وهذه المقاطع، فيكتب الإجابة منها ويشير إلى المقاطع التي استند إليها.
4. الاعتذار أو التحويل. إذا لم تحتوِ المقاطع على الإجابة، يقول النظام ذلك صراحة، ويحوّل السؤال إلى موظف حين يكون الأمر مهمًا.

لماذا لا ندرّب نموذجًا على مستنداتنا، أو نلصقها كلها في المحادثة؟

تدريب نموذج على مستنداتك يعيد المعرفة إلى داخل معاملاته، حيث يصعب تحديثها ويصعب ربطها بمصدر، كما تشير ورقة RAG نفسها. أما لصق كل المستندات في طلب واحد طويل فيفشل بطريقة أخرى. فقد وجدت دراسة عن طريقة استخدام النماذج اللغوية للمدخلات الطويلة، بعنوان «الضياع في المنتصف»، أن الدقة تكون في الغالب أعلى حين تقع المعلومة المطلوبة في بداية المدخل أو نهايته، وتنخفض حين تقع في وسطه، حتى في النماذج المصممة للسياقات الطويلة. الاسترجاع يُبقي المدخل قصيرًا ومتصلًا بالسؤال، ويصبح تحديث المعرفة مجرد تحديث لمستند.

ما الأسئلة التي يجيد نظام المعرفة الإجابة عنها، وما التي لا يصلح لها؟

يكون نظام المعرفة في أفضل حالاته حين تكون الإجابة مكتوبة في مكان ما، في مقطع أو مقطعين، ويحتاجها السائل بسرعة. ويضعف حين يجب حساب الإجابة عبر سجلات كثيرة، أو حين تحتاج قرارًا من شخص، أو حين لم تُكتب بعد.

ومن هنا تأتي الاستخدامات الأولى المعتادة: مساعد داخلي يجيب الموظفين عن سياسات الموارد البشرية وإجراءات التشغيل، ومساعد دعم يجيب العملاء من وثائق المنتج، ومساعد مبيعات يجد المواصفة أو بند العقد المناسب. وكل منها يبدأ بمجموعة مستندات واحدة وجمهور واحد. وإذا كانت المهمة التي تفكر فيها تتطلب تنفيذ إجراءات في أنظمة أخرى، كحجز المواعيد أو تحديث السجلات، فأنت تصف وكيل ذكاء اصطناعي، ويصبح نظام المعرفة إحدى أدواته.

لماذا يعطي نظام المعرفة إجابات خاطئة؟

للإجابات الخاطئة أربعة أسباب شائعة، واحد منها فقط أن يختلق النموذج معلومات من عنده. ولكل سبب ضابط يمكنك بناؤه في النظام قبل الإطلاق.

1. مستندات قديمة أو متعارضة

نظام المعرفة يكرر ما تقوله مستنداته. فإذا بقيت قائمة أسعار العام الماضي في الفهرس بجانب قائمة هذا العام، أو تعارضت سياستان، فعلى النموذج أن يختار، وهو يميل إلى تصديق ما يُعطى له. ففي ClashEval، وهو اختبار معياري من جامعة ستانفورد يضم أكثر من 1,200 سؤال وعُرض في مؤتمر NeurIPS 2024، تبنّت ستة نماذج رائدة، منها GPT-4o، محتوى مسترجعًا خاطئًا وتركت معرفتها الصحيحة في أكثر من 60% من الحالات. وكلما ابتعد المحتوى عن الحقيقة قلّ احتمال أن تتبناه النماذج، ما يعني أن الأخطاء الصغيرة المعقولة، كسعر قديم أو مدة إشعار استُبدلت، هي الأرجح أن تمر دون أن ينتبه لها أحد.

والشركة هي من يتحمل النتيجة. ففي قضية موفات ضد طيران كندا (Moffatt v. Air Canada)، التي فصلت فيها محكمة تسوية النزاعات المدنية في مقاطعة كولومبيا البريطانية الكندية عام 2024، أخبر روبوت المحادثة في موقع الشركة مسافرًا بأنه يستطيع طلب سعر تذكرة العزاء بعد السفر، بينما تقول صفحة السياسة في موقع الشركة نفسها عكس ذلك. ودفعت الشركة بأن روبوت المحادثة كيان قانوني مستقل مسؤول عن أفعاله، فوصفت المحكمة هذا الدفع بأنه لافت للنظر، وقررت أن الشركة مسؤولة عن كل المعلومات في موقعها، سواء جاءت من صفحة ثابتة أو من روبوت محادثة، وأنها لم تبذل العناية المعقولة للتأكد من دقة روبوت المحادثة.

الضابط: عيّن لكل مجموعة مستندات مسؤولًا باسمه وتاريخ مراجعة. واجعل لكل موضوع مصدرًا واحدًا معتمدًا، واحذف النسخ الملغاة من الفهرس بدل تركها بجانب النسخ الحالية. وزامن الفهرس مع النظام الذي تُحدَّث فيه المستندات بدل رفع نسخ يدويًا، واعرض تاريخ المستند بجانب كل مصدر ليرى القارئ مدى حداثة الإجابة.

2. صلاحيات غير مطبّقة

نظام المعرفة الذي يستطيع قراءة كشف الرواتب يستطيع أن يكرره لأي شخص يطرح السؤال المناسب. وتضع قائمة OWASP لأبرز عشرة مخاطر في تطبيقات النماذج اللغوية الكبيرة كشف المعلومات الحساسة بين المخاطر الأساسية، وتُدخل فيه البيانات الشخصية والتفاصيل المالية والسجلات الصحية وبيانات الأعمال السرية والمستندات القانونية. وتحذّر من أن التعليمات التي تطلب من النموذج ألا يكشف أمرًا ما قد لا يلتزم بها دائمًا، ويمكن تجاوزها بحقن الأوامر (prompt injection). أما بندها عن نقاط الضعف في المتجهات والتضمينات، الجديد في قائمة 2025 والموجّه إلى أنظمة الاسترجاع، فيوصي بضوابط وصول دقيقة ومخازن تراعي الصلاحيات، مع فصل منطقي صارم في البيانات وصلاحيات الوصول إليها، حتى لا تصل فئة من المستخدمين إلى بيانات فئة أخرى.

الضابط: طبّق الصلاحيات في خطوة البحث، قبل أن يرى النموذج أي شيء. يحمل كل مقطع صلاحيات المستند الذي جاء منه، ويُصفّى كل بحث بحسب هوية السائل. فعلى سبيل المثال، تصف وثائق Microsoft لخدمة Azure AI Search تخزين المجموعات المسموح لها برؤية كل مستند داخل الفهرس، وتصفية كل استعلام بحسب المجموعات التي ينتمي إليها المستخدم. اختبر ذلك بحسابات ذات مستويات وصول مختلفة قبل الإطلاق، وأبقِ مجموعات المستندات الحساسة خارج الفهرس إلى أن تُضبط صلاحياتها.

3. إخفاق الاسترجاع

أحيانًا تكون الإجابة موجودة لكنها لا تصل إلى النموذج أبدًا. فقد وثّق باحثون في جامعة ديكن الأسترالية، بنوا أنظمة RAG في مجالات البحث العلمي والتعليم والطب الحيوي، سبع نقاط إخفاق، اثنتان منها تبدآن في خطوة البحث. الأولى المحتوى المفقود: المستندات لا تجيب عن السؤال، فيُفترض أن يقول النظام إنه لا يعرف، لكنه قد يُستدرَج إلى الإجابة رغم ذلك. والثانية مستندات لم تبلغ رأس النتائج: الإجابة موجودة في مستند لم يحصل على ترتيب كافٍ ليُمرَّر إلى النموذج. وخلاصتهم عملية: لا يمكن التحقق من نظام RAG تحققًا كاملًا إلا أثناء التشغيل، ومتانته تتطور مع الوقت ولا تُصمَّم كاملة من البداية.

الضابط: اختبر البحث وحده قبل أن تحكم على الإجابات، فتحقق لكل سؤال حقيقي هل استُرجع المقطع الصحيح. وابدأ بإصلاح المستندات: عناوين واضحة، وموضوع واحد في كل قسم، وجداول وصفحات ممسوحة ضوئيًا محوّلة إلى نص مقروء، والمصطلحات التي يستخدمها موظفوك وعملاؤك فعلًا، بكل اللغات التي يستخدمونها. فالسؤال المكتوب بالعربية عن سياسة محفوظة بالإنجليزية يجب أن يصل إليها أيضًا.

4. التلفيق: النموذج يملأ الفراغ من عنده

حتى حين تكون المقاطع الصحيحة بين يديه، قد يقرر النموذج شيئًا لا تقوله المقاطع. ويسمّي ملف المخاطر الخاص بالذكاء الاصطناعي التوليدي الصادر عن المعهد الوطني الأمريكي للمعايير والتقنية (NIST) هذه الظاهرة «التلفيق» (confabulation): أن يقدّم النظام بثقة محتوى خاطئًا أو غير صحيح، وهو ما يُعرف شائعًا بالهلوسة. ويوضح أن التنبؤ الإحصائي الذي تقوم عليه هذه النماذج قد ينتج مخرجات دقيقة، وقد ينتج أيضًا مخرجات غير دقيقة أو متناقضة داخليًا. والاسترجاع يخفف المشكلة ولا يلغيها. فقد وجدت دراسة محكّمة من جامعة ستانفورد على أدوات البحث القانوني بالذكاء الاصطناعي من LexisNexis وThomson Reuters، وهي أدوات تسترجع من مصادر قانونية، أن كلًا منها هلوس في ما بين 17% و33% من الحالات. هذا أقل من GPT-4 للاستخدام العام، لكن الباحثين رأوا أن ادعاءات الشركات بخلوّ إجاباتها من الهلوسة مبالغ فيها. وقد عدّت الدراسة الإجابة هلوسةً إذا كانت خاطئة، أو إذا استشهدت بمصدر لا يدعم ما تقوله.

الضابط: اشترط مصدرًا في كل إجابة، مع رابط إلى المقطع نفسه لا إلى الملف فقط، وتحقق أثناء الاختبار من أن كل مصدر يدعم فعلًا المعلومة التي بجانبه. ووجّه النظام إلى أن يجيب من المقاطع المسترجعة وحدها، وأن يقول «لا أعرف» حين لا تحتوي الإجابة، ثم اختبر أنه يفعل ذلك بأسئلة لا تجيب عنها المستندات. وحين تكون للإجابة عواقب، كسعر أو شرط قانوني أو أي أمر يمس الصحة أو السلامة، حوّل السؤال إلى موظف.

ما الذي تجهّزه قبل بناء نظام معرفة؟

معظم العمل الذي يحدد الجودة يحدث قبل كتابة أي سطر من الكود، ومعظمه يتعلق بالمستندات والأشخاص.

1. اختر مجموعة مستندات واحدة وجمهورًا واحدًا. سياسات الموارد البشرية للموظفين، أو وثائق المنتج للعملاء، أو العقود لفريق المالية. والنطاق الضيق في البداية أسهل في التنظيف وضبط الصلاحيات والاختبار.
2. اجرد المستندات. سجّل لكل مستند مكانه وصيغته ومسؤوله وتاريخ آخر مراجعة له ومن يحق له رؤيته. وملفات PDF الممسوحة ضوئيًا والصور تحتاج تحويلًا إلى نص قبل أن يمكن البحث فيها.
3. نظّف. احذف المكرر والنسخ القديمة، وحُلّ التعارضات، وحدّد المستند المعتمد لكل موضوع. وحين تكون الإجابات محفوظة في رؤوس الموظفين فقط، فاكتبها أولًا.
4. عيّن مسؤولًا لكل مجموعة. يوافق المسؤول على ما يدخل الفهرس، ويصلح الأخطاء التي تظهر في المراجعة، ويحدّث المستندات حين يتغير العمل. ومن دون مسؤول، يتقادم النظام وهو ما زال يتحدث بثقة.
5. قرّر كيف يبقى محدّثًا. اربط الفهرس بالنظام الذي تُحفظ فيه المستندات حتى تنتقل التغييرات تلقائيًا، وحدّد دورة مراجعة لكل مجموعة. فتغيير السياسة لا يكتمل حتى يتغير المستند.
6. اجمع أسئلة حقيقية. استخرجها من البريد وتذاكر الدعم وسجلات المحادثات ومن الأشخاص الذين يجيبون عنها اليوم، مع الإجابة الصحيحة ومصدرها لكل سؤال. وأضف الأسئلة الصعبة، وأسئلة لا تجيب عنها المستندات. هذه هي مجموعة الاختبار التي ستقيس بها النظام.

هل تبني نظام المعرفة أم تشتريه أم تمتلكه؟

اشترِ حين تكون مستنداتك في منصة عمل واحدة أو نظام دعم واحد يقدم مساعدًا ذكيًا على محتواه، ويحترم هذا المساعد الصلاحيات التي ضبطتها مسبقًا، وتكون الأسئلة داخلية ومتكررة. فهذا أسرع طريق لتعرف هل سيستخدم الناس الإجابات أصلًا.

وابنِ، أو اطلب من جهة متخصصة أن تبني لك، حين يصدق واحد على الأقل مما يلي:

• المستندات موزعة على عدة أنظمة لا يبحث فيها منتج واحد بشكل جيد.
• يجب أن تصل الإجابات إلى الناس حيث هم، كواتساب أو موقعك أو أداة داخلية.
• الأسئلة تأتي بأكثر من لغة، كالعربية والإنجليزية، أو باللهجات المحلية.
• الصلاحيات خاصة بمؤسستك ويجب تطبيقها بدقة.
• تحتاج إلى التحكم في مكان تخزين المستندات والسجلات، وفي النموذج الذي يكتب الإجابات.

وأيًّا كان طريقك، تأكد من أن المعرفة نفسها تبقى ملكك: المستندات بعد تنظيفها، والفهرس، ومجموعة الاختبار، والتعليمات، والسجلات، بصيغ يمكنك نقلها. وهناك حدّ يبقى قائمًا في الحالتين: المقاطع المسترجعة لكل سؤال تُرسل إلى مزوّد النموذج اللغوي الذي يكتب الإجابة، فهذا المزوّد يجب أن يكون في قائمة الجهات التي تعالج بياناتك، وشروطه في الاحتفاظ بالبيانات والتدريب عليها تحتاج مراجعة. ويتناول دليلنا عن امتلاك نظام الذكاء الاصطناعي أو استئجاره الاستضافة وموقع البيانات وبنود العقد بالتفصيل.

وقبل التوقيع مع أي مزوّد، اسأل:

• أين تُخزَّن المستندات والفهرس وسجلات المحادثات، ومن يستطيع قراءتها؟
• هل تُطبَّق الصلاحيات في خطوة البحث لكل مستخدم، وكيف يُختبر ذلك؟
• هل تذكر كل إجابة المقطع الذي جاءت منه، وماذا يحدث حين لا تجد المستندات إجابة؟
• أي نموذج يكتب الإجابات، وهل يمكن تغييره دون إعادة بناء الفهرس؟
• هل يمكننا تصدير المستندات والفهرس ومجموعة الاختبار، وماذا يحدث إذا توقفنا عن الدفع؟

تصمم Flowramo وتبني أنظمة المعرفة بالذكاء الاصطناعي في صورة مشاريع، إلى جانب وكلاء الذكاء الاصطناعي وأتمتة العمليات والتطبيقات الذكية المخصصة. يُثبَّت كل نظام على استضافة يختارها العميل ويملكها، ويُربط بحسابات العميل نفسه، فتبقى المستندات والفهرس والسجلات لدى الجهة التي تعتمد عليها. اطّلع على ما نبنيه.

كيف تقيس نجاح نظام المعرفة؟

ابدأ قبل الإطلاق، بمجموعة الاختبار المكوّنة من أسئلة حقيقية. ويقدم إطار RAGAS، الذي عُرض في مؤتمر EACL 2024، ثلاث زوايا مفيدة: الأمانة للمصدر (faithfulness)، أي هل يمكن استنتاج ما تقوله الإجابة من المقاطع المسترجعة، وصلة الإجابة بالسؤال، أي هل تجيب عمّا سُئل فعلًا، وصلة السياق، أي هل المقاطع المسترجعة مركّزة لا محشوة بنص لا علاقة له بالسؤال. ويمكن لأدوات القياس أن تحسب هذه الدرجات آليًا باستخدام نموذج لغوي، لكن قيّم عينة يدويًا أيضًا، فالمقيّم الآلي قد يخطئ هو الآخر.

واستمر في القياس بعد الإطلاق، فكما خلص فريق جامعة ديكن، لا يمكن التحقق من نظام RAG تحققًا كاملًا إلا أثناء التشغيل: تصل أسئلة جديدة، وتتغير المستندات، وتُحدَّث النماذج. أعد تشغيل مجموعة الاختبار بعد كل تغيير في هيكلة المستندات أو إعدادات البحث أو التعليمات أو النموذج، وأضف إليها الأسئلة التي أخطأ فيها النظام، وراجع عينة من المحادثات الحقيقية كل أسبوع مع مسؤولي المستندات.

مثال: لينا تجيب من المعرفة التي اعتمدتها العيادة فقط

لينا، موظفة الاستقبال الذكية التي بنيناها لعيادات الأسنان على واتساب وموقع العيادة، قائمة على الفكرة نفسها في مهمة محددة. فهي تجيب المرضى من المعرفة التي اعتمدتها العيادة فقط، وتسترجع منها في كل محادثة، ولا تشخّص. والأسئلة العاجلة والسريرية والحساسة تذهب إلى فريق العيادة مع المحادثة كاملة، فلا يضطر المريض إلى إعادة قصته من البداية. وتعمل على استضافة تختارها العيادة وتملكها، مربوطة بحسابات العيادة نفسها.

ونظام المعرفة لمستندات شركتك يتبع النمط نفسه مع جمهور مختلف: مصادر معتمدة، وإجابات بمصادرها، وصلاحيات، ومسؤول عن المحتوى، وطريق واضح إلى موظف. وإن كنت تفكر في نظام كهذا، أخبرنا بالأسئلة التي يجب أن يجيب عنها.