DEVHERO اكتب على واتساب
Helplineبشر حقيقيون، ليس ذكاءً اصطناعيًا. مساعدة خلال 24 ساعة
Human First
هلوسات LLM

هلوسات LLM تصل إلى مستخدميك. نصلحها خلال 24 ساعة.

لقد أضفت نموذجًا إلى منتج - مساعد بحث، ومساعد دعم، وطبقة RAG، وواجهة برمجة التطبيقات (API) فوق مستنداتك.

  • إنه يخترع سياسة أو سعرًا أو حقيقة عنك
  • تشير الاقتباسات إلى الصفحات التي لا تحتوي على المطالبة
  • يجيب عندما يجب أن يرفض

جلسة مجانية واحدة لكل عميل: أول 4 ساعات مع أخصائي، إضافة إلى الذكاء الاصطناعي بلا حدّ كأداة.

أخصائي كبير حقيقي يقود. الاسم في أول رد. الذكاء الاصطناعي أداة؛ يراجع إنسان النتيجة.

01

المشكلة

كيف تبدو هذه المشكلة، وكيف تتعرف عليها، وما الذي يكون على المحك إذا بقيت.

كيف تبدو هذه المشكلة

كيف تبدو الإجابات المبتكرة في تكامل الذكاء الاصطناعي، ولماذا تتجمد الفرق، ولماذا لا تعتبر الطلاقة حقيقة.

تصل الإجابات الخاطئة إلى المستخدمين، وأحيانًا باستخدام اقتباسات مزيفة

يخترع النموذج السياسات أو الأسعار أو الاستشهادات. يؤدي الاسترجاع إلى تفويت المقطع الصحيح، أو حشو المقطع الخاطئ. لا يوجد استشهاد ولا رفض ولا مجموعة تقييم. الإجابة الخاطئة الواثقة أسوأ من الإنسان البطيء.

أنت خائف من لقطة الشاشة العامة

أنت خائف من لقطة الشاشة العامة. تم الإعلان عن الميزة. يبدو إيقاف تشغيله بمثابة خطوة إلى الوراء؛ تركها يشعر بالتهور.

يجب السماح للنظام الذي يتحدث باسم شركتك بالقول إنه لا يعرف

يجب السماح للنظام الذي يتحدث باسم شركتك بأن يقول "لا أعرف". الطلاقة ليست الحقيقة.

أنت بحاجة إلى إجابات تبقى داخل الحقائق التي يمكنك الدفاع عنها.

تعتبر هلوسة LLM في منتج ما مشكلة ثقة: فالنموذج يخترع السياسات أو الأسعار أو الاستشهادات. يؤدي الاسترجاع إلى تفويت المقطع الصحيح، أو حشو المقطع الخاطئ. الإجابة الخاطئة الواثقة أسوأ من الإنسان البطيء.

لقد أضفت نموذجًا للبحث أو الدعم أو مساعد المستندات. تم الإعلان عن الميزة. يبدو إيقاف تشغيله بمثابة خطوة إلى الوراء؛ تركها يشعر بالتهور.

لن ندعي أن النموذج لن يخطئ أبدًا. يمكننا تقليل الإجابات التي لا أساس لها، وإضافة حالات الرفض، ووضع خطوة مراجعة بشرية عند الحاجة إليها.

علامات أن اندماجك في LLM يسبب الهلوسة أو يعطي إجابات خاطئة

هذه هي حالات فشل المنتج، وليست مناقشات فلسفية حول ما "يعرفه" النموذج.

إنه يخترع سياسة أو سعرًا أو حقيقة عنك

الجواب بطلاقة وكاذب. يمكن للعميل لقطة الشاشة.

تشير الاقتباسات إلى الصفحات التي لا تحتوي على المطالبة

أو أن الاقتباس مخترع بالكامل.

يجيب عندما يجب أن يرفض

لا يزال السؤال خارج المجموعة يحصل على فقرة واثقة.

يبدو الاسترجاع مشغولاً ولا يزال يفتقد المقطع الواضح

المستند الصحيح موجود وليس في السياق، أو أن الجزء الخطأ يؤدي إلى إزاحته.

يحصل المستخدمون المختلفون على إجابات متناقضة لنفس السؤال

لا يوجد تأريض ثابت، أو أن المطالبة قد انحرفت.

لا توجد مجموعة تقييم، فقط عدد قليل من العروض التوضيحية السعيدة

لا أحد يستطيع أن يقول الأسئلة التي يجب الإجابة عليها دائمًا من المصدر.

إذا استمرت الإجابات المخترعة، وإذا شدد التكامل

قبل — إذا تركتموه

إذا تركتموه

يمكن أن تتحول إحدى الإجابات المخترعة إلى أزمة دعم، أو مشكلة قانونية، أو فقدان هادئ للثقة لن تراه في لوحة المعلومات.

بعد — إذا أغلقناه نحن

إذا أغلقناه نحن

يبقى المساعد ضمن المصادر التي تقبلها، ويرفض عندما ينبغي ذلك، ويتم اختباره في الحالات التي تهمك. أنت تعرف المخاطر المتبقية بدلاً من اكتشافها من المستخدم.

هل تتعرفون على الموقف؟ راسلونا، سنرتّبه.

02

لماذا يحدث

من أين يأتي عادةً، ولماذا يظهر في العمل السريع أو المدعوم بالذكاء الاصطناعي، وكيف تتحققون بأنفسكم.

لماذا تخترع واجهات برمجة التطبيقات (APIs) ذات النمط RAG وChatGPT الإجابات في الإنتاج

الهلوسة هي سلوك نموذجي معروف. سؤال المنتج هو كيفية الاسترجاع والتقييد والتقييم والتراجع.

استرجاع ضعيف أو صاخب

تمتلئ نافذة السياق بالمقاطع الخاطئة، أو لا يوجد بها أي شيء مفيد، ولا يزال النموذج يحاول أن يكون مفيدًا.

مطالبات تتطلب إجابة

"كن مفيدًا دائمًا" بدون مسار الرفض هو طلب للاختراع عندما يكون المصدر مفقودًا.

ممنوع الاستشهادات، أو الاستشهادات كديكور

إذا لم يكن النظام مطالبًا بالإشارة إلى ممر، فلن يفعل ذلك.

المعرفة القديمة أو الفوضوية

النص قديم أو مكرر أو يتضمن مسودات لا ينبغي نشرها على النموذج مطلقًا.

لا يوجد تقييم ولا تسجيل للأسئلة

تكتشف حالات الفشل من المستخدمين، وليس من مجموعة الاختبار.

لماذا تأتي ميزات الذكاء الاصطناعي السريعة مع الهلوسة

يمكن أن تبدو عطلة نهاية الأسبوع لتوصيل النموذج إلى مركز المساعدة مثيرة للإعجاب في العرض التوضيحي ولا تزال غير آمنة فيما يتعلق بالسعر أو السياسة أو الأسئلة الطبية المجاورة التي لا ينبغي للشركة أن تخترعها. تتخطى الشركات الناشئة أيضًا حالات الرفض لأنها تشعر بأنها عرض توضيحي أسوأ. يضع العمل البشري الأول معيارًا للتكامل: التأريض، أو الصمت، أو تسليمه إلى شخص ما.

كيفية التحقق من تكامل الذكاء الاصطناعي للحصول على إجابات مخترعة

ستظهر مجموعة قصيرة وصادقة من الأسئلة بالفعل ما إذا كان النظام مؤرضًا أم لا.

  • اطرح أسئلة تعرف أن المستندات تجيب عليها، وتلك التي تعرف أنها لا تجيب عليها

    المجموعة الثانية يجب أن ترفض أو تستسلم، وليس أن ترتجل.

  • فحص المقاطع المستردة لسؤال معروف

    إذا كان المقطع الصحيح مفقودًا، فهذا يعني أن النموذج لم يحظى بأي فرصة على الإطلاق.

  • تحقق مما إذا كان الاقتباس موجودًا بالفعل في المصدر

    افتح الصفحة. لا تثق بأسلوب الحاشية السفلية وحده.

  • قم بتسجيل السؤال والسياق والإجابة

    إذا لم تتمكن من إعادة تشغيل الفشل، فلن تتمكن من إصلاحه بشكل منهجي.

  • ابحث عن التغييرات السريعة أو الفهرسية حول الشكاوى الأولى

    يعد تفريغ النص الجديد أو المطالبة "الأكثر فائدة" بمثابة مشغل شائع.

هل تتعرفون على الموقف؟ راسلونا، سنرتّبه.

03

كيف يصلحه DevHero

يقود أخصائي كبير. الذكاء الاصطناعي أداة. يراجع إنسان النتيجة.

الهلوسة هي سلوك معروف لهذه النماذج. إن سؤال المنتج هو كيفية الاسترجاع، والتقييد، والتقييم، والتراجع، وليس ما إذا كان النموذج يمكن أن يكون شاعريًا على الإطلاق.

DevHero هو الإنسان أولاً. يقوم أحد المتخصصين بتصميم التكامل أو إصلاحه بحيث يظل الإنسان يمتلك المعيار. الذكاء الاصطناعي هو العنصر قيد الاختبار، وليس الحكم على الجودة. خبير في الرواتب يتحقق من النتيجة. لن ندعي أن النموذج لن يكون مخطئًا أبدًا.

متخصص في تصميم أو إصلاح الاسترجاع والقيود والتقييم. الذكاء الاصطناعي هو العنصر قيد الاختبار، وليس الحكم على الجودة. خبير في الرواتب يتحقق من النتيجة.

How a typical weekday case moves

  1. 01تم استلام الرسالة
  2. 02تسمية الأخصائي
  3. 03التشخيص
  4. 04الإصلاح
  5. 05مراجعة بشرية
  6. 06التسليم

كيفية الحصول على مساعدة بشأن الهلوسة LLM في المنتج

اكتب على الواتساب أو التليجرام. نحن نأخذ عمل التكامل الجاد. لن نعد بالدقة بنسبة 100 بالمائة.

  1. أرسل مثالاً لإجابة خاطئة وما هو المصدر الذي يجب أن يكون

    يساعد عنوان URL أو عنوان المستند.

  2. يجيب متخصص مسمى

    في غضون دقيقة يجب أن ترى أسمائهم. يتم تنبيههم، ويمكن الاتصال بهم إذا لم يستجيبوا.

  3. تشديد التأريض والرفض، خلال 24 ساعة عندما تكون في النطاق

    في أحد أيام الأسبوع النموذجية، نهدف إلى إيقاف أسوأ فئة من الإجابات التي لا أساس لها وإخبارك بما تبقى. برنامج المعرفة الكبيرة هو مشروع معقد.

كيف يقلل DevHero من الهلوسة في تكامل LLM

نحن نفحص عمليات الاسترجاع والمطالبات والاستشهادات والتقييم، ثم نشدد المسار. يقوم الإنسان بفحص النتيجة على الحالات التي تهمك.

نحن نفحص عمليات الاسترجاع والمطالبات والأدوات والاستشهادات ونقص التقييم. ثم نقوم بتشديد المسار: استرجاع أفضل، وتأريض أكثر صرامة، وحالات الرفض، والتسجيل، وخطوة مراجعة بشرية عند الحاجة إليها. برنامج المعرفة الكبيرة هو مشروع معقد. غالبًا ما يمكن لتمرير أيام الأسبوع النموذجي أن يوقف أسوأ فئة من الإجابات الخاطئة ويخبرك بما تبقى.

  1. أعد تشغيل الأسئلة الفاشلة مع ظهور السياق

    غالبًا ما تكون الخطوة الأولى الخاطئة هي الاسترجاع، وليس "كون النموذج سيئًا".

  2. قم بإصلاح عملية الاسترجاع ونظافة الجسم عند الحاجة

    التقطيع والبيانات التعريفية والمستندات القديمة والأخطاء الواضحة.

  3. أضف حالات الرفض والاستشهادات التي يمكن التحقق منها عندما يكون ذلك مفيدًا

    يجب السماح للنظام بأن يقول إنه لا يعرف.

  4. ضع خطوة مراجعة بشرية على الإجابات عالية المخاطر إذا كان المنتج يحتاج إليها

    قد لا تنتمي السياسات والأسعار والإجابات القانونية المجاورة إلى مسار تلقائي بالكامل.

  5. اترك مجموعة تقييم صغيرة

    لذا فإن التغيير الفوري التالي له بوابة.

ما تحصل عليه في أول 24 ساعة من مشكلة الهلوسة

بالنسبة لحالة نموذجية في أيام الأسبوع من حيث النطاق، فإن الهدف هو تكامل أكثر إحكامًا وصدقًا، وليس ادعاء بالكمال.

  1. تشخيص لسبب حدوث خطأ في عينة الأسئلة.

  2. تغيير في الاسترجاع أو المطالبات أو الرفض أو الاستشهادات حيثما يناسب ذلك الجلسة.

  3. مجموعة صغيرة من الحالات التي أجريناها بالفعل، وليس معدل دقة مخترع.

  4. نتيجة تم فحصها بواسطة الإنسان.

  5. ملاحظة حول المخاطر المتبقية وما إذا كانت هناك حاجة إلى برنامج أكبر.

ما الذي يجب إرساله إلينا بخصوص إجابات الذكاء الاصطناعي الخاطئة

الأمثلة والمصادر مهمة. لا تقم بلصق أسرار أو بيانات شخصية حساسة في الدردشة.

المنتج ونوع الأسئلة التي يجيب عليها

الدعم أو البحث أو المعرفة الداخلية أو أي شيء آخر.

إجابة واحدة أو إجابتين خاطئتين، والمصدر الذي كان ينبغي استخدامه

لقطات شاشة أو نص، مع اقتطاع البيانات الحساسة.

كيف تتم عملية الاسترجاع، إذا كنت تعرف

الفهرس، الملفات، البائع.

ما إذا كان موجودًا بالفعل

وما إذا كان يمكنك إضافة رفض أو تسليم بسرعة.

أي تقييم لديك بالفعل

حتى جدول البيانات الذي يحتوي على الأسئلة سيكون مفيدًا.

إصلاحات سريعة وعاجلة

أول 4 ساعات مع أخصائي + ذكاء اصطناعي بلا حدّ: مجانًا، مرة واحدة لكل عميل. العمل بعد ذلك مدفوع، عند الطلب. يقود إنسان العمل ويراجع النتيجة.

مجاني (الجلسة الأولى)

مشاريع معقدة

العمل الأكبر له تعرفة مختلفة، عند الطلب. نقول ذلك قبل أن نتابع.

عند الطلب

أيام العمل، ثم عطلة نهاية الأسبوع

الخطة الأساسية لأيام العمل فقط. عمل عطلة نهاية الأسبوع منتج منفصل. أي زيادة تُذكر مقدمًا، قبل أي مكالمة، حسب التعقيد. المبلغ: عند الطلب.

عند الطلب

الجلسة الأولى مجانية: أول 4 ساعات مع أخصائي، إضافة إلى الذكاء الاصطناعي بلا حدّ، مرة واحدة لكل عميل. العمل بعد ذلك، وتعرفة المشاريع المعقدة، وتعرفة عطلة نهاية الأسبوع مدفوعة، عند الطلب.

جلسة مجانية واحدة لكل عميل: أول 4 ساعات مع أخصائي، إضافة إلى الذكاء الاصطناعي بلا حدّ كأداة.

هل تتعرفون على الموقف؟ راسلونا، سنرتّبه.

04

كي يبقى الإصلاح ثابتًا

ما الذي لا ينبغي فعله بعد ذلك، والمكدسات التي نراها في هذا النوع من العمل، وكيف يبقى الإصلاح قائمًا.

ما الذي لا يجب فعله عندما يقوم النموذج باختراع الإجابات

بعض "الإصلاحات" تجعل الكذاب بطلاقة أكثر ثقة.

رفع درجة الحرارة أو "الإبداع" لجعل الصوت أجمل

قد تحصل على المزيد من الاختراعات.

إخبار النموذج بـ "الإجابة دائمًا" عندما تكون المجموعة فارغة

لقد طلبت الهلوسة.

إضافة المزيد من المستندات دون نظافة الاسترجاع

الضجيج في الفهرس يصبح ضجيجاً في الإجابة.

نشر رقم دقة مختلق

إذا لم تقم بقياس الحالات فلا تخترع نسبة مئوية. ونحن لن نخترع واحدة أيضا.

ترك الإجابات عالية الخطورة بشكل تلقائي بالكامل لأن العرض التوضيحي كان سلسًا

قد لا يزال الشخص بحاجة إلى امتلاك السعر والسياسة.

التكامل حيث نرى هلوسة LLM

أخبرنا بالمورد وإعدادات الاسترداد. إذا لم نأخذه، فسنقول ذلك.

RAG عبر مراكز المساعدة ومجموعات المستندات

شكل المنتج الأكثر شيوعًا.

الدعم والمساعدين الداخليين

عندما تكون الإجابة الخاطئة عن السياسة مكلفة.

واجهات برمجة التطبيقات عبر نموذج البائع

باسترجاعك الخاص أو بدونه.

الوكلاء الذين يجيبون أيضًا على الأسئلة

إذا كان الفشل عبارة عن حقائق مخترعة، تنطبق هذه الصفحة؛ إذا كان الفشل عبارة عن حلقات أداة، فراجع صفحة وكيل الذكاء الاصطناعي.

كيفية الحفاظ على التكامل صادقًا بعد الإصلاح

التأريض عادة: التقييم، والرفض، ومعيار إنساني للإجابات عالية المخاطر.

Right after the fix

احتفظ بمجموعة التقييم الحي

قم بتضمين الأسئلة التي يجب رفضها.

سجل السؤال والسياق والإجابة

فشل إعادة التشغيل.

لا تقم بشحن تغيير سريع دون تشغيل المجموعة

الذوق لا يكفي.

قم بتحديث وتنظيف الجسم

لا ينبغي استرجاع المسودات القديمة.

As you keep shipping

اطلب الاستشهادات القابلة للتحقق حيث يحتاج المنتج إليها

وقم بالفعل بفحص العينة.

قم بالتسليم أو الرفض عندما يكون المصدر مفقودًا

الصمت المفيد خير من الخطأ الفادح.

ضع إنسانًا في الحلقة لفئات الأسئلة عالية الخطورة

حتى يكون لديك سبب لعدم القيام بذلك.

إذا بدأ المستخدمون في إرسال لقطات الشاشة مرة أخرى، فأعد فتح الأدلة

لا تفترض أن الإصلاح الأخير لا يزال قائمًا.

هل تتعرفون على الموقف؟ راسلونا، سنرتّبه.

05

أسئلة حول هذه المشكلة

إجابات مباشرة عن هذه المشكلة والجلسة وما يأتي بعد ذلك.

هل يمكنك جعل النموذج دقيقًا بنسبة 100 بالمائة؟

لا ولن نقول ذلك. يمكننا تقليل الإجابات التي لا أساس لها وإضافة حالات الرفض والفحوصات والتقييم.

هل أحتاج إلى تغيير بائع النموذج؟

ليس دائماً. العديد من حالات الفشل هي الاسترجاع أو السياق أو التقييم المفقود. إذا كان تغيير النموذج هو الخطوة الصحيحة، فسنقول ذلك.

هل ستخترع نسب الدقة؟

لا. سنتحدث فقط عن الحالات التي اختبرناها بالفعل على نظامك.

كيف أبدأ؟

اكتب على الواتساب أو التليجرام مع المنتج ومثال على إجابة خاطئة. لا يوجد نموذج ولا دردشة على شبكة الإنترنت.

هل يجب علي إيقاف تشغيل الميزة حتى يتم إصلاحها؟

إذا كانت الشركة تقوم بالفعل بوضع أسعار أو سياسات، فقد يكون التوقف المؤقت أو التسليم الإلزامي هو الخطوة المسؤولة. ونحن سوف تساعدك على اتخاذ القرار.

هل هذا هو نفس وكيل الذكاء الاصطناعي المعطل؟

إنها متداخلة. استخدم هذه الصفحة للحصول على إجابات مخترعة. استخدم صفحة الوكيل عند فشل سير العمل أو استدعاء الأداة.

معرفتنا في عدة أدوات وليس في فهرس واحد. هل لا يزال بإمكانك المساعدة؟

أخبرنا كيف يتم توصيله. قد يكون توحيد المصادر الفوضوية مشروعًا أكبر؛ لا يزال من الممكن أن يكون التشديد الأول في نطاقه.

هل يمكن القيام بذلك خلال 24 ساعة؟

غالبًا ما يمكن للتمريرة النموذجية خلال أيام الأسبوع أن توقف أسوأ فئة من الإجابات التي لا أساس لها وتخبرك بما تبقى. برنامج المعرفة الكبيرة هو مشروع معقد.

هل تأخذ كل أفكار الشات بوت؟

لا. نحن نتعامل مع مشكلة صعبة في التكامل الموجود.

ماذا لو كانت الإجابة الخاطئة حساسة من الناحية القانونية أو التجارية بالفعل؟

قل ذلك مبكرًا. قد تكون هناك حاجة إلى الاحتواء والمشورة. سوف نلتزم بالحقائق الفنية.

هل الجلسة الأولى مجانية فعلًا؟

نعم. يحصل كل عميل على جلسة مجانية واحدة: أول 4 ساعات مع أخصائي، إضافة إلى الذكاء الاصطناعي بلا حدّ كأداة. خط الـ 24 ساعة هو الزمن الذي نسعى فيه لبدء حالة عمل نمطية ضمن النطاق وإغلاقها، وليس 24 ساعة من العمل غير المدفوع. العمل بعد ذلك مدفوع، عند الطلب.

Human First

هلوسات LLM تصل إلى مستخدميك. نصلحها خلال 24 ساعة.

إذا كانت إجابات الذكاء الاصطناعي الخاطئة تصل إلى المستخدمين بالفعل، فاكتب على WhatsApp أو Telegram. سوف تتحدث مع شخص.

جلسة مجانية واحدة لكل عميل: أول 4 ساعات مع أخصائي، إضافة إلى الذكاء الاصطناعي بلا حدّ كأداة.

Human First

اختر قناة

لا نموذج ويب ولا دردشة ويب. اكتبوا على واتساب أو تيليغرام ويرد أخصائي. الرسالة مُعبأة مسبقًا بالمشكلة والصفحة.

يفتح تيليغرام المحادثة مع @brnzai. قد لا يُلصق هذا النص تلقائيًا — انسخوه وأرسلوه هناك: