يمكن لخمس وثائق مزوّرة أن تكفي لإفساد دقة مرحلة الاسترجاع في البحث بالذكاء الاصطناعي.
أفاد موقع Crypto Briefing بدراسة أجرتها Google، تشير إلى أن هذه الأنظمة عرضة لهجمات من نمط «صدى الاستعلام»: إذ ينشئ المهاجمون وثائق تتطابق بدرجة كبيرة مع استعلامات المستخدمين، فيدفعون نظام الاسترجاع إلى عرضها في المقدمة، ما يؤثر في الإجابة النهائية.
· المرحلة المتأثرة هي الاسترجاع، لا معارف النموذج نفسه.
· لم يذكر التقرير النماذج التي اختُبرت أو مجموعات البيانات أو معدل النجاح؛ واقتصر الاستنتاج على أن «هذا النوع من الثغرات موجود».
إذا كنت تستخدم أدوات ذكاء اصطناعي تعتمد على الاسترجاع، فهل تنظر أولاً إلى عدد المصادر التي تستشهد بها، أم إلى إمكانية النقر على المصادر والتحقق منها؟
أفاد موقع Crypto Briefing بدراسة أجرتها Google، تشير إلى أن هذه الأنظمة عرضة لهجمات من نمط «صدى الاستعلام»: إذ ينشئ المهاجمون وثائق تتطابق بدرجة كبيرة مع استعلامات المستخدمين، فيدفعون نظام الاسترجاع إلى عرضها في المقدمة، ما يؤثر في الإجابة النهائية.
· المرحلة المتأثرة هي الاسترجاع، لا معارف النموذج نفسه.
· لم يذكر التقرير النماذج التي اختُبرت أو مجموعات البيانات أو معدل النجاح؛ واقتصر الاستنتاج على أن «هذا النوع من الثغرات موجود».
إذا كنت تستخدم أدوات ذكاء اصطناعي تعتمد على الاسترجاع، فهل تنظر أولاً إلى عدد المصادر التي تستشهد بها، أم إلى إمكانية النقر على المصادر والتحقق منها؟
