trusttech

إن أكثر أخطاء الذكاء الاصطناعي إثارة للقلق ليست تلك الأخطاء الواضحة. بل هي الإجابات التي تبدو مدروسة ومنسقة وشبه صحيحة. فتلك الفجوة الهادئة بين النبرة والحقيقة هي التي تبدأ فيها الثقة بالضعف.
اليوم، تعالج نماذج اللغات الكبيرة مليارات من المطالبات يوميًا عبر أنظمة البحث والتمويل والبرمجة ودعم العملاء. وإذا احتوت نسبة 1٪ فقط من الردود على أخطاء ذات معنى في ذلك الحجم اليومي، فإن النتيجة ستكون ملايين المخرجات الخاطئة التي تُستخدم في اتخاذ قرارات حقيقية. وعلى نطاق واسع، تتحول معدلات الأخطاء الصغيرة إلى مخاطر بنيوية.