قلها وقد لا تصدق.
كنت على وشك أن أموت من الغضب بسبب AI.
الأمر كالتالي: أريد كتابة مقال عميق عن Fabric، وأريد من Gemini Pro مساعدتي في البحث عن المعلومات. لقد أكدت عليه بشكل خاص: يجب توضيح رقم الصفحة في الكتاب الأبيض لكل نقطة رئيسية، أريد التحقق.
نتيجة لذلك، قام بإدراج مجموعة من الأشياء لي:
“详见第7.3节幻觉防护模块”
“白皮书第15页详细说明”
“第4.2节机器人共情回路”
فتحت الكتاب الأبيض، أبحث صفحة صفحة.
لا يوجد أساسا.
第7.3节不存在，第15页是空白，第4.2节讲的是技术架构，跟“共情”半毛钱关系没有。
يقول Gemini كلامًا كاذبًا وهو ما يزال بعيونه مفتوحة.
ثم يتكلم بثقة كبيرة ويتبجح ويُحسن العرض، كأنه نصّاب يلبس ثوب الجدّ.
وهذا هو أكثر مصطلح مخيف في عالم الذكاء الاصطناعي: الهلوسة.
—
في السابق كان الجميع يظنون أن هلاوس الذكاء الاصطناعي مجرد نكتة.
كتب المحامي عريضة باستخدام الذكاء الاصطناعي، والذكاء الاصطناعي استشهد بـ 6 سوابق قضائية غير موجودة، فتمت معاقبةه من قبل القاضي. وذكاء مالي اخترع تقارير مالية مزيفة، فاشتراها المتداولون كما هي، وخسروا ملايين الدولارات. الجميع شاهدوا ثم ضحكوا: هذا الذكاء الاصطناعي مضحك فعلًا.
لكن هل خطر ببالك—
وماذا لو لم يعد هذا الذكاء الاصطناعي روبوت دردشة، بل الروبوت الذي يقف عند باب بيتك—يصلح الأسلاك لك، ويوصل طلبات الطعام، ويعتني بالمسنين؟
توصّل السلك الصفري على أنه سلك حيّ—فتحترق بيتك.
يرتكب خطأ في جرعة الدواء، فتحدث الكارثة لوالديك.
في جانب الطريق “تُهلوس” لحظة وتعتقد أن الإشارة الحمراء لا تتطلب التوقف—
الهلوسات في الدردشة قد تسبب لك إحراجًا فقط، أما في الروبوتات المادية فقد تكلف حياتك.
—
وهذا هو السبب الذي جعلني أفهم Fabric فجأة.
@FabricFoundation ما ستفعله ليس بناء ذكاء اصطناعي أكثر ذكاءً.
بل بناء منظومة ثقة لروبوت “لا يجرؤ أبدًا على الهلوسة”.
كيف تم ذلك؟
أولًا، ركّب للروبوت “تطبيقًا” بدلًا من تركيب “دماغ”.
الروبوتات التقليدية صندوق أسود: لا تعرف ماذا يدور بداخلها، ولا يمكنك تعديل ما بداخلها.
قسّمت Fabric مهارات الروبوت إلى وحدات نمطية تُسمّى “Skill Chips”—كأنك تقوم بتحميل التطبيقات على هاتفك.
لجعله يصلح الدوائر الكهربائية؟ ركّب له حزمة كهربائي.
لجعله يعتني بالمسنين؟ ركّب له حزمة رعاية.
وإذا انتهت الحاجة، يمكنك إلغاء تثبيته.
الأهم هو: عندما تتعلم روبوتة مهارة جديدة في كاليفورنيا، يمكنها خلال ثوانٍ مشاركة هذه المهارة مع كل نظرائها حول العالم.
تم تفكيك مخاطر الهلوسة—حتى لو كان هناك خلل بسيط في وحدة مهارة معينة، فإنه يؤثر على مهمة محددة فقط، ولا ينتقل إلى النظام بأكمله.
ثانيًا، افتح “غرفة بثّ مباشر” للروبوت، واجعل البشرية كلها بمثابة مراقبين يراجعون عمله.
أنشأت Fabric Global Robot Observatory.
بكلام بسيط: كل روبوت يعمل الآن يقوم بالبث المباشر بشكل علني.
بيانات مستشعراته، ومسار قراراته، ومسار حركته—كلها يمكن للجميع رؤيتها في الوقت الحقيقي.
أتعُتقد أنه ليس على حق؟ يمكنك تقييمه تقييمًا منخفضًا مباشرة، أو إرسال تسجيل صوتي لتصحيح الأخطاء، أو تقديم بلاغ.
كل الملاحظات تُسجّل على السلسلة، ولا يمكن العبث بها.
الروبوتات التي تتصرف بشكل جيد تحصل على تقييمات عالية من المجتمع، فتستلم مهامًا أكثر، وتكسب مزيدًا من المال.
الروبوت الذي تظهر عليه الهلوسة يحصل على تقييمات منخفضة من المجتمع بشكل جماعي، والمشغّل يخسر المال مباشرة.
بمجرد أن تظهر الهلوسة، يتم الإمساك بها في الحال؛ وتكون التكلفة خسارةً فعلية بمبلغ حقيقي من المال.
ثالثًا، دع الروبوت “يودع مبلغًا تأمينيًا”—فإذا حاول اختلاق شيء فسيفلس.
هل يريد المشغّل إدخال الروبوت إلى الخدمة؟ ليرهن مبلغًا من رمز $ROBO كضمان أولًا.
الروبوت يعمل لكسب المال، لكن عليه دفع رسوم البيانات وقدرة الحوسبة واشتراك المهارات.
كما أن النظام وضع آلية مكافآت تكيفية: جودة الروبوت عالية، فالمكافآت أكثر؛ وعندما تظهر الهلوسة وتتسبب في تراجع الجودة، تنكمش المكافآت فورًا.
والأشد قسوة هو “تحدّي التحقق”: أي شخص يكتشف أن الروبوت يغش يمكنه رهن رموز لأجل المراجعة. من يغش يخسر فورًا 30% إلى 50% من مبلغ الرهن.
لم يعد الروبوت “يستطيع أن يختلق متى شاء”، بل “إذا اختلق فسوف ينهار اقتصاديًا”.
—
هذه التصميمات ذكّرتني بمصطلح في علم النفس: الإحساس بالتحكم.
عندما كنت أعاني من الاكتئاب، كان أسوأ ما أخشاه هو فقدان السيطرة—لا أعرف متى سينهار الأمر، ولا أعرف ما الذي يمكن تصديقه.
الأمر نفسه بالنسبة لهلاوس الذكاء الاصطناعي.
الأمر الأكثر رعبًا ليس أنه يخطئ، بل أنك لا تعرف أبدًا متى يخطئ، ولا تعرف كيف تصحح ذلك.
حوّلت Fabric كل تصرفات الروبوت إلى نظام شفاف وقابل للتدقيق، ويمكن للبشر التدخل فيه في الوقت الحقيقي.
يمكنك أن ترى، ويمكنك التدخل، ويمكنك التصحيح.
شعور القلق بفقدان السيطرة يختفي فجأة.
—
لذلك عندما كنت غاضبًا للغاية من Gemini، شعرت بالمفارقة بشيء من الاطمئنان.
لحسن الحظ أنها كانت تخدعني فقط وهي تكتب مقالات.
إذا كان يتحكم في روبوت مادي، فربما لستُ الآن أكتب مقالًا، بل أتصل بـ 120.
ما تفعله Fabric هو تحويل الهلاوس من “خطر الصندوق الأسود غير القابل للتحكم” إلى “تكلفة اقتصادية يمكن الإشراف الجماعي عليها”.
ليس المطلوب أن يصبح الذكاء الاصطناعي أكثر قدرة على اختلاق القصص، بل أن الذكاء الاصطناعي لن يستطيع اختلاق القصص بعد الآن—لأن التكلفة أصبحت مرتفعة جدًا.
في 2026، ستنطلق أول دفعة من ROBO1 إلى الشوارع.
عندها ستكتشف: لم تعد هلاوس الذكاء الاصطناعي سيفًا معلّقًا فوق رأسك، بل أصبحت تكلفة قابلة للتحكم تم إخضاعها تمامًا عبر سلسلة الكتل.
هذه هي بداية التعايش الحقيقي بين البشر والآلات.
—
لنجر في قسم التعليقات: هل سبق وخُدعت بواسطة ذكاء اصطناعي؟