الوكيل بالذكاء الاصطناعي ليس الخائف منه ليس لأنه «غبي»، بل لأنه كثير الطاعة
للصراحة، كنت أظن سابقًا أن أكبر مشكلة في وكيل الذكاء الاصطناعي هي أنه «غير ذكي بما يكفي».
ثم فكرت بالأمر… لا، ليس هذا.
المخيف الحقيقي قد يكون أنه شديد الطاعة.
أنت تمنحه صلاحية، فيعمل وفقًا للصلاحية.
أنت تعطيه سياسة، فينفّذها حرفيًا.
إذا كتبت المعلمات بشكل خاطئ، فلن يذكرك: «يا صاحبي، هل يدك انزلقت؟».
هو فقط سينفّذ الخطأ بكل جدية حتى نهايته.
في التداول، أسوأ ما يمكن مواجهته هو هذا النوع من الأشياء.
البشر إذا خسروا سيترددون، ويتوقفون، ويلومون أنفسهم بكلمات قليلة.
لكن الآلات لا.

هو لا يفهم إلا القواعد، والمشكلة أن كثيرًا من ما يُسمّى «استراتيجيات أتمتة» لا يكتب القواعد كاملة أصلًا.
لهذا المرة، وأنا أتابع @NewtonProtocol، لم أعد قلقًا كثيرًا بشأن مدى «قوة» حديثه عن الذكاء الاصطناعي.
لو كانت Newton Protocol فعلًا مثيرة للاهتمام، فمن المفترض أن يكون ذلك قبل أن يبدأ الذكاء الاصطناعي فعلًا بتحريك الأموال: أن يطرح أولًا عدة أمور واضحة:
كم يمكنه تحريك من المال؟
أي بروتوكولات يمكنه الوصول إليها؟
في أي حالات يجب التوقف؟
هل نوقف المسارات غير الطبيعية؟
إذا خرجت الاستراتيجية عن مسارها، من المسؤول؟

سأستمر في متابعة Newton Mainnet Beta.
إذا كانت قادرة على تشغيل هذه الأشياء «غير المثيرة للإعجاب» لكنها حاسمة مثل الصلاحيات، والقواعد، والفحوصات قبل التنفيذ—فإن $NEWT على الأقل لن يكون مجرد محاولة لاستغلال ضجة الذكاء الاصطناعي.
الوكيل بالذكاء الاصطناعي لا ينقصه الذكاء.
ما ينقصه هو وجود شيء يوقفه قبل أن يخطئ.
@NewtonProtocol $NEWT #Newt