كنت أظن أن سمعة الذكاء الاصطناعي ستكون مرتبطة بالأداء.
صفقات أفضل.
إجابات أسرع.
عوائد أعلى.
لكن كلما فكرتُ في وكلاءٍ مستقلين، شعرتُ أن ذلك قد يكون سطحيًا جدًا.
لا يُوثق بشخصٍ موظفٍ بشري بعد قرارٍ واحدٍ جيد.
يُبنى الثقة من خلال السلوك المتكرر.
أن يظهر ويستمر بالحضور.
اتباع القواعد.
التعامل مع الحالات الحدّية.
عدم إساءة استخدام الوصول عندما لا يوجد أحد يراقب.
قد تحتاج وكلاء الذكاء الاصطناعي إلى الشيء نفسه.
تخيّل وكيلًا يبدأ بحدٍ يومي قدره 500.00 دولار.
خلال أكثر من 120 يومًا، يُنجز 12,480 إجراءً.
تبقى 99.94% ضمن السياسة.
0 عمليات تنفيذ غير مصرح بها.
تنخفض تكلفة التنفيذ المتوسطة من 1.92 دولار إلى 0.68 دولار.
تنخفض الإجراءات الفاشلة من 3.40% إلى 0.27%.
عندها، لا يصبح الوكيل مجرد “مفيد”.
لديه سجل سلوكي.
وإذا كان هذا التاريخ قابلاً للتحقق، يصبح شيئًا أكثر قيمة بكثير من مجرد ادعاء.
يصبح ذلك سمعة.
هذا هو الجزء الذي أجده مثيرًا للاهتمام حول @NewtonProtocol .
إن التفويض قبل التنفيذ ليس مجرد قول “نعم” أو “لا” لإجراء يقوم به ذكاء اصطناعي.
قد يساعد في إنشاء سجل لكيف يتصرف الوكيل داخل حدود محددة مع مرور الوقت.
ربما في يوم من الأيام، لن يحصل وكلاء الذكاء الاصطناعي على المزيد من الحرية لأن شخصًا ما يشعر بالثقة.
سيحصلون على ذلك لأن أفعالهم السابقة تثبت أنهم يستحقونه.
قد يتيح سجل نظيف حدودًا أعلى.
قد يؤدي الالتزام المستمر بالسياسة إلى إتاحة سير عمل أكثر تعقيدًا.
قد تؤدي الانتهاكات المتكررة إلى تقليل الصلاحية تلقائيًا.
يبدو هذا مستقبلًا أكثر صحة بالنسبة لي.
ليس ثقة عمياء.
ليس استقلالًا غير محدود.
نظامٌ يمنح فيه الذكاء الاصطناعي المسؤولية تدريجيًا بالطريقة نفسها التي يكسب بها البشر ذلك:
عبر الإثبات.
في ذلك العالم، قد لا تكون أكثر قيمة هي الذكاء الاصطناعي الذي يعد بأعلى عائد.
قد تكون الأهم هي التي تمتلك أنظف سجل حافل.