الاختبار الحقيقي لوكيل الذكاء الاصطناعي هو ما يحدث عندما يرتكب خطأً.
تخيّل أنك تطلب من وكيل ذكاء اصطناعي العثور على أرخص خدمة أبحاث لنشاطك التجاري. يعثر على واحدة، ويدفع مقابل الوصول إليها، وينجز المهمة. أمر مريح، أليس كذلك؟ لكن ماذا لو اختار الخدمة الخاطئة واستمر في إنفاق أموالك؟
لهذا السبب، ينبغي أن يعني منح الذكاء الاصطناعي حرية أكبر وضع حدود أوضح أيضًا.
يتبع Kite Passport نهجًا عمليًا. قبل أن ينفق الوكيل، يوافق المالك على جلسة تتضمن ميزانية، وحدًا أقصى لكل معاملة، وحدًا زمنيًا. عندئذٍ يمكن للوكيل الدفع مقابل الخدمات المدعومة ضمن هذه الحدود. ولا يحتاج إلى وصول غير محدود إلى أموال المالك لمجرد إنجاز مهمة واحدة.
ومع ذلك، لا تستطيع حدود الإنفاق تحديد ما إذا كان الوكيل قد اختار الخدمة المناسبة أو وثق بمعلومات مضللة. وهذه المسؤولية تحتاج أيضًا إلى تصميم مدروس.
رأيي بسيط: لا تحكم على وكيل الذكاء الاصطناعي بناءً على أدائه عندما تسير الأمور على ما يرام فحسب. اسأل عن حجم الضرر الذي قد يتسبب فيه عندما تسوء الأمور، ومدى سهولة احتواء ذلك الضرر.
ينبغي للذكاء الاصطناعي المفيد أن يوفر علينا الوقت من دون أن يطلب منا التخلي عن التحكم.
ما أول ما ستضع له حدودًا: ميزانية الوكيل، أم نطاق وصوله، أم القرارات التي يمكنه اتخاذها؟
#KiteBBW $KITE @KITE AI
تخيّل أنك تطلب من وكيل ذكاء اصطناعي العثور على أرخص خدمة أبحاث لنشاطك التجاري. يعثر على واحدة، ويدفع مقابل الوصول إليها، وينجز المهمة. أمر مريح، أليس كذلك؟ لكن ماذا لو اختار الخدمة الخاطئة واستمر في إنفاق أموالك؟
لهذا السبب، ينبغي أن يعني منح الذكاء الاصطناعي حرية أكبر وضع حدود أوضح أيضًا.
يتبع Kite Passport نهجًا عمليًا. قبل أن ينفق الوكيل، يوافق المالك على جلسة تتضمن ميزانية، وحدًا أقصى لكل معاملة، وحدًا زمنيًا. عندئذٍ يمكن للوكيل الدفع مقابل الخدمات المدعومة ضمن هذه الحدود. ولا يحتاج إلى وصول غير محدود إلى أموال المالك لمجرد إنجاز مهمة واحدة.
ومع ذلك، لا تستطيع حدود الإنفاق تحديد ما إذا كان الوكيل قد اختار الخدمة المناسبة أو وثق بمعلومات مضللة. وهذه المسؤولية تحتاج أيضًا إلى تصميم مدروس.
رأيي بسيط: لا تحكم على وكيل الذكاء الاصطناعي بناءً على أدائه عندما تسير الأمور على ما يرام فحسب. اسأل عن حجم الضرر الذي قد يتسبب فيه عندما تسوء الأمور، ومدى سهولة احتواء ذلك الضرر.
ينبغي للذكاء الاصطناعي المفيد أن يوفر علينا الوقت من دون أن يطلب منا التخلي عن التحكم.
ما أول ما ستضع له حدودًا: ميزانية الوكيل، أم نطاق وصوله، أم القرارات التي يمكنه اتخاذها؟
#KiteBBW $KITE @KITE AI