#newt $NEWT @NewtonProtocol
كنت أقرأ عن بروتوكول نيوتن، وتبقى فكرة واحدة عالقة في ذهني.
يتحدث الجميع عن ما إذا كانت وكلاء الذكاء الاصطناعي يمكنهم تنفيذ الصفقات بأمان. لكن ماذا لو لم تكن هذه هي أصعب مشكلة؟
ماذا لو كانت التحدي الحقيقي هو التأكد من أن السياسة تقول ما يقصده المستخدم بالفعل؟ هل يمكن لقائمة قواعد أن تلتقط شيئًا معقدًا مثل الحكم البشري؟ وإذا اتبع ذكاء اصطناعي كل قاعدة حرفيًا كما هي، لكنه ما يزال يقدّم نتيجة لم يتوقعها المستخدم، فهل فشل الذكاء الاصطناعي—أم أن المشكلة في السياسة؟
يبدو أن هذه محادثة أكثر أهمية بكثير بالنسبة لمستقبل التمويل الذاتي.
كنت أقرأ عن بروتوكول نيوتن، وتبقى فكرة واحدة عالقة في ذهني.
يتحدث الجميع عن ما إذا كانت وكلاء الذكاء الاصطناعي يمكنهم تنفيذ الصفقات بأمان. لكن ماذا لو لم تكن هذه هي أصعب مشكلة؟
ماذا لو كانت التحدي الحقيقي هو التأكد من أن السياسة تقول ما يقصده المستخدم بالفعل؟ هل يمكن لقائمة قواعد أن تلتقط شيئًا معقدًا مثل الحكم البشري؟ وإذا اتبع ذكاء اصطناعي كل قاعدة حرفيًا كما هي، لكنه ما يزال يقدّم نتيجة لم يتوقعها المستخدم، فهل فشل الذكاء الاصطناعي—أم أن المشكلة في السياسة؟
يبدو أن هذه محادثة أكثر أهمية بكثير بالنسبة لمستقبل التمويل الذاتي.