#Newt @NewtonProtocol $NEWT
هل أصبحنا شديدي التركيز على جعل الذكاء الاصطناعي أسرع لدرجة أننا نادرًا ما نسأل من ينبغي أن يقرر ما الذي يُسمح له بفعله؟
أثناء استكشافي لمشاريع مرتبطة بالذكاء الاصطناعي وسلسلة الكتل، صادفت بروتوكول نيوتن (Newton Protocol)، فوجدت نفسي أفكر بدرجة أقل في الأتمتة وأكثر في ضرورة ضبط الحدود. تركز معظم المناقشات حول تداول الذكاء الاصطناعي على السرعة والتنفيذ، لكن هذا لا يهم إلا إذا كانت القرارات الأساسية يمكن الوثوق بها. إن نظامًا مستقلًا ينقل الأصول أو ينفذ استراتيجيات دون حدود واضحة يخلق نوعًا مختلفًا من المخاطر عن البرمجيات العادية.
أدى ذلك إلى فكرة فصل الذكاء عن السلطة. قد يولّد الذكاء الاصطناعي استراتيجيات، لكن يمكن لطبقة أخرى تحديد الشروط التي تُقبل بموجبها تلك الاستراتيجيات أو تُرفض. جعلني نهج بروتوكول نيوتن الذي يجمع بين rollup آمن وضوابط قائمة على السياسات أتساءل عما إذا كانت البنية التحتية المالية في المستقبل ستعتمد بقدر كبير على قواعد الحوكمة بقدر اعتمادها على جودة النموذج نفسه.
كما وجدت مفهوم السوق (marketplace) مثيرًا للاهتمام. بدلًا من التعامل مع نماذج الذكاء الاصطناعي كأدوات معزولة، فهو يقترح بيئة يمكن للمطورين فيها المساهمة بعوامل/وكلاء متخصصين، بينما يقوم المستخدمون بتقييمها ضمن قواعد شفافة. وهذا يغيّر الانتباه من مجرد بناء نماذج أكثر ذكاءً إلى إنشاء أنظمة يكون فيها من السهل فحص المساءلة.
كلما نظرت أكثر، قلّ شعوري بأن الأمر مجرد نقاش حول أداء الذكاء الاصطناعي وحده. صار الأمر سؤالًا عن كيفية تصميم الثقة داخل البنية التحتية قبل أن تُمنح الأتمتة مسؤولية ذات معنى. ربما لا تكمن التحديات الحقيقية في تعليم الآلات اتخاذ قرارات أفضل، بل في تحديد مقدار الحرية التي ينبغي أن تُمنح أصلًا لتلك القرارات.
هل أصبحنا شديدي التركيز على جعل الذكاء الاصطناعي أسرع لدرجة أننا نادرًا ما نسأل من ينبغي أن يقرر ما الذي يُسمح له بفعله؟
أثناء استكشافي لمشاريع مرتبطة بالذكاء الاصطناعي وسلسلة الكتل، صادفت بروتوكول نيوتن (Newton Protocol)، فوجدت نفسي أفكر بدرجة أقل في الأتمتة وأكثر في ضرورة ضبط الحدود. تركز معظم المناقشات حول تداول الذكاء الاصطناعي على السرعة والتنفيذ، لكن هذا لا يهم إلا إذا كانت القرارات الأساسية يمكن الوثوق بها. إن نظامًا مستقلًا ينقل الأصول أو ينفذ استراتيجيات دون حدود واضحة يخلق نوعًا مختلفًا من المخاطر عن البرمجيات العادية.
أدى ذلك إلى فكرة فصل الذكاء عن السلطة. قد يولّد الذكاء الاصطناعي استراتيجيات، لكن يمكن لطبقة أخرى تحديد الشروط التي تُقبل بموجبها تلك الاستراتيجيات أو تُرفض. جعلني نهج بروتوكول نيوتن الذي يجمع بين rollup آمن وضوابط قائمة على السياسات أتساءل عما إذا كانت البنية التحتية المالية في المستقبل ستعتمد بقدر كبير على قواعد الحوكمة بقدر اعتمادها على جودة النموذج نفسه.
كما وجدت مفهوم السوق (marketplace) مثيرًا للاهتمام. بدلًا من التعامل مع نماذج الذكاء الاصطناعي كأدوات معزولة، فهو يقترح بيئة يمكن للمطورين فيها المساهمة بعوامل/وكلاء متخصصين، بينما يقوم المستخدمون بتقييمها ضمن قواعد شفافة. وهذا يغيّر الانتباه من مجرد بناء نماذج أكثر ذكاءً إلى إنشاء أنظمة يكون فيها من السهل فحص المساءلة.
كلما نظرت أكثر، قلّ شعوري بأن الأمر مجرد نقاش حول أداء الذكاء الاصطناعي وحده. صار الأمر سؤالًا عن كيفية تصميم الثقة داخل البنية التحتية قبل أن تُمنح الأتمتة مسؤولية ذات معنى. ربما لا تكمن التحديات الحقيقية في تعليم الآلات اتخاذ قرارات أفضل، بل في تحديد مقدار الحرية التي ينبغي أن تُمنح أصلًا لتلك القرارات.