في الآونة الأخيرة، وجدت نفسي أفكر أقل في مدى ذكاء الذكاء الاصطناعي، وأكثر فيما يحدث عندما تتعطل الأنظمة المسؤولة عن التحكم به.
سؤال واحد ما زال يراودني باستمرار:
ماذا يجب أن يحدث عندما لا يستطيع ذكاء اصطناعي التحقق مما إذا كان إجراءٌ ما مسموحًا بالفعل؟
في البداية، كان جوابي بسيطًا.
إذا فشلت طبقة التفويض، فلا ينبغي للذكاء الاصطناعي أن يفعل أي شيء. في التمويل، لا ينبغي للشك أبدًا أن يتحول إلى إذن.
لكن كلما فكرت أكثر، أدركت أن الإجابة ليست بهذه البساطة.
ماذا لو احتاج "الخزنة" إلى تدخلٍ فعلي بينما تكون خدمة التفويض غير متاحة؟ إن إبقاء كل شيء مقفلًا يحمي الأمان، لكنه قد يمنع أيضًا تعافيًا ضروريًا.
وهذا ما جذب انتباهي إلى Newton's VaultKit.
بدلًا من منح المالك تجاوزًا فوريًا، يقدم VaultKit مسارًا للطوارئ مُقيدًا بمدة زمنية. إذا لم يكن تدفق التفويض المعتاد متاحًا، فستظل هناك طريقة للاسترداد، لكن بعد فترة انتظار، مع ظهور كل خطوة على السلسلة.
إن تجاوزًا فوريًا سيجعل طبقة السياسات تبدو اختيارية. لكن عدم وجود أي مسار استرداد على الإطلاق لا يبدو أيضًا أمرًا عمليًا. فغالبًا ما تواجه الأنظمة أعطالًا، وأحيانًا لا تكون فترة الانتظار خيارًا.
ما الذي غيّر فعليًا وجهة نظري؟ لم يكن هو "قيد التوقيت" بحد ذاته.
في الظروف العادية، يعتمد طبقة تفويض Newton على السياسات وموافقات المشغّلين والإقرارات المشفرة قبل أن يتمكن إجراءٌ يمتلك صلاحيات من المضي قدمًا.
أثناء حالة الطوارئ، يتغير اتجاه الثقة: بدلًا من ذلك، تميل الثقة نحو سلطة المالك، وفترة الانتظار، وشفافية البيانات على السلسلة.
إنهم ببساطة يعتمدون على افتراضات ثقة مختلفة.
وربما تكون هذه هي المحادثة الحقيقية التي ينبغي أن نكون قد بدأناها.
مع تزايد انخراط الذكاء الاصطناعي في التمويل، فإن أكبر التحديات ليست فقط بناء وكلاء أكثر ذكاءً. أعتقد أن هذا هو المكان الذي يبدأ فيه الاختبار الحقيقي لأمن الذكاء الاصطناعي.يبدو هذا الإصدار أكثر كونه تأملًا شخصيًا حقيقيًا، مع الاستمرار في تسليط الضوء على Newton's VaultKit، ومسار الطوارئ المُقيد بوقت، وتحول نموذج الثقة—وهي الأفكار الرئيسية في مقالِك.
@NewtonProtocol $NEWT #Newt
سؤال واحد ما زال يراودني باستمرار:
ماذا يجب أن يحدث عندما لا يستطيع ذكاء اصطناعي التحقق مما إذا كان إجراءٌ ما مسموحًا بالفعل؟
في البداية، كان جوابي بسيطًا.
إذا فشلت طبقة التفويض، فلا ينبغي للذكاء الاصطناعي أن يفعل أي شيء. في التمويل، لا ينبغي للشك أبدًا أن يتحول إلى إذن.
لكن كلما فكرت أكثر، أدركت أن الإجابة ليست بهذه البساطة.
ماذا لو احتاج "الخزنة" إلى تدخلٍ فعلي بينما تكون خدمة التفويض غير متاحة؟ إن إبقاء كل شيء مقفلًا يحمي الأمان، لكنه قد يمنع أيضًا تعافيًا ضروريًا.
وهذا ما جذب انتباهي إلى Newton's VaultKit.
بدلًا من منح المالك تجاوزًا فوريًا، يقدم VaultKit مسارًا للطوارئ مُقيدًا بمدة زمنية. إذا لم يكن تدفق التفويض المعتاد متاحًا، فستظل هناك طريقة للاسترداد، لكن بعد فترة انتظار، مع ظهور كل خطوة على السلسلة.
إن تجاوزًا فوريًا سيجعل طبقة السياسات تبدو اختيارية. لكن عدم وجود أي مسار استرداد على الإطلاق لا يبدو أيضًا أمرًا عمليًا. فغالبًا ما تواجه الأنظمة أعطالًا، وأحيانًا لا تكون فترة الانتظار خيارًا.
ما الذي غيّر فعليًا وجهة نظري؟ لم يكن هو "قيد التوقيت" بحد ذاته.
في الظروف العادية، يعتمد طبقة تفويض Newton على السياسات وموافقات المشغّلين والإقرارات المشفرة قبل أن يتمكن إجراءٌ يمتلك صلاحيات من المضي قدمًا.
أثناء حالة الطوارئ، يتغير اتجاه الثقة: بدلًا من ذلك، تميل الثقة نحو سلطة المالك، وفترة الانتظار، وشفافية البيانات على السلسلة.
إنهم ببساطة يعتمدون على افتراضات ثقة مختلفة.
وربما تكون هذه هي المحادثة الحقيقية التي ينبغي أن نكون قد بدأناها.
مع تزايد انخراط الذكاء الاصطناعي في التمويل، فإن أكبر التحديات ليست فقط بناء وكلاء أكثر ذكاءً. أعتقد أن هذا هو المكان الذي يبدأ فيه الاختبار الحقيقي لأمن الذكاء الاصطناعي.يبدو هذا الإصدار أكثر كونه تأملًا شخصيًا حقيقيًا، مع الاستمرار في تسليط الضوء على Newton's VaultKit، ومسار الطوارئ المُقيد بوقت، وتحول نموذج الثقة—وهي الأفكار الرئيسية في مقالِك.
@NewtonProtocol $NEWT #Newt
