🚨 يمكن للذكاء الاصطناعي الجيد أن يفعل أشياء سيئة أيضًا.
هذا يبدو متناقضًا.
لكن قد يصبح هذا أحد التحديات المحدِّدة لتمويلٍ مبني على الذكاء الاصطناعي.
يفترض معظم الناس أن أكبر خطر هو ذكاء اصطناعي خبيث.
أنا لا أعتقد ذلك.
الخطر الأكبر هو ذكاء اصطناعي جيد ينفّذ سياسات سيئة بدقّة تامة.
الذكاء الاصطناعي لا يفهم الأخلاقيات.
ولا يفهم العواقب.
ولا يقرر ما هو صحيح أو خطأ.
إنه ببساطة ينفّذ الصلاحيات والأهداف والسياسات التي يتم تزويده بها.
لهذا السبب يمكن للذكاء الاصطناعي شديد الذكاء أن يتخذ قرارات مالية كارثية—ليس لأنه أخفق، بل لأنه نفّذ بالضبط ما سُمِح له بالقيام به.
ولهذا السبب أعتقد أن المحادثة تحتاج إلى التحوّل.
بدلًا من السؤال: "كيف نبني ذكاءً اصطناعيًا أكثر ذكاءً؟"
يجب أن نسأل: "كيف نبني تفويضًا أفضل؟"
🛡️ وهذا بالضبط ما يبرز فيه @NewtonProtocol stands out.
$NEWT isn't يحاول استبدال الحكم البشري بالذكاء الاصطناعي.
إنه يبني طبقة التفويض لتمويلٍ مبني على الذكاء الاصطناعي، لضمان عمل وكلاء الذكاء الاصطناعي ضمن حدود قابلة للبرمجة وقابلة للتحقق بدلًا من الصلاحيات غير المحدودة.
من خلال التفويض قبل التنفيذ، يتم تقييم كل إجراء للذكاء الاصطناعي مقابل سياسات محددة مسبقًا قبل التنفيذ.
باستخدام صلاحيات قابلة للبرمجة، يمكن للمطورين والمؤسسات تحديد بالضبط أي الأصول يمكن للذكاء الاصطناعي الوصول إليها، وأي البروتوكولات يمكنه التفاعل معها، وحدود الصرف، وظروف التنفيذ، ومتطلبات الموافقة قبل أن يتحرك رأس المال ولو مرة واحدة.
وبالاقتران مع محرك سياسات، وتفويض وكلاء الذكاء الاصطناعي، وفرض سياسات قابل للتحقق، يحوّل Newton الثقة من قرار يدوي إلى بنية تحتية قابلة للبرمجة.
إنها نقلة جوهرية.
لأن المستقبل لن يكون فيه أكثر ذكاءً هو الأكثر أمانًا.
سيكون الأكثر أمانًا هو الذي يعرف ما يُسمح له بفعله—وما لا يُسمح له به.
🤔 إذا التزم ذكاء اصطناعي بكل القواعد كما صُمِّمت بدقة، لكنه في النهاية مسح كامل محفظتك بالكامل... فمن المسؤول فعليًا؟
الذكاء الاصطناعي، أم المطور، أم الشخص الذي كتب القواعد؟
يمكنك اختيار واحد فقط.
#Newt
هذا يبدو متناقضًا.
لكن قد يصبح هذا أحد التحديات المحدِّدة لتمويلٍ مبني على الذكاء الاصطناعي.
يفترض معظم الناس أن أكبر خطر هو ذكاء اصطناعي خبيث.
أنا لا أعتقد ذلك.
الخطر الأكبر هو ذكاء اصطناعي جيد ينفّذ سياسات سيئة بدقّة تامة.
الذكاء الاصطناعي لا يفهم الأخلاقيات.
ولا يفهم العواقب.
ولا يقرر ما هو صحيح أو خطأ.
إنه ببساطة ينفّذ الصلاحيات والأهداف والسياسات التي يتم تزويده بها.
لهذا السبب يمكن للذكاء الاصطناعي شديد الذكاء أن يتخذ قرارات مالية كارثية—ليس لأنه أخفق، بل لأنه نفّذ بالضبط ما سُمِح له بالقيام به.
ولهذا السبب أعتقد أن المحادثة تحتاج إلى التحوّل.
بدلًا من السؤال: "كيف نبني ذكاءً اصطناعيًا أكثر ذكاءً؟"
يجب أن نسأل: "كيف نبني تفويضًا أفضل؟"
🛡️ وهذا بالضبط ما يبرز فيه @NewtonProtocol stands out.
$NEWT isn't يحاول استبدال الحكم البشري بالذكاء الاصطناعي.
إنه يبني طبقة التفويض لتمويلٍ مبني على الذكاء الاصطناعي، لضمان عمل وكلاء الذكاء الاصطناعي ضمن حدود قابلة للبرمجة وقابلة للتحقق بدلًا من الصلاحيات غير المحدودة.
من خلال التفويض قبل التنفيذ، يتم تقييم كل إجراء للذكاء الاصطناعي مقابل سياسات محددة مسبقًا قبل التنفيذ.
باستخدام صلاحيات قابلة للبرمجة، يمكن للمطورين والمؤسسات تحديد بالضبط أي الأصول يمكن للذكاء الاصطناعي الوصول إليها، وأي البروتوكولات يمكنه التفاعل معها، وحدود الصرف، وظروف التنفيذ، ومتطلبات الموافقة قبل أن يتحرك رأس المال ولو مرة واحدة.
وبالاقتران مع محرك سياسات، وتفويض وكلاء الذكاء الاصطناعي، وفرض سياسات قابل للتحقق، يحوّل Newton الثقة من قرار يدوي إلى بنية تحتية قابلة للبرمجة.
إنها نقلة جوهرية.
لأن المستقبل لن يكون فيه أكثر ذكاءً هو الأكثر أمانًا.
سيكون الأكثر أمانًا هو الذي يعرف ما يُسمح له بفعله—وما لا يُسمح له به.
🤔 إذا التزم ذكاء اصطناعي بكل القواعد كما صُمِّمت بدقة، لكنه في النهاية مسح كامل محفظتك بالكامل... فمن المسؤول فعليًا؟
الذكاء الاصطناعي، أم المطور، أم الشخص الذي كتب القواعد؟
يمكنك اختيار واحد فقط.
#Newt
