الآن، الكثير من منتجات الذكاء الاصطناعي تواجه مشكلة: تخلص من الإجابة بمجرد الانتهاء.
سألتها عن تقييم السوق، أو نتيجة إدارة المخاطر، أو تحليل المشروع، وهي فعلاً قادرة على إعطائك فقرة طويلة. لكن بعد أيام، عندما تحاول الرجوع والتحقق: ما هو النموذج المستخدم؟ وما هي البيانات التي تم الاستعانة بها؟ وهل تم تعديل النتائج؟ سيكون من الصعب جداً توضيح ذلك.
هذه في الحقيقة ليست مسألة تُناقش بشكل جاد في تطبيقات الذكاء الاصطناعي: الجميع يعتمد بشكل متزايد على الذكاء الاصطناعي في اتخاذ القرارات، لكن الحكم الذي يقوم به الذكاء الاصطناعي غالباً ما يفتقر إلى "إحساس السجل".
أعتقد أن ما يجعل OpenGradient ذا قيمة هو أنه يسعى لتحويل استنتاجات الذكاء الاصطناعي من إجابة مؤقتة إلى سجل حساب يمكن تتبعه.
المتصفح في المشروع، وطبقة التحقق، والتفكير في TEE، والتسويات على السلسلة، كلها تهدف إلى سد هذه الفجوة. ليس فقط لأن الذكاء الاصطناعي يقدم لك الإجابة، بل يجب أن يكون هناك مسار تنفيذي، وحالة تحقق، ومعلومات تسوية وراء كل استدعاء.
قد لا يكون هذا الأمر واضحاً في المحادثات العادية، لكنه مهم جداً في السياقات المالية، والتدقيق، والامتثال، وAgent.
على سبيل المثال، إذا أعطى وكيل ذكاء اصطناعي اقتراحاً "لتقليل مخاطر تعرض مركز معين"، بعد ذلك لا يمكن أن تترك فقط صورة للشاشة. الطريقة الأكثر منطقية هي أن تتمكن من تتبع النموذج الذي تم استخدامه، والمدخلات المستخدمة، ووقت التنفيذ، بالإضافة إلى إثبات ما إذا تم الإنجاز.
هذا مثل المعاملات على السلسلة. نحن لا ننظر فقط إلى "التحويل ناجح"، بل ننظر أيضاً إلى الهاش، والكتلة، والحالة، والمبلغ. في المستقبل، ستكون استدعاءات الذكاء الاصطناعي أقرب إلى هذا المنطق.
بالطبع، وجود سجل لا يعني أن النتائج صحيحة دائماً. يمكنه فقط حل مسألة "هل كانت العملية موجودة، وهل تم التلاعب بها"، ولا يمكن أن تحل محل حكم الإنسان حول الاستنتاج نفسه.
لكنني أعتقد أن هذا هو الأساس لدخول الذكاء الاصطناعي في السيناريوهات الجادة. الذكاء الذي لا يسجل، مناسب فقط للاستخدام الخفيف؛ إذا كان الذكاء الاصطناعي يريد الدخول إلى عمليات الأموال واتخاذ القرارات، يجب أن يترك آثاراً يمكن تتبعها.
$OPG @OpenGradient #OPG
سألتها عن تقييم السوق، أو نتيجة إدارة المخاطر، أو تحليل المشروع، وهي فعلاً قادرة على إعطائك فقرة طويلة. لكن بعد أيام، عندما تحاول الرجوع والتحقق: ما هو النموذج المستخدم؟ وما هي البيانات التي تم الاستعانة بها؟ وهل تم تعديل النتائج؟ سيكون من الصعب جداً توضيح ذلك.
هذه في الحقيقة ليست مسألة تُناقش بشكل جاد في تطبيقات الذكاء الاصطناعي: الجميع يعتمد بشكل متزايد على الذكاء الاصطناعي في اتخاذ القرارات، لكن الحكم الذي يقوم به الذكاء الاصطناعي غالباً ما يفتقر إلى "إحساس السجل".
أعتقد أن ما يجعل OpenGradient ذا قيمة هو أنه يسعى لتحويل استنتاجات الذكاء الاصطناعي من إجابة مؤقتة إلى سجل حساب يمكن تتبعه.
المتصفح في المشروع، وطبقة التحقق، والتفكير في TEE، والتسويات على السلسلة، كلها تهدف إلى سد هذه الفجوة. ليس فقط لأن الذكاء الاصطناعي يقدم لك الإجابة، بل يجب أن يكون هناك مسار تنفيذي، وحالة تحقق، ومعلومات تسوية وراء كل استدعاء.
قد لا يكون هذا الأمر واضحاً في المحادثات العادية، لكنه مهم جداً في السياقات المالية، والتدقيق، والامتثال، وAgent.
على سبيل المثال، إذا أعطى وكيل ذكاء اصطناعي اقتراحاً "لتقليل مخاطر تعرض مركز معين"، بعد ذلك لا يمكن أن تترك فقط صورة للشاشة. الطريقة الأكثر منطقية هي أن تتمكن من تتبع النموذج الذي تم استخدامه، والمدخلات المستخدمة، ووقت التنفيذ، بالإضافة إلى إثبات ما إذا تم الإنجاز.
هذا مثل المعاملات على السلسلة. نحن لا ننظر فقط إلى "التحويل ناجح"، بل ننظر أيضاً إلى الهاش، والكتلة، والحالة، والمبلغ. في المستقبل، ستكون استدعاءات الذكاء الاصطناعي أقرب إلى هذا المنطق.
بالطبع، وجود سجل لا يعني أن النتائج صحيحة دائماً. يمكنه فقط حل مسألة "هل كانت العملية موجودة، وهل تم التلاعب بها"، ولا يمكن أن تحل محل حكم الإنسان حول الاستنتاج نفسه.
لكنني أعتقد أن هذا هو الأساس لدخول الذكاء الاصطناعي في السيناريوهات الجادة. الذكاء الذي لا يسجل، مناسب فقط للاستخدام الخفيف؛ إذا كان الذكاء الاصطناعي يريد الدخول إلى عمليات الأموال واتخاذ القرارات، يجب أن يترك آثاراً يمكن تتبعها.
$OPG @OpenGradient #OPG
