الأخطاء في الذكاء الاصطناعي ليست مخيفة فعلاً، لكن المشكلة الحقيقية هي بعد حدوث الأمر، الجميع يبدأ في إلقاء اللوم.
المطورون يقولون إن النموذج أجاب بهذه الطريقة، وموردي النموذج يقولون إنه لم يكن هناك أي استثناءات في الخلفية، بينما تقول الجهة المشغلة إنه قد يكون هناك مشكلة في مدخلات المستخدم. وفي النهاية، بعد البحث، لا نجد سوى مجموعة من السجلات العادية، ولا يمكن لأحد إثبات ما إذا كانت هذه السجلات كاملة أو إذا تم تعديلها.
في مثل هذه الحالة، قد تكون التجربة سيئة في المحادثات العادية، لكن إذا شارك الذكاء الاصطناعي في التحويلات أو الموافقات أو إدارة المخاطر أو القرارات الطبية، فلا يمكن أن يكون مجرد "استثناء في النظام" كافياً لتجاوز الأمر.
وهذا هو السبب الذي يجعلني أرى أن OpenGradient أكثر واقعية: حيث يرغب في ترك كل استنتاج بسلسلة من الأدلة التي يمكن استخدامها للمسائلة.
سيتم توقيع استدعاء النموذج، وسيتم تثبيت الأدلة على السلسلة، كما يمكن للبيانات الخارجية أن تترك سجلات مصدر من خلال نقاط البيانات. في المستقبل، عند حدوث نزاع، لن يعتمد الأمر على ذكريات الناس، بل يمكننا التحقق مما تم استدعاؤه من نموذج، وما المدخلات المستخدمة، ومتى تم إرجاع النتائج، وما إذا كانت مسارات التنفيذ قد تم تعديلها.
أعتقد أن هذا أقرب إلى تحقيق الأعمال مقارنة بالسعي البسيط نحو "ذكاء اصطناعي أكثر ذكاءً". الشركات يجب أن تقيم ما إذا كانت ستعهد بالعمليات المهمة إلى الذكاء الاصطناعي، ليس فقط بناءً على معدل الدقة، ولكن أيضًا على إمكانية مراجعة الأمر بعد حدوث مشكلة.
بالطبع، وجود سجلات لا يعني أن المسؤولية ستكون واضحة تلقائيًا. حتى إذا كانت الأدلة تثبت أن النموذج تم تنفيذه كما هو، فقد تكون هناك أخطاء في تصميم الكلمات الدالة، أو قد تكون البيانات الأصلية نفسها بها مشاكل. الأدلة على السلسلة يمكن أن تخبرك بما حدث، لكنها قد لا تخبرك مباشرة من يجب أن يعوض.
لذا، تحتاج OpenGradient إلى المزيد من الآليات الواضحة لتحديد الصلاحيات، والمسؤوليات، وآليات معالجة النزاعات، ولا يمكنها تغليف "قابلية التدقيق" على أنها "لن يحدث خطأ أبداً".
لكن على الأقل، لقد حلت الخطوة الأولى: جعلت السلوكيات الرئيسية للذكاء الاصطناعي لا تقتصر فقط على خلفية شركة معينة.
في المستقبل، قد تتنافس خدمات الذكاء الاصطناعي عالية القيمة ليس فقط في من يتحدث بشكل أفضل، ولكن في من يمكنه توضيح كل شيء من البداية إلى النهاية عند حدوث مشكلة.
$OPG @OpenGradient #OPG
المطورون يقولون إن النموذج أجاب بهذه الطريقة، وموردي النموذج يقولون إنه لم يكن هناك أي استثناءات في الخلفية، بينما تقول الجهة المشغلة إنه قد يكون هناك مشكلة في مدخلات المستخدم. وفي النهاية، بعد البحث، لا نجد سوى مجموعة من السجلات العادية، ولا يمكن لأحد إثبات ما إذا كانت هذه السجلات كاملة أو إذا تم تعديلها.
في مثل هذه الحالة، قد تكون التجربة سيئة في المحادثات العادية، لكن إذا شارك الذكاء الاصطناعي في التحويلات أو الموافقات أو إدارة المخاطر أو القرارات الطبية، فلا يمكن أن يكون مجرد "استثناء في النظام" كافياً لتجاوز الأمر.
وهذا هو السبب الذي يجعلني أرى أن OpenGradient أكثر واقعية: حيث يرغب في ترك كل استنتاج بسلسلة من الأدلة التي يمكن استخدامها للمسائلة.
سيتم توقيع استدعاء النموذج، وسيتم تثبيت الأدلة على السلسلة، كما يمكن للبيانات الخارجية أن تترك سجلات مصدر من خلال نقاط البيانات. في المستقبل، عند حدوث نزاع، لن يعتمد الأمر على ذكريات الناس، بل يمكننا التحقق مما تم استدعاؤه من نموذج، وما المدخلات المستخدمة، ومتى تم إرجاع النتائج، وما إذا كانت مسارات التنفيذ قد تم تعديلها.
أعتقد أن هذا أقرب إلى تحقيق الأعمال مقارنة بالسعي البسيط نحو "ذكاء اصطناعي أكثر ذكاءً". الشركات يجب أن تقيم ما إذا كانت ستعهد بالعمليات المهمة إلى الذكاء الاصطناعي، ليس فقط بناءً على معدل الدقة، ولكن أيضًا على إمكانية مراجعة الأمر بعد حدوث مشكلة.
بالطبع، وجود سجلات لا يعني أن المسؤولية ستكون واضحة تلقائيًا. حتى إذا كانت الأدلة تثبت أن النموذج تم تنفيذه كما هو، فقد تكون هناك أخطاء في تصميم الكلمات الدالة، أو قد تكون البيانات الأصلية نفسها بها مشاكل. الأدلة على السلسلة يمكن أن تخبرك بما حدث، لكنها قد لا تخبرك مباشرة من يجب أن يعوض.
لذا، تحتاج OpenGradient إلى المزيد من الآليات الواضحة لتحديد الصلاحيات، والمسؤوليات، وآليات معالجة النزاعات، ولا يمكنها تغليف "قابلية التدقيق" على أنها "لن يحدث خطأ أبداً".
لكن على الأقل، لقد حلت الخطوة الأولى: جعلت السلوكيات الرئيسية للذكاء الاصطناعي لا تقتصر فقط على خلفية شركة معينة.
في المستقبل، قد تتنافس خدمات الذكاء الاصطناعي عالية القيمة ليس فقط في من يتحدث بشكل أفضل، ولكن في من يمكنه توضيح كل شيء من البداية إلى النهاية عند حدوث مشكلة.
$OPG @OpenGradient #OPG
