أعتقد أن أكبر مشكلة في العديد من تطبيقات الذكاء الاصطناعي اليوم ليست في عدم قدرتها على الاستخدام، بل في عدم قدرتها على توضيح الأمور بعد الاستخدام.
عندما تسألها سؤالاً، تعطيك إجابة. يبدو أن العملية انتهت، ولكن إذا أردت الاستفسار: أي نموذج تم استدعاؤه بالضبط؟ متى تم استدعاؤه؟ هل تم تعديله في المنتصف؟ هل هناك دليل؟ معظم المنصات تجعلك فقط تثق في سجلات الخلفية.
بصراحة، الذكاء الاصطناعي اليوم يشبه جداً "خدمة العملاء السوداء". ما تقوله، يجب أن تأخذه كما هو.
أعتقد أن OpenGradient تبدو فكرة واقعية، فهي لا تقتصر فقط على جعل الذكاء الاصطناعي يجيب، بل تريد أن تترك كل استدلال شيء مثل إيصال المعاملات على السلسلة.
مثلما يمكننا التحقق من الهاش، والوقت، والحالة بعد التحويل، يجب أن يكون من الممكن أيضاً التحقق من سجلات التنفيذ عند استدعاء الذكاء الاصطناعي. خاصة في المستقبل عندما يشارك الذكاء الاصطناعي في تمويل، وإدارة المخاطر، والمراجعة، فوجود النتائج وحده لا يكفي، بل يجب أن تكون العملية قابلة للمراجعة.
متصفح الشبكة الخاص بها، وطبقة التحقق، وإثبات TEE، كل هذه الأشياء مجتمعة تهدف إلى إنجاز هذا الأمر: تحويل استدلال الذكاء الاصطناعي من سجلات الخلفية إلى سجل حسابي يمكن التحقق منه.
أعتقد أن هذا مهم جداً. لأن المستخدمين في المستقبل لن يسألوا فقط "هل كانت إجابات الذكاء الاصطناعي دقيقة؟"، بل سيسألون "كيف يمكنك إثبات أنه تم التنفيذ بهذه الطريقة؟"
بالطبع، وجود إيصال لا يعني أن النموذج ذكي بالضرورة، ولا يعني أن الحكم صحيح دائماً. ولكن على الأقل إذا حدثت مشكلة، لن يكون النقاش بالاعتماد على الكلام فقط، بل يمكن تتبع السجلات للعودة.
وهذا هو ما يميز OpenGradient. إنها لا تقتصر فقط على أن تكون مدخلًا للذكاء الاصطناعي، بل تعزز الطبقة الأكثر نقصًا في بنية الذكاء الاصطناعي التحتية: القابلية للتتبع.
كلما زاد مشاركة الذكاء الاصطناعي في العالم الحقيقي، لم يعد يمكن الاعتماد على عبارة "نظام مُولد" فقط. في الأماكن التي يجب أن تُثبت فيها الأدلة، يجب أن تُترك الأدلة.
$OPG @OpenGradient #OPG
عندما تسألها سؤالاً، تعطيك إجابة. يبدو أن العملية انتهت، ولكن إذا أردت الاستفسار: أي نموذج تم استدعاؤه بالضبط؟ متى تم استدعاؤه؟ هل تم تعديله في المنتصف؟ هل هناك دليل؟ معظم المنصات تجعلك فقط تثق في سجلات الخلفية.
بصراحة، الذكاء الاصطناعي اليوم يشبه جداً "خدمة العملاء السوداء". ما تقوله، يجب أن تأخذه كما هو.
أعتقد أن OpenGradient تبدو فكرة واقعية، فهي لا تقتصر فقط على جعل الذكاء الاصطناعي يجيب، بل تريد أن تترك كل استدلال شيء مثل إيصال المعاملات على السلسلة.
مثلما يمكننا التحقق من الهاش، والوقت، والحالة بعد التحويل، يجب أن يكون من الممكن أيضاً التحقق من سجلات التنفيذ عند استدعاء الذكاء الاصطناعي. خاصة في المستقبل عندما يشارك الذكاء الاصطناعي في تمويل، وإدارة المخاطر، والمراجعة، فوجود النتائج وحده لا يكفي، بل يجب أن تكون العملية قابلة للمراجعة.
متصفح الشبكة الخاص بها، وطبقة التحقق، وإثبات TEE، كل هذه الأشياء مجتمعة تهدف إلى إنجاز هذا الأمر: تحويل استدلال الذكاء الاصطناعي من سجلات الخلفية إلى سجل حسابي يمكن التحقق منه.
أعتقد أن هذا مهم جداً. لأن المستخدمين في المستقبل لن يسألوا فقط "هل كانت إجابات الذكاء الاصطناعي دقيقة؟"، بل سيسألون "كيف يمكنك إثبات أنه تم التنفيذ بهذه الطريقة؟"
بالطبع، وجود إيصال لا يعني أن النموذج ذكي بالضرورة، ولا يعني أن الحكم صحيح دائماً. ولكن على الأقل إذا حدثت مشكلة، لن يكون النقاش بالاعتماد على الكلام فقط، بل يمكن تتبع السجلات للعودة.
وهذا هو ما يميز OpenGradient. إنها لا تقتصر فقط على أن تكون مدخلًا للذكاء الاصطناعي، بل تعزز الطبقة الأكثر نقصًا في بنية الذكاء الاصطناعي التحتية: القابلية للتتبع.
كلما زاد مشاركة الذكاء الاصطناعي في العالم الحقيقي، لم يعد يمكن الاعتماد على عبارة "نظام مُولد" فقط. في الأماكن التي يجب أن تُثبت فيها الأدلة، يجب أن تُترك الأدلة.
$OPG @OpenGradient #OPG
