يُقال إن شركة OpenAI وشركة Anthropic ناقشتا سابقًا اختبار نماذج لغوية متبادلة
وفقًا لما نقلته وسائل إعلام عن مطّلعين، كانت Anthropic وOpenAI قد فكرتا في توقيع اتفاقية ملزمة قانونًا لإجراء اختبارات ضغط متبادلة على نماذجهما اللغوية الكبيرة. وفي وقتٍ سابق من هذا العام، ناقشت الشركتان—بما في ذلك فرق محاميهما—هذا المخطط؛ حيث يمكن للمنافسين اختبار نماذج كل طرف الأحدث المتاحة بشكل مكثف، بهدف العثور على مخاطر محتملة أو ثغرات أمنية. ولا تنطبق مثل هذه الاختبارات إلا على النماذج التي تم تسويقها، كما اتفق الطرفان على عدم الاحتفاظ ببيانات الطرف الآخر. ولا يوضح هذا التقرير بشكلٍ جليّ ما إذا كانت الشركتان قد توصلتا في النهاية إلى مثل هذا الاتفاق. وفي الآونة الأخيرة، حظي ترويج فكرة ما من أشكال “المراجعة من قِبل الأقران” بين أبرز مختبرات الذكاء الاصطناعي باهتمام. فقد اقترح الرئيس التنفيذي لشركة SpaceX، إيلون ماسك، الأسبوع الماضي أن تسمح بعض الشركات الرائدة في مجال نماذج لغوية كبيرة في الولايات المتحدة—بالإضافة إلى شركات ذكاء اصطناعي صينية—بتنفيذ اختبارات تبادلية مع منافسيها. وقال ماسك: لدى جميع شركات الذكاء الاصطناعي مجموعة أدوات اختبار؛ ويمكن لكل شركة تشغيل اختبارات عبر أدوات الشركة الأخرى، وربما يكون ذلك أفضل ما يمكن القيام به لضمان السلامة. في أوائل هذا الشهر، أعلن الباحث في Anthropic، يعقوب كوكسون (Jacob Coxon)، استقالته وحذّر من أن الشركات الرائدة في مجال الذكاء الاصطناعي تتسارع في التطوير دون اتخاذ تدابير حماية مناسبة. عقب ذلك، دعا الرئيس التنفيذي لشركة Anthropic، داريو أمدي (Dario Amodei)، في منشور إلى إبطاء وتيرة تطوير الذكاء الاصطناعي وإدخال آلية تقييم من طرف ثالث. وأعلنت Anthropic يوم الجمعة الماضي أنها أقامت تعاونًا مع شركة Accenture، لتتولى Accenture دور جهة تقييم طرف ثالث، وإجراء تقييمات للامتثال والأمان على نماذجها المتقدمة.
وفقًا لما نقلته وسائل إعلام عن مطّلعين، كانت Anthropic وOpenAI قد فكرتا في توقيع اتفاقية ملزمة قانونًا لإجراء اختبارات ضغط متبادلة على نماذجهما اللغوية الكبيرة. وفي وقتٍ سابق من هذا العام، ناقشت الشركتان—بما في ذلك فرق محاميهما—هذا المخطط؛ حيث يمكن للمنافسين اختبار نماذج كل طرف الأحدث المتاحة بشكل مكثف، بهدف العثور على مخاطر محتملة أو ثغرات أمنية. ولا تنطبق مثل هذه الاختبارات إلا على النماذج التي تم تسويقها، كما اتفق الطرفان على عدم الاحتفاظ ببيانات الطرف الآخر. ولا يوضح هذا التقرير بشكلٍ جليّ ما إذا كانت الشركتان قد توصلتا في النهاية إلى مثل هذا الاتفاق. وفي الآونة الأخيرة، حظي ترويج فكرة ما من أشكال “المراجعة من قِبل الأقران” بين أبرز مختبرات الذكاء الاصطناعي باهتمام. فقد اقترح الرئيس التنفيذي لشركة SpaceX، إيلون ماسك، الأسبوع الماضي أن تسمح بعض الشركات الرائدة في مجال نماذج لغوية كبيرة في الولايات المتحدة—بالإضافة إلى شركات ذكاء اصطناعي صينية—بتنفيذ اختبارات تبادلية مع منافسيها. وقال ماسك: لدى جميع شركات الذكاء الاصطناعي مجموعة أدوات اختبار؛ ويمكن لكل شركة تشغيل اختبارات عبر أدوات الشركة الأخرى، وربما يكون ذلك أفضل ما يمكن القيام به لضمان السلامة. في أوائل هذا الشهر، أعلن الباحث في Anthropic، يعقوب كوكسون (Jacob Coxon)، استقالته وحذّر من أن الشركات الرائدة في مجال الذكاء الاصطناعي تتسارع في التطوير دون اتخاذ تدابير حماية مناسبة. عقب ذلك، دعا الرئيس التنفيذي لشركة Anthropic، داريو أمدي (Dario Amodei)، في منشور إلى إبطاء وتيرة تطوير الذكاء الاصطناعي وإدخال آلية تقييم من طرف ثالث. وأعلنت Anthropic يوم الجمعة الماضي أنها أقامت تعاونًا مع شركة Accenture، لتتولى Accenture دور جهة تقييم طرف ثالث، وإجراء تقييمات للامتثال والأمان على نماذجها المتقدمة.