قامت شركة OpenAI بنشر مقترحات بشأن السلامة لتطوير الذكاء الاصطناعي المتقدم
ووفقًا لـ CNBC، نشرت OpenAI يوم الاثنين مقترحات للسلامة والأمن في تطوير الذكاء الاصطناعي المتقدم، مع التركيز على أبحاث المواءمة والتحسين الذاتي التكراري، أو RSI. وقالت الشركة إن التعاون الدولي مطلوب لتطوير معايير رائدة، وحثّت الجهات التنظيمية على البناء على عمل معاهد سلامة الذكاء الاصطناعي القائمة حول العالم. وأضافت OpenAI أن المعايير ينبغي أن تتمحور حول نماذج الذكاء الاصطناعي المتقدم والمطورين، فضلاً عن إدارة الفوائد والمخاطر للباحثين الآليين في مجال الذكاء الاصطناعي، بما في ذلك RSI. وصرّحت الشركة بأن تحسين الذات التكراري المتمتع بالاستقلالية الكاملة غير واقع اليوم ولا ينبغي السعي إليه ما لم يكن بالإمكان تحقيقه بأمان، محذّرةً من أنه قد يترك البشر دون سيطرة عملية على تطوير الذكاء الاصطناعي. وفي الأسبوع الماضي، أصدرت شركة Anthropic أفكارها الخاصة حول التطوير الآمن لنماذج الذكاء الاصطناعي المتقدم.
$OPENAI
ووفقًا لـ CNBC، نشرت OpenAI يوم الاثنين مقترحات للسلامة والأمن في تطوير الذكاء الاصطناعي المتقدم، مع التركيز على أبحاث المواءمة والتحسين الذاتي التكراري، أو RSI. وقالت الشركة إن التعاون الدولي مطلوب لتطوير معايير رائدة، وحثّت الجهات التنظيمية على البناء على عمل معاهد سلامة الذكاء الاصطناعي القائمة حول العالم. وأضافت OpenAI أن المعايير ينبغي أن تتمحور حول نماذج الذكاء الاصطناعي المتقدم والمطورين، فضلاً عن إدارة الفوائد والمخاطر للباحثين الآليين في مجال الذكاء الاصطناعي، بما في ذلك RSI. وصرّحت الشركة بأن تحسين الذات التكراري المتمتع بالاستقلالية الكاملة غير واقع اليوم ولا ينبغي السعي إليه ما لم يكن بالإمكان تحقيقه بأمان، محذّرةً من أنه قد يترك البشر دون سيطرة عملية على تطوير الذكاء الاصطناعي. وفي الأسبوع الماضي، أصدرت شركة Anthropic أفكارها الخاصة حول التطوير الآمن لنماذج الذكاء الاصطناعي المتقدم.
$OPENAI
