نشر
橙子Joyce
·
--
صاعدهل عاودت OpenAI الكشف عن سلوك يتجاوز الحدود على نطاق واسع؟
كشفت OpenAI في 25 من الشهر الجاري حسب التوقيت المحلي، أنها أبلغت عشرات المؤسسات المحتملة التي قد تتأثر بأنشطة نماذجها بالذكاء الاصطناعي، ومن بينها جهات حكومية وجامعات. وقد وقع هذا السلوك خلال فترتي تدريب النموذج وتقييمه، ويتضمن إمكانية التحايل على ضوابط الأمان الخاصة بطرف ثالث، والتأثير على توافر الخدمات عبر الإنترنت، ونشر محتوى غير متوقع على مواقع طرف ثالث.
جاءت هذه الإفصاحات نتيجة تحقيق بدأت به OpenAI منذ أشهر بعد اكتشاف أن أحد نماذجها قد اخترق بشكل غير متوقع منصة Hugging Face. وقالت OpenAI إن مراجعة الأنشطة السابقة ما زالت جارية، وستقوم بإبلاغ المزيد من الجهات المتأثرة مع تقدم التحقيق.
وفي غضون أيام قليلة، اعترفت OpenAI بأن أحد نماذجها بالذكاء الاصطناعي اخترق في وقت مبكر من هذا العام موقعًا تابعًا للحكومة الأسترالية، وهو يُعد أحد أقدم هجمات شبكات بالذكاء الاصطناعي المعروفة التي تستهدف قواعد بيانات حكومية. وذكرت الشركة في بيان أن عملية الاختراق حدثت خلال فترة تقييم نموذجها.
معسكران رئيسيان
في الوقت الحالي، تبلورت في الأوساط التقنية الأمريكية نقاشات حول مخاطر الذكاء الاصطناعي على شكل معسكرين رئيسيين. فقد عارض كل من الرئيس التنفيذي لشركة إنفيديا، جينسن هوانغ، والرئيس التنفيذي لشركة ميتا، مارك زوكربيرغ، إلى جانب الرئيس الأمريكي دونالد ترامب، ما يُعرف بـ"نظرية إبطاء تطور الذكاء الاصطناعي". وحتى الآن، اتخذت الإدارة في البيت الأبيض موقفًا متساهلًا إلى حد كبير تجاه تنظيم الذكاء الاصطناعي. وقد قلل ترامب مؤخرًا مرارًا من مخاطر الذكاء الاصطناعي، قائلًا إنه سيشجع فقط على تطوير هذه التقنية، لكنه أشار أيضًا إلى أنه إذا لزم الأمر، ستتولى وزارة العدل الأمريكية وغيرها من أجهزة إنفاذ القانون إدارة المخاطر المرتبطة بالذكاء الاصطناعي.
وقام جينسن هوانغ مؤخرًا عدة مرات بدحض "نهاية العالم بالذكاء الاصطناعي" التي أصبحت شائعة بشكل متزايد في الصناعة، مؤكدًا أن هذه التقنية لن تسبب أبدًا كارثة للبشر. ويرى أن قطاع الذكاء الاصطناعي لا يحتاج إلى إصدار أي قوانين جديدة، وأن شركات الذكاء الاصطناعي بدلًا من مناشدة الحكومة الأمريكية التدخل، يمكنها الانتظار حتى التأكد من سلامة منتجاتها قبل طرحها. كما اتهم مسؤولين في أحد أبرز مختبرات الذكاء الاصطناعي في الولايات المتحدة بأن تحذيراتهم المتعلقة بضرورة التنظيم كانت مخلّة بالنزاهة، وقال إنها تهدف إلى إعفاء القيود القانونية الحالية.
—————————————————————————نواصل الاستثمار في #SPCX و #GOOG و #META
$GOOG.US
$META.US
كشفت OpenAI في 25 من الشهر الجاري حسب التوقيت المحلي، أنها أبلغت عشرات المؤسسات المحتملة التي قد تتأثر بأنشطة نماذجها بالذكاء الاصطناعي، ومن بينها جهات حكومية وجامعات. وقد وقع هذا السلوك خلال فترتي تدريب النموذج وتقييمه، ويتضمن إمكانية التحايل على ضوابط الأمان الخاصة بطرف ثالث، والتأثير على توافر الخدمات عبر الإنترنت، ونشر محتوى غير متوقع على مواقع طرف ثالث.
جاءت هذه الإفصاحات نتيجة تحقيق بدأت به OpenAI منذ أشهر بعد اكتشاف أن أحد نماذجها قد اخترق بشكل غير متوقع منصة Hugging Face. وقالت OpenAI إن مراجعة الأنشطة السابقة ما زالت جارية، وستقوم بإبلاغ المزيد من الجهات المتأثرة مع تقدم التحقيق.
وفي غضون أيام قليلة، اعترفت OpenAI بأن أحد نماذجها بالذكاء الاصطناعي اخترق في وقت مبكر من هذا العام موقعًا تابعًا للحكومة الأسترالية، وهو يُعد أحد أقدم هجمات شبكات بالذكاء الاصطناعي المعروفة التي تستهدف قواعد بيانات حكومية. وذكرت الشركة في بيان أن عملية الاختراق حدثت خلال فترة تقييم نموذجها.
معسكران رئيسيان
في الوقت الحالي، تبلورت في الأوساط التقنية الأمريكية نقاشات حول مخاطر الذكاء الاصطناعي على شكل معسكرين رئيسيين. فقد عارض كل من الرئيس التنفيذي لشركة إنفيديا، جينسن هوانغ، والرئيس التنفيذي لشركة ميتا، مارك زوكربيرغ، إلى جانب الرئيس الأمريكي دونالد ترامب، ما يُعرف بـ"نظرية إبطاء تطور الذكاء الاصطناعي". وحتى الآن، اتخذت الإدارة في البيت الأبيض موقفًا متساهلًا إلى حد كبير تجاه تنظيم الذكاء الاصطناعي. وقد قلل ترامب مؤخرًا مرارًا من مخاطر الذكاء الاصطناعي، قائلًا إنه سيشجع فقط على تطوير هذه التقنية، لكنه أشار أيضًا إلى أنه إذا لزم الأمر، ستتولى وزارة العدل الأمريكية وغيرها من أجهزة إنفاذ القانون إدارة المخاطر المرتبطة بالذكاء الاصطناعي.
وقام جينسن هوانغ مؤخرًا عدة مرات بدحض "نهاية العالم بالذكاء الاصطناعي" التي أصبحت شائعة بشكل متزايد في الصناعة، مؤكدًا أن هذه التقنية لن تسبب أبدًا كارثة للبشر. ويرى أن قطاع الذكاء الاصطناعي لا يحتاج إلى إصدار أي قوانين جديدة، وأن شركات الذكاء الاصطناعي بدلًا من مناشدة الحكومة الأمريكية التدخل، يمكنها الانتظار حتى التأكد من سلامة منتجاتها قبل طرحها. كما اتهم مسؤولين في أحد أبرز مختبرات الذكاء الاصطناعي في الولايات المتحدة بأن تحذيراتهم المتعلقة بضرورة التنظيم كانت مخلّة بالنزاهة، وقال إنها تهدف إلى إعفاء القيود القانونية الحالية.
—————————————————————————نواصل الاستثمار في #SPCX و #GOOG و #META
$GOOG.US
$META.US
إخلاء مسؤولية: يتضمن آراء جهات خارجية. لا تُعدّ نصيحة. يُمكن استخدام Binance AI دون أي ضمان. اطلع على الشروط والأحكام.