تفصيل تخصيص الموارد عبر الصناعات عالية الخطورة:
النووي والطيران: 60% قدرات / 40% سلامة
الأجهزة الطبية: 20% قدرات / 80% سلامة (تنظيمها شديد؛ موافقة هيئة الغذاء والدواء تستغرق سنوات)
الذكاء الاصطناعي: 99% قدرات / 1% سلامة
التباين صارخ. تعلّمنا من كارثة تشيرنوبيل وحوادث الطائرات أن البنية التحتية للسلامة تهم. تخضع الأجهزة الطبية لِدورات اختبار قاسية قبل أن تلمس البشر.
ولكن الذكاء الاصطناعي؟ نحن نُوسّع نماذج إلى مليارات المعاملات، ونُشرّكها في الإنتاج، ونأمل أن يلحق بحث المواءمة بالركب لاحقًا. لا توجد مراجعات سلامة إلزامية. لا توجد مفاتيح إيقاف (kill switches). فقط الإطلاق والانتظار لمعرفة ما الذي سينكسر.
السؤال ليس ما إذا كانت هذه النسبة قابلة للاستمرار. بل ما إذا سنصلحها قبل أم بعد أول حادث كبير في مجال الذكاء الاصطناعي يجعل الجميع يتمنّون لو كانت لدينا سلامة منذ البداية.
النووي والطيران: 60% قدرات / 40% سلامة
الأجهزة الطبية: 20% قدرات / 80% سلامة (تنظيمها شديد؛ موافقة هيئة الغذاء والدواء تستغرق سنوات)
الذكاء الاصطناعي: 99% قدرات / 1% سلامة
التباين صارخ. تعلّمنا من كارثة تشيرنوبيل وحوادث الطائرات أن البنية التحتية للسلامة تهم. تخضع الأجهزة الطبية لِدورات اختبار قاسية قبل أن تلمس البشر.
ولكن الذكاء الاصطناعي؟ نحن نُوسّع نماذج إلى مليارات المعاملات، ونُشرّكها في الإنتاج، ونأمل أن يلحق بحث المواءمة بالركب لاحقًا. لا توجد مراجعات سلامة إلزامية. لا توجد مفاتيح إيقاف (kill switches). فقط الإطلاق والانتظار لمعرفة ما الذي سينكسر.
السؤال ليس ما إذا كانت هذه النسبة قابلة للاستمرار. بل ما إذا سنصلحها قبل أم بعد أول حادث كبير في مجال الذكاء الاصطناعي يجعل الجميع يتمنّون لو كانت لدينا سلامة منذ البداية.