يستحق العالم الثقة بأن الشركات الأمريكية التي تطوّر ذكاءً اصطناعيًا أكثر قدرة بشكل متزايد ستتصرف بمسؤولية، خصوصًا مع تسارع مسار التقدم. يجب على كل مختبر رائد أن يحقق ذلك، ولا يوجد سبب يدعونا نحن للذهاب إلى العمل إذا لم نتمكن من القيام بذلك.
نرحب بإطار اتحادي يضع متطلبات أمان متسقة للذكاء الاصطناعي الرائد. لكننا لا نعتقد أننا بحاجة إلى انتظار إعفاء بموجب قوانين مكافحة الاحتكار أو تشريع لبدء مهمة توفير هذه الثقة. إن وضع قواعد متسقة لإدارة مخاطر الذكاء الاصطناعي الرائد كي نتمكن من تعظيم الفوائد، فكرة جيدة (ونحن متحمسون لأفكار مثل المدققين المستقلين).
قبل سنوات، طورت شركات مثل شركتنا أشياء مثل سياسات التوسع المسؤول وأُطر الجاهزية. كانت تلك جيدة لتلك اللحظة، وركّزت في المقام الأول على نشر النماذج المكتملة، وليس على ما يحدث أثناء عملية تطويرها.
يحتاج التحول اليوم إلى التركيز على التطوير والتقييم الآمنين إلى أدوات جديدة. فعلى سبيل المثال، في OpenAI نقوم الآن بصياغة «ملفات حالات أمان» صريحة مسبقًا قبل تشغيل التعلم التعزيزي الرائد الذي نتوقع أن يزيد القدرات بشكل كبير، بالإضافة إلى أعمال السلامة التي كنا نقوم بها منذ فترة طويلة قبل الإصدارات الخاصة بالنماذج.
نأمل أن تتعلم الشركات الأخرى من نهجنا وأن تقترح نهجها الخاص؛ ونرى أن المعايير المشتركة لسوء المحاذاة والمراقبة والسلامة ستؤدي إلى نتائج أفضل. ونتطلع إلى التعاون مع زملائنا عبر القطاع لصياغة أفضل نسخة من ذلك.
عندما نتحدث عن «وتيرة التقدم»، فإننا لا نعني «الإيقاف». لقد كان التقدم سريعًا وسيظل كذلك. لكن ينبغي أن يكون أبطأ مما يمكن أن يكون بخلاف ذلك؛ فالتدخلات مثل ملفات حالات الأمان والمراقبة تكلفتها كبيرة.
ستستحق وتيرة التقدم هذه التكلفة؛ ولا ينبغي لأي قدر من الضغط التنافسي الأمريكي أن يبرر التهور، أو أن يسمح بأن تتقدم القدرات على مواءمتها مع الأهداف والرصد والمراقبة.
حيث سنحتاج إلى مساعدة حكومتنا هو التنسيق الدولي. لكن أولًا ينبغي أن نفعل ما نستطيع بأنفسنا.
نرحب بإطار اتحادي يضع متطلبات أمان متسقة للذكاء الاصطناعي الرائد. لكننا لا نعتقد أننا بحاجة إلى انتظار إعفاء بموجب قوانين مكافحة الاحتكار أو تشريع لبدء مهمة توفير هذه الثقة. إن وضع قواعد متسقة لإدارة مخاطر الذكاء الاصطناعي الرائد كي نتمكن من تعظيم الفوائد، فكرة جيدة (ونحن متحمسون لأفكار مثل المدققين المستقلين).
قبل سنوات، طورت شركات مثل شركتنا أشياء مثل سياسات التوسع المسؤول وأُطر الجاهزية. كانت تلك جيدة لتلك اللحظة، وركّزت في المقام الأول على نشر النماذج المكتملة، وليس على ما يحدث أثناء عملية تطويرها.
يحتاج التحول اليوم إلى التركيز على التطوير والتقييم الآمنين إلى أدوات جديدة. فعلى سبيل المثال، في OpenAI نقوم الآن بصياغة «ملفات حالات أمان» صريحة مسبقًا قبل تشغيل التعلم التعزيزي الرائد الذي نتوقع أن يزيد القدرات بشكل كبير، بالإضافة إلى أعمال السلامة التي كنا نقوم بها منذ فترة طويلة قبل الإصدارات الخاصة بالنماذج.
نأمل أن تتعلم الشركات الأخرى من نهجنا وأن تقترح نهجها الخاص؛ ونرى أن المعايير المشتركة لسوء المحاذاة والمراقبة والسلامة ستؤدي إلى نتائج أفضل. ونتطلع إلى التعاون مع زملائنا عبر القطاع لصياغة أفضل نسخة من ذلك.
عندما نتحدث عن «وتيرة التقدم»، فإننا لا نعني «الإيقاف». لقد كان التقدم سريعًا وسيظل كذلك. لكن ينبغي أن يكون أبطأ مما يمكن أن يكون بخلاف ذلك؛ فالتدخلات مثل ملفات حالات الأمان والمراقبة تكلفتها كبيرة.
ستستحق وتيرة التقدم هذه التكلفة؛ ولا ينبغي لأي قدر من الضغط التنافسي الأمريكي أن يبرر التهور، أو أن يسمح بأن تتقدم القدرات على مواءمتها مع الأهداف والرصد والمراقبة.
حيث سنحتاج إلى مساعدة حكومتنا هو التنسيق الدولي. لكن أولًا ينبغي أن نفعل ما نستطيع بأنفسنا.