$WLD يستحق العالم الثقة بأن الشركات الأمريكية التي تطور ذكاءً اصطناعيًا قادرًا بشكل متزايد ستتصرف بمسؤولية، خاصة مع كون مسار التقدم قد ازداد حدّة. يجب على كل مختبر في المقدمة أن يحقق ذلك، ولا يوجد سبب يجعل أيًّا منا يأتينا إلى العمل إذا لم نتمكن من ذلك.
نرحب بإطار اتحادي يضع متطلبات سلامة متسقة للذكاء الاصطناعي المتقدم. لكننا لا نعتقد أننا بحاجة إلى انتظار إعفاءٍ من مكافحة الاحتكار أو تشريعٍ لبدء العمل على منح هذه الثقة. إن القواعد المتسقة لإدارة مخاطر الذكاء الاصطناعي المتقدم بحيث نستطيع تعظيم الفوائد هي فكرة جيدة (ونحن متحمسون لأفكار مثل المدققين المستقلين).
منذ سنوات، طورت شركات مثل شركتنا أشياء مثل سياسات التوسع المسؤول وأطر الاستعداد. كانت تلك جيدة لتلك اللحظة، وركّزت بشكلٍ أساسي على نشر النماذج المكتملة، وليس على ما يحدث أثناء عملية تطويرها.
إن التحول اليوم نحو التركيز على التطوير والتقييم الآمنين سيتطلب أدوات جديدة. على سبيل المثال، في OpenAI نُصيغ الآن قضايا سلامة صريحة مسبقًا قبل تشغيل التعلم التعزيزي للخطوط الأمامية التي نتوقع أن تزيد القدرات بشكل كبير، إضافةً إلى أعمال السلامة التي كنا ننجزها منذ وقت طويل قبل إصدار النماذج.
نأمل أن تتعلم شركات أخرى من نهجنا وتقدم مقارباتها الخاصة؛ فنحن نعتقد أن المعايير المشتركة لسوء المحاذاة والمراقبة والسلامة ستؤدي إلى نتائج أفضل. ونتطلع إلى التعاون مع زملائنا عبر الصناعة لصياغة أفضل نسخة من هذه.
عندما نتحدث عن “الوتيرة”، فإننا لا نعني “الإيقاف”. فقد كان التقدم سريعًا وسيظل كذلك. لكن ينبغي أن يكون أبطأ مما يمكن أن يكون؛ إذ إن التدخلات مثل قضايا السلامة والمراقبة لها تكاليف كبيرة.
ستستحق الوتيرة هذا التكلفة؛ ولا ينبغي لأي مقدار من الضغط التنافسي الأمريكي أن يبرر التهور، أو أن يجعل القدرات تتقدم على مواءمة الأهداف والمراقبة.
حيث سنحتاج إلى مساعدة حكومتنا هو في التنسيق الدولي. لكن أولًا يجب أن نفعل ما نستطيع نحن بأنفسنا.
#SamAltman #OpenAI #chatgpt
نرحب بإطار اتحادي يضع متطلبات سلامة متسقة للذكاء الاصطناعي المتقدم. لكننا لا نعتقد أننا بحاجة إلى انتظار إعفاءٍ من مكافحة الاحتكار أو تشريعٍ لبدء العمل على منح هذه الثقة. إن القواعد المتسقة لإدارة مخاطر الذكاء الاصطناعي المتقدم بحيث نستطيع تعظيم الفوائد هي فكرة جيدة (ونحن متحمسون لأفكار مثل المدققين المستقلين).
منذ سنوات، طورت شركات مثل شركتنا أشياء مثل سياسات التوسع المسؤول وأطر الاستعداد. كانت تلك جيدة لتلك اللحظة، وركّزت بشكلٍ أساسي على نشر النماذج المكتملة، وليس على ما يحدث أثناء عملية تطويرها.
إن التحول اليوم نحو التركيز على التطوير والتقييم الآمنين سيتطلب أدوات جديدة. على سبيل المثال، في OpenAI نُصيغ الآن قضايا سلامة صريحة مسبقًا قبل تشغيل التعلم التعزيزي للخطوط الأمامية التي نتوقع أن تزيد القدرات بشكل كبير، إضافةً إلى أعمال السلامة التي كنا ننجزها منذ وقت طويل قبل إصدار النماذج.
نأمل أن تتعلم شركات أخرى من نهجنا وتقدم مقارباتها الخاصة؛ فنحن نعتقد أن المعايير المشتركة لسوء المحاذاة والمراقبة والسلامة ستؤدي إلى نتائج أفضل. ونتطلع إلى التعاون مع زملائنا عبر الصناعة لصياغة أفضل نسخة من هذه.
عندما نتحدث عن “الوتيرة”، فإننا لا نعني “الإيقاف”. فقد كان التقدم سريعًا وسيظل كذلك. لكن ينبغي أن يكون أبطأ مما يمكن أن يكون؛ إذ إن التدخلات مثل قضايا السلامة والمراقبة لها تكاليف كبيرة.
ستستحق الوتيرة هذا التكلفة؛ ولا ينبغي لأي مقدار من الضغط التنافسي الأمريكي أن يبرر التهور، أو أن يجعل القدرات تتقدم على مواءمة الأهداف والمراقبة.
حيث سنحتاج إلى مساعدة حكومتنا هو في التنسيق الدولي. لكن أولًا يجب أن نفعل ما نستطيع نحن بأنفسنا.
#SamAltman #OpenAI #chatgpt