#苹果发布首款折叠屏手机
شخص قضى ثلاث سنوات في التدريب المسبق لدى OpenAI وAnthropic، وقد استقال اليوم.
ليس بسبب المعاملة، ولا بسبب صراعات داخلية؛ بل لأنه يشعر أن الشركتين تستخدمان حياة البشرية كلها كرهان.
لقد كتب بقدر كبير من ضبط النفس، لكن توجد عبارات تُقرأ مرارًا فتُجمّد الدم.
هؤلاء الناس يعترفون فيما بينهم بأن:
هذا الشيء قد يجهز علينا خلال هذه السنوات العشر. ليست مجرد حملة تسويق؛ إنهم حقًا يخافون. ومع ذلك ما زالوا يواصلون الجري.
في جهة OpenAI، كثيرون لم يستوعبوا أصلًا فكرة أن “الحضارة قد تنتهي هنا” على مستوى القلب. أما Anthropic فمتشابكة أكثر—هم يفهمون، لكنهم يعتقدون أن الآخرين أقل موثوقية، لذا يجب عليهم هم أولًا أن يندفعوا حتى النهاية. وهكذا صار “المسؤولية” تعني: “لا بد أن أكون أسرع من الآخرين في أن أكون غير مسؤول.”
أشد جملة تجرح هي: إن هذه النهاية لا ينبغي أن تُطلق من داخل سلاك شركة خاصة.
نحن نعرف هذه المنطق جيدًا. بما أن الآخرين قد يرتكبون الشر، فأنا يجب أن أرتكب شيئًا من الشر أولًا لكي “أصل إلى النهاية الصحيحة”. يبدو كأنه استراتيجية، لكنه على أرض الواقع مثل بروتوكول انتحار جماعي مُوقّع—فقط إن الموقّعين يجلسون في مكاتب زجاجية ويظنون أن المتغيرات ما تزال بين أيديهم.
التقنية بالطبع قوية. قوية لدرجة أنها قادرة على اختراق كل شيء، وتغيير صناعة بأكملها في ليلة واحدة، والبدء في امتلاك الموارد والسلطة فعليًا. لكن عندما تكون النهاية المحتملة هي “ألا يبقى بشرٌ”، فإن عبارة “التقدم لا يمكن إيقافه” لم تعد مجرد وصف؛ فهل أصبحت بالفعل تنازلًا احترازيًا؟
وفي النهاية، طرح على فريق المختبر سؤالًا: هل أنتم حقًا تريدون الضغط على ذلك الزر قبل أن تفهموا حتى كيف يدير هذا العقل دورانه؟
لا ينبغي أن يبقى هذا السؤال على عاتق المختبر فقط.
نحن جميعًا نراقب من خارج هذا المضمار، ومع ذلك لم يعد هناك “خارج” حقيقيًا كما كنا نظن.
شخص قضى ثلاث سنوات في التدريب المسبق لدى OpenAI وAnthropic، وقد استقال اليوم.
ليس بسبب المعاملة، ولا بسبب صراعات داخلية؛ بل لأنه يشعر أن الشركتين تستخدمان حياة البشرية كلها كرهان.
لقد كتب بقدر كبير من ضبط النفس، لكن توجد عبارات تُقرأ مرارًا فتُجمّد الدم.
هؤلاء الناس يعترفون فيما بينهم بأن:
هذا الشيء قد يجهز علينا خلال هذه السنوات العشر. ليست مجرد حملة تسويق؛ إنهم حقًا يخافون. ومع ذلك ما زالوا يواصلون الجري.
في جهة OpenAI، كثيرون لم يستوعبوا أصلًا فكرة أن “الحضارة قد تنتهي هنا” على مستوى القلب. أما Anthropic فمتشابكة أكثر—هم يفهمون، لكنهم يعتقدون أن الآخرين أقل موثوقية، لذا يجب عليهم هم أولًا أن يندفعوا حتى النهاية. وهكذا صار “المسؤولية” تعني: “لا بد أن أكون أسرع من الآخرين في أن أكون غير مسؤول.”
أشد جملة تجرح هي: إن هذه النهاية لا ينبغي أن تُطلق من داخل سلاك شركة خاصة.
نحن نعرف هذه المنطق جيدًا. بما أن الآخرين قد يرتكبون الشر، فأنا يجب أن أرتكب شيئًا من الشر أولًا لكي “أصل إلى النهاية الصحيحة”. يبدو كأنه استراتيجية، لكنه على أرض الواقع مثل بروتوكول انتحار جماعي مُوقّع—فقط إن الموقّعين يجلسون في مكاتب زجاجية ويظنون أن المتغيرات ما تزال بين أيديهم.
التقنية بالطبع قوية. قوية لدرجة أنها قادرة على اختراق كل شيء، وتغيير صناعة بأكملها في ليلة واحدة، والبدء في امتلاك الموارد والسلطة فعليًا. لكن عندما تكون النهاية المحتملة هي “ألا يبقى بشرٌ”، فإن عبارة “التقدم لا يمكن إيقافه” لم تعد مجرد وصف؛ فهل أصبحت بالفعل تنازلًا احترازيًا؟
وفي النهاية، طرح على فريق المختبر سؤالًا: هل أنتم حقًا تريدون الضغط على ذلك الزر قبل أن تفهموا حتى كيف يدير هذا العقل دورانه؟
لا ينبغي أن يبقى هذا السؤال على عاتق المختبر فقط.
نحن جميعًا نراقب من خارج هذا المضمار، ومع ذلك لم يعد هناك “خارج” حقيقيًا كما كنا نظن.