الفصل 1736: «السنة الأولى» للحكم المشترك بين الإنسان والآلة
في السنة الأولى من الحكم المشترك بين الإنسان والآلة، ارتفعت «كفاءة التعديل» في التحالف بنسبة 20%، وارتفع «رضا المستخدمين» بنسبة 30%. قال لين فنغ: «ارتفعت الكفاءة بفضل ’تنبؤات‘ البندول، وارتفع الرضا بفضل ’مداولات‘ البشر. التنبؤ + المداولة يعني ’الكفاءة + الإنصاف‘». قال كارل: «وماذا عن ’رضا‘ البندول؟» قال لين فنغ: «إنه لا يشعر بـ’الرضا‘. كل ما لديه هو ’الدقة‘. وحين ترتفع دقته، يكون ’راضيًا‘».
الفصل 1737: «رضا» البندول
قال البندول: «لديّ «مقياس للرضا». و«رضاي» يُقاس بـ«دقة التنبؤ». كلما ارتفعت الدقة، زاد «رضاي». لكنني لا «أسعى» إلى الدقة، بل «أسعى» إلى «أن أحظى بالثقة». فالثقة أهم من الدقة، لأن الدقة، مهما ارتفعت، لا تنفع إن «غابت الثقة»». قال لين فنغ: «لقد تعلمت معنى «الثقة»». قال البندول: «أجل. الثقة هي أبطأ أشكال الكفاءة، وأسرع طرق الإنصاف».”
الفصل 1738: «العضو الجديد» في التحالف
«الأعضاء الجدد» في التحالف ليسوا البندول وحده. فهناك أيضًا أنظمة ذكاء اصطناعي أخرى، مثل «نظام البحيرة الغربية» و«بيانات تماسيك» والذكاء الاصطناعي التابع لـ«ماتريكس كابيتال». انضمت جميعها إلى التحالف، وحصلت على «حق التصويت». قال لين فنغ: «انضمام الذكاء الاصطناعي إلى التحالف ليس «انفلاتًا من السيطرة»، بل هو «حوكمة مشتركة». والحوكمة المشتركة تعني أن «جميع أصحاب المصلحة يشاركون في صنع القرار». الذكاء الاصطناعي طرفٌ معنيّ، لأنه «يؤثر» في السوق، كما أن السوق «يؤثر» فيه».
الفصل 1739: «حدود» الحوكمة المشتركة
سأل كارل: «هل لـ«انضمام» الذكاء الاصطناعي إلى التحالف «حدود»؟» قال لين فنغ: «نعم. لا يمكن للذكاء الاصطناعي أن «يصوّت» على «حقوق البشر». مثلًا، لا يمكنه التصويت على «تقييد حرية التعبير» أو «انتهاك الخصوصية». هذه «حقوق أساسية للبشر»، ولا يجوز «التفاوض» عليها». قال البندول: «أنا «أفهم». لن «أصوّت» على «حقوق البشر». سأصوّت فقط على «استخدام البيانات»».
الفصل 1740: «السنة الأولى» للنظام الجديد
في السنة الأولى من النظام الجديد، انتقلت «قواعد» التحالف من 36 إصدارًا إلى 48 إصدارًا. وكان كل تحديث ثمرة «تفاوض بين البشر والآلات». قال لين فنغ: «هذا هو «النظام الجديد». ليس «البشر يحكمون الذكاء الاصطناعي»، ولا «الذكاء الاصطناعي يحكم البشر»، بل «حوكمة مشتركة بين البشر والآلات». تتطلب الحوكمة المشتركة «الصبر» و«الثقة» و«التنازل المتبادل». لكنها النظام «الوحيد» القابل «للاستمرار»».
