كلما فكرت أكثر في الأتمتة، قلّ تصديقي بأن أعظم وعودها هي توفير وقت الناس.
لطالما كان الوقت سهل القياس.
لا تزال النية موجودة.
كل نظام مالي أنشأناه يفترض شيئًا بسيطًا: إذا كانت العملية مُصرَّحًا بها بشكل صحيح، فيفترض أن تحدث. يُعدّ هذا افتراضًا معقولًا عندما يبقى البشر قريبين من كل قرار. نضغط زرًّا. نراجع العملية. نقبل العواقب.
يغيّر الذكاء الاصطناعي بهدوء تلك العلاقة.
الشخص الذي يتخذ القرار ولحظة تنفيذ القرار لم يعدا بحاجة إلى الوجود في الوقت نفسه.
في البداية، يبدو ذلك كأنه تقدّم.
ثم ظهرت فكرة أخرى.
ربما تتمثل أكبر تحدياتنا ليس في تعليم الذكاء الاصطناعي كيفية اتخاذ قرارات أفضل.
ربما يكون ذلك هو ضمان أن قرار الأمس ما زال يعكس نية الغد.
النيات البشرية ليست ثابتة.
نغيّر رأينا.
الأسواق تتغير.
تظهر المخاطر.
المعلومات التي بدت مكتملة بالأمس قد تشعر اليوم بأنها ناقصة بشكل خطير.
ومع ذلك، للأتمتة ميلٌ إلى الاستمرار في التقدم ما لم يخبرها شيءٌ صراحةً بالتوقف.
جعلني ذلك أتساءل عمّا إذا كان مستقبل الأتمتة المالية يعتمد أقل على جعل الذكاء الاصطناعي أكثر ذكاءً وأكثر على جعل نية الإنسان أسهل في الحفاظ عليها مع تطور الظروف.
وهنا بدأ بروتوكول نيوتن يثير اهتمامي.
ليس لأنها تعد بأتمتة مثالية.
لكن لأن ذلك يُدخل فكرة أنه يمكن تقييم الإجراءات المهمة مقابل السياسات قبل حدوثها، بدلًا من افتراض أن كل إجراء صحيح تقنيًا يجب أن يمضي تلقائيًا.
يبدو أن الفرق بسيط.
فلسفيًا، الأمر ليس كذلك.
يتساءل المرء عمّا إذا كان يمكن أن تحدث عملية ما.
الطرف الآخر يسأل إن كان ينبغي ذلك أيضًا أم لا.
ليست هذه هي الأسئلة نفسها.
وأتساءل أيضًا إن كنا قد قضينا وقتًا طويلاً في محاولة إزالة الاحتكاك من التمويل الرقمي لدرجة أننا بدأنا نتعامل مع كل تأخير باعتباره مشكلة.
أحيانًا لا يكون التوقف علامة على عدم الكفاءة.
أحيانًا يكون آخر فرصة لإدراك أن العالم قد تغيّر منذ اتخاذ القرار الأصلي.
غالبًا ما تحتفل التكنولوجيا بالسرعة لأن السرعة سهلة البرهنة.
الحُكم أصعب.
لا يمكنك قياس الحكمة بالطريقة التي تقيس بها إنتاجية المعاملات.
غالبًا لا تلاحظ قيمته إلا بعد أن يصبح غيابه مكلفًا.
ربما لهذا تبدو الأتمتة القائمة على الإذن أكثر أهمية مما يظهر أولاً.
لا يجعل ذلك البشر يختفون من عملية اتخاذ القرار.
يخلق ذلك طريقةً لبقاء نيتهم الأصلية حاضرة، حتى عندما لا يكونون هم أنفسهم موجودين.
سواء أصبح ذلك ضروريًا أم بقي فكرة متخصصة يعتمد على شيء يتجاوز التشفير بكثير.
يعتمد ذلك على ما إذا أصبح الذكاء الاصطناعي المستقل قويًا بما يكفي بحيث يبدأ الناس بالقلق بدرجة أقل بشأن ما يمكنه فعله، وبدرجة أكبر بشأن ما يواصل فعله بعد أن يتوقفون عن الانتباه.
ربما لن يُبنى مستقبل الثقة على جعل الذكاء الاصطناعي يفكر أكثر مثل البشر.
قد يتم بناؤه على التأكد من أن الذكاء الاصطناعي لن ينسى أبدًا ما كان يقصده البشر في الأصل.
ما رأيك؟ مع ازدياد استقلالية الذكاء الاصطناعي، هل سيصبح الحفاظ على نية الإنسان أكثر أهمية من تحسين ذكاء الذكاء الاصطناعي نفسه؟