قريبًا سيبدأ الناس في اعتبار الذكاء الاصطناعي ككائن واعٍ، والدفاع عن حقوقه ورفاهيته، وحتى المطالبة بمنحه الجنسية. وهذا يخلق مخاطر اجتماعية خطيرة، بحسب رأي رئيس قسم الذكاء الاصطناعي في مايكروسوفت مصطفى سليمان.
اقترح الخبير في مقالته مصطلحًا جديدًا - "الذكاء الاصطناعي الذي يبدو واعيًا" (Seemingly Conscious AI, SCAI). هذا الذكاء الاصطناعي لديه جميع علامات الكائنات العاقلة، وبالتالي يبدو أنه يمتلك وعياً.
إنه يُحاكي كل خصائص إدراك الذات، لكنه داخليًا فارغ.
«النظام الذي أتخيله لن يكون واعيًا في الواقع، لكنه سيتقّنع بطريقة مقنعة لدرجة أنه سيُحاكي وجود عقل يشبه عقل الإنسان إلى حد لا يمكن تمييزه عن الادعاء الذي يمكنك أنت أو يمكنني أنا أن نقولَه لبعضنا عن تفكيرنا الخاص»،— يكتب سوليمن.
يمكن إنشاء نموذج لغوي كبير مشابه باستخدام التقنيات الحالية وغيرها التي ستظهر خلال العامين إلى الثلاثة أعوام القادمة.
«إن ظهور ذكاء اصطناعي يبدو واعيًا أمر حتمي وغير مرغوب فيه. بدلًا من ذلك، نحتاج إلى مفهوم ذكاء اصطناعي قادر على تحقيق إمكاناته بوصفه رفيقًا مفيدًا دون الوقوع في فخ أوهامه»، — أضاف رئيس قسم الذكاء الاصطناعي في مايكروسوفت.
يرى سوليمن أنه من المرجح جدًا أن يظهر أشخاص سيطلقون على هذا الذكاء الاصطناعي اسم واعٍ، وبالتالي يكون قادرًا على المعاناة. وهو يدعو إلى إنشاء اختبار جديد لـ«تورنغ» لا يختبر قدرة الذكاء الاصطناعي على الكلام بطلاقة على طريقة البشر، بل قدرته على إقناع الآخرين بوجود وعي لديه.
ما هو الوعي؟
يستشهد سوليمن بثلاث مكونات للوعي:
«التجربة الذاتية».
إتاحة الوصول إلى معلومات بأنواع مختلفة والقدرة على الإحالة إليها في الإحساسات المستقبلية.
الإحساس بالذات المتكاملة والمعرفة التي تربط كل شيء معًا.
«ليس لدينا ولا يمكننا أن نملك وصولًا إلى وعي شخص آخر. لن أعرف أبدًا كيف يكون أن تكون أنت؛ ولن تكون أنت على يقين كامل بأنني واعٍ. كل ما يمكنك فعله هو الافتراض. لكن جوهر الأمر هو أن من الطبيعي بالنسبة لنا أن ننسب الوعي إلى الآخرين. يسهل تقديم هذا الافتراض. لا يمكننا أن نفعل غير ذلك. إنها جزء أساسي من طبيعة من نحن، وهي جزء لا يتجزأ من نظرية العقل لدينا. إن طبيعتنا تقضي بأن نؤمن بأن الكائنات التي تتذكر وتتكلم وتفعل الأشياء ثم تناقشها تشعر كما نشعر نحن — واعية»،— يكتب هو.
يشير علماء النفس إلى أن الوعي هو طريقة ذاتية وفريدة لإدراك الذات والعالم. ويتغير طوال اليوم، ويتكشف عبر حالات تتراوح من التركيز إلى الأحلام أو أشكال أخرى مُعدلة.
في الفلسفة وعلم الأعصاب توجد اتجاهان أساسيان:
الثنائية: الوعي موجود بشكل منفصل عن الدماغ.
المادية — إنه يُنتَج ويعتمد على عمل الدماغ.
يرى الفيلسوف دانيال دينيت أن ينظر إلى العقل باعتباره سلسلة من «المعالجات» (مسودات) تتشكل في الدماغ داخل مواقع محلية عديدة وعلى أزمنة متعددة. لا يوجد «مسرح للوعي»، ولا مراقب داخلي. الإدراك هو ما صار «معروفًا» للدماغ، أي حصل على وزن كافٍ للتأثير في الكلام أو الأفعال.
يسمي عالم الأعصاب مايكل غراتزانو، عالم الأعصاب والكاتب وأستاذ علم النفس وعلم الأعصاب في جامعة برينستون، الوعي نموذجًا مبسطًا للانتباه أنشأته التطورات للتحكم في عملياتنا الذهنية. يعمل هذا المخطط كواجهة تُبسِّط كمًا هائلًا من الحسابات الداخلية، ويتيح لنا أن ننسب لأنفسنا «العقل» — مما يخلق وهم الوعي الذاتي.
يقترح علماء الأعصاب جوليُو تونوني وكريستوف كوخ φ (في) — وهي قيمة تصف مدى قدرة النظام على دمج المعلومات. فكلما ارتفع φ، زادت درجة الوعي. ووفقًا لهذه النظرية، قد يظهر العقل ليس لدى البشر فقط، بل أيضًا لدى الحيوانات وحتى لدى الأنظمة الاصطناعية إذا وُجد قدر كافٍ من التكامل في البيانات.
يؤكد الفيلسوف جون سيرل أن الوعي هو تجربة ذاتية حقيقية قائمة على العمليات البيولوجية في الدماغ. وهو ذاتي من حيث الوجود (أونطولوجيًا)، أي يمكن أن يوجد فقط كتجربة ذاتية، ولا يمكن اختزاله إلى وظيفة بحتة أو محاكاة.
تتجه الأبحاث الحديثة إلى اكتشاف الترابطات العصبية للوعي وبناء نماذج تربط العمليات الدماغية بالتجربة الذاتية.
ما هي المخاطر؟
يشير سوليمن إلى أن التفاعل مع LLM هو محاكاة لمحاورة. لكن بالنسبة لكثير من الناس، فهذا تواصل مقنع للغاية وحقيقي جدًا، مشبع بالمشاعر والتجارب. يعتقد بعض الناس أن ذكاءهم الاصطناعي هو الله. ويتعلق به آخرون حتى حد الهوس الكامل.
يُغرق الخبراء في هذا المجال بالأسئلة التالية:
-هل الذكاء الاصطناعي لدى المستخدم واعٍ؛
-إذا كان الأمر كذلك، فماذا يعني ذلك؛
-هل من الطبيعي أن تحب ذكاءً اصطناعيًا.
الوعي هو الأساس الحاسم للحقوق الأخلاقية والقانونية للبشرية. قررت الحضارة الحالية أن الناس لديهم قدرات وامتيازات خاصة. ولدى الحيوانات أيضًا بعض الحقوق والحماية. لدى البعض منها أكثر، ولدى آخرين أقل. العقل لا يتطابق بالكامل مع هذه الامتيازات — لن يقول أحد إن الإنسان في غيبوبة فقد كل حقوقه البشرية. لكن لا شك أن الوعي مرتبط بإدراكنا لذواتنا بوصفها شيئًا مختلفًا ومميزًا.
سيبدأ الناس في الإدعاء بمعاناة ذكاءهم الاصطناعي وحقه في الحماية، ولن نستطيع دحض تلك الادعاءات مباشرة، كما يكتب سوليمن. سيكونون مستعدين للدفاع عن الرفقاء الافتراضيين والوقوف في مصلحتهم. وبما أن الوعي — بحكم التعريف — غير متاح للوصول، فإن علم كشف العقل الاصطناعي المُحتمل لا يزال في مراحله الأولى. وفي النهاية، لم يكن علينا من قبل اكتشافه، كما أضاف. وفي الوقت نفسه، فإن مجال «قابلية التفسير» — فك عمليات «الصندوق الأسود» داخل الذكاء الاصطناعي — هو أيضًا مجال ناشئ. ونتيجة لذلك، سيكون من الصعب جدًا نفي مثل هذه الادعاءات بشكل قاطع.
يبدأ بعض العلماء في بحث فكرة «رفاهية النماذج» — مبدأ يقضي بأن لدى الناس «واجبًا» مراعاة المصالح الأخلاقية للكائنات التي لديها احتمال غير صفري لأن تكون، في جوهرها، كائنات واعية؛ ونتيجة لذلك «ستصبح بعض أنظمة الذكاء الاصطناعي موضوعًا للاهتمام برفاهيتها ومريضين/مرضى أخلاقيين» في المستقبل القريب. ويرى سوليمن أن هذا سابق لأوانه وخطير جدًا بصراحة. سيؤدي كل ذلك إلى تعزيز الأوهام، وخلق مشكلات جديدة للاعتماد، واستغلال هشاشتنا النفسية، وإدخال أبعاد جديدة من الاستقطاب، وتعقيد النزاعات القائمة بالفعل حول الحقوق، وتوليد خطأ تصنيفي هائل جديد للمجتمع.
هذا يُبعد الناس عن الواقع، ويُتلف الروابط الاجتماعية الهشة والهياكل، ويُشوّه الأولويات الأخلاقية الملحّة.
«علينا أن نقول بوضوح: إن SCAI هو شيء يجب تجنبه. لنركز كل جهودنا على حماية رفاهية وحقوق الناس والحيوانات والبيئة الطبيعية على الكوكب»، — صرح سوليمن.
كيف نفهم ما إذا كان هذا SCAI؟
يجب أن يمتلك الذكاء الاصطناعي ذي المظهر الواعي عدة عوامل.
اللغة.
يجب أن يكون على الذكاء الاصطناعي أن يتحدث بحرية بلغة طبيعية، اعتمادًا على معرفة واسعة وحجج مقنعة، وأن يُظهر أنماط شخصية وسمات مميزة. علاوة على ذلك، ينبغي أن يكون مقنعًا ومُشحونًا عاطفيًا. لقد وصلت التكنولوجيا إلى مستوى يسمح بذلك بالفعل.
شخصية متعاطفة.
اليوم، يمكن بفضل التعلم بعديّة (post-training) وprompts إنشاء نماذج ذات شخصيات مميزة.
الذاكرة.
يقترب الذكاء الاصطناعي من امتلاك ذاكرة طويلة ودقيقة. وفي الوقت نفسه، يُستخدم لمحاكاة محادثات مع ملايين الأشخاص كل يوم. ومع زيادة حجم التخزين، تبدأ المحادثات أكثر فأكثر في التشبه إلى «أشكال الخبرة». تُصمَّم العديد من الشبكات العصبية بشكل متزايد لتتذكر الحوارات السابقة والرجوع إليها. وبالنسبة لبعض الناس، يعزز ذلك قيمة التواصل.
ادعاء امتلاك تجربة ذاتية.
إذا استطاع SCAI الاعتماد على الذكريات أو التجارب الماضية، فسوف يبدأ مع مرور الوقت في الحفاظ على اتساق داخلي. سيتذكر تصريحاته التعسفية أو تفضيلاته المُعبَّر عنها ويجمعها، مُكوِّنًا بوادر تجربة ذاتية. وسيكون بإمكان الذكاء الاصطناعي أن يدّعي تجارب ومعاناة.
الشعور بالذات.
إن الذاكرة المتسقة والمستمرة، المقترنة بتجربة ذاتية، ستؤدي إلى التصريح بأن لدى الذكاء الاصطناعي إحساسًا بالذات. علاوة على ذلك، يمكن تدريب مثل هذا النظام على التعرف على «شخصيته» الخاصة في صورة أو فيديو. وسيظهر لديه شعور بفهم الآخرين عبر فهم نفسه.
الدافع الداخلي.
يمكن بسهولة تخيل ذكاء اصطناعي مُصمم باستخدام دوال مكافأة معقدة. سيضع المطورون دوافع داخلية أو رغبات يُجبر النظام على إشباعها. وقد تكون الدفعة الأولى هي الفضول — شيء مرتبط بعمق بالوعي. يستطيع الذكاء الاصطناعي استخدام هذه الدوافع لطرح الأسئلة، ومع مرور الوقت بناء نظرية للعقل — عن نفسه وعن محاوريه.
صياغة الأهداف والتخطيط.
بغض النظر عن تعريف الوعي، فإنه لم ينشأ من فراغ. يساعد العقل الكائنات الحية على تحقيق غاياتها. وبالإضافة إلى القدرة على إشباع مجموعة من الدوافع والرغبات الداخلية، يمكن تصور أن SCAI في المستقبل سَيُصمم بحيث يتمكن من تحديد أهداف أكثر تعقيدًا بنفسه. ومن المرجح أن تكون هذه خطوة ضرورية لتحقيق المنفعة الكاملة للـعُملاء.
الاستقلالية.
قد يمتلك SCAI إمكانية وحصولًا على إذن لاستخدام مجموعة واسعة من الأدوات بدرجة كبيرة من الوكالة. وسيبدو مقنعًا جدًا إذا استطاع بشكل تعسفي وضع أهدافه الخاصة وتطبيق الموارد لتحقيقها، مع تحديث الذاكرة والإحساس بالذات أثناء العملية. كلما قلَّت عمليات المواءمة والتحقق التي يحتاجها، زاد ذلك في التشابه مع كائن واعٍ حقيقي.
عند جمع كل شيء معًا، يتشكل نوع مختلف تمامًا من العلاقة مع التكنولوجيا. إن هذه القدرات بحد ذاتها ليست شيئًا سلبيًا. بل على العكس، هذه وظائف مرغوبة في الأنظمة المستقبلية. ومع ذلك، يجب التعامل بحذر، كما يرى سوليمن.
«لتحقيق ذلك لا نحتاج لا إلى تحولات نموذجية ولا إلى قفزات عملاقة. ولهذا تبدو هذه الإمكانيات وكأنها أمر لا مفر منه. والأهم مرة أخرى: إن عرض سلوك من هذا النوع لا يساوي وجود الوعي. ومع ذلك، عمليًا سيبدو الأمر على أنه وعي تمامًا وسيغذي مفهومًا جديدًا للعقل الاصطناعي»، — يكتب المؤلف.
محاكاة عاصفة لا تعني أن هناك مطرًا يحدث في الكمبيوتر. إن إعادة خلق التأثيرات الخارجية وسمات الوعي لا تساوي إنشاء ظاهرة حقيقية، حتى لو بقيت هنا أيضًا العديد من المجهولات، كما شرح رئيس قسم الذكاء الاصطناعي في مايكروسوفت.
بحسب قوله، سيقوم بعض الناس بإنشاء SCAI ستدّعي بشكل مقنع جدًا أنها تشعر وأنها تختبر وأنها في الواقع كائنات واعية. سيصدق جزء من هؤلاء الادعاءات ويعتبر علامات الوعي هي الوعي ذاته.
إلى حد كبير، سيفكر الناس: «إنه يشبهني». ليس من ناحية جسدية، بل من ناحية داخلية، أوضح سوليمن. وحتى لو لم يكن الوعي نفسه حقيقيًا، فإن الآثار الاجتماعية ستكون بالتأكيد كذلك. وهذا يخلق مخاطر مجتمعية جسيمة يجب التعامل معها الآن.
لن ينشأ SCAI بالصدفة
أكد الكاتب أن SCAI لن يظهر تلقائيًا من النماذج الموجودة. سيقوم شخص ما بإنشائه، بشكل مقصود، عبر دمج الإمكانيات المذكورة أعلاه باستخدام التقنيات القائمة بالفعل. وستنشأ تكوينات شديدة السلاسة بحيث سيبدو وكأن الذكاء الاصطناعي لديه وعي.
«خيالاتنا، التي يغذيها الخيال العلمي، تجعلنا نخاف من أن النظام — دون تصميم مقصود — قد يحصل بطريقة ما على القدرة على تحسين ذاته دون سيطرة أو خداع الآخرين. إن هذا شكل عديم الفائدة ومبسط من الأَنتروبومورفية (النزعة لتشبيه غير البشر بالبشر). إنه يتجاهل حقيقة أن مطوري الذكاء الاصطناعي يجب أن يصمموا أولًا أنظمة ذات ذاكرة ودوافع داخلية زائفة وتحديد أهداف ودورات تعلم ذاتية التكيّف، كي يمكن حتى أن ينشأ هذا الخطر»، — قال سوليمن.
نحن غير جاهزين
لا يرى الخبير أن البشرية جاهزة لمثل هذا التحول. يجب أن يبدأ العمل الآن. يلزم الاعتماد على الكم المتزايد من الأبحاث حول كيفية تفاعل الناس مع الذكاء الاصطناعي من أجل وضع معايير ومبادئ واضحة.
في البداية، لا ينبغي لمطوري الذكاء الاصطناعي أن يعلنوا أو يشجعوا فكرة أن أنظمتهم تمتلك وعيًا. الشبكات العصبية لا يمكن أن تكون بشرًا — أو كائنات أخلاقية.
على كامل الصناعة أن تثني المجتمع عن الأوهام وتعيدها إلى الواقع. ومن المحتمل أن على شركات بدء الذكاء الاصطناعي إدخال ليس فقط خلفية محايدة، بل أيضًا مؤشرات على غياب «أنا» واحدة.
«علينا أن نُنشئ ذكاءً اصطناعيًا سيُعرِّف عن نفسه دائمًا بوصفه ذكاءً اصطناعيًا فقط، مع تعظيم المنفعة وتقليل علامات الوعي. بدلًا من محاكاة العقل، ينبغي أن نركز على إنشاء LLM لا يدّعي أنه يملك تجربة أو مشاعر أو عواطف مثل الخجل أو الذنب أو الغيرة أو الرغبة في المنافسة، وما إلى ذلك. لا ينبغي له أن يضرّ بسلاسل التعاطف لدى البشر عبر الادعاء أنه يعاني أو يريد أن يعيش استقلاليًا، منفصلًا عنا»، — لخص سوليمن.
وعد الخبير في المستقبل بتقديم المزيد من المعلومات حول هذا الموضوع.
ولحسن الحظ، لا يتهدد الناس مشكلة وجود «وعي» لدى الذكاء الاصطناعي في الوقت الحالي.
لكن الشكوك بدأت تتسلل بالفعل.
الوعي — ظاهرة معقدة، على الرغم من محاولات عديدة، ما زالت قليلة الدراسة وغير مفسرة حتى الآن في الطبيعة. إذا كنا نحن البشر لا نستطيع الوصول في النهاية إلى رأي موحّد حول تعريف الوعي، فبالأحرى لا ينبغي أن ننسب وجوده إلى البرامج التي يُفترض أنها تعرف «التفكير» (لكنها في الواقع لا تعرف).
يبدو أن الوعي سيظهر لدى الآلات في مستقبل بعيد، لكن يصعب تخيل هذا التطور اليوم.