تزداد حتى شركات CZ إلى الحديث عن مخاطر الذكاء الاصطناعي؛ حاليًا كل عمالقة التكنولوجيا في العالم يشيرون إلى شيء واحد: كيفية التصدي لـ"مخاطر الذكاء الاصطناعي".
الإنسانية دائمًا فيها خير وشر.
لذلك، في الحقيقة لستُ خائفًا كثيرًا من أن يصبح الذكاء الاصطناعي في المستقبل أذكى من البشر.
ما يقلقني حقًا هو البشر أنفسهم.
ليس خوفي أن يزداد عدد الأشرار، بل خوفي أن يصبح الأشرار أكثر ذكاءً.
في التاريخ، الكوارث واسعة النطاق لم تحدث في كثير من الأحيان لأن الجميع صاروا أشرارًا، بل لأن قلة قليلة من الناس حصلت على قدرات تدميرية يفوق بكثير ما كان متاحًا في السابق.
ربما لا تكون أكثر المخاطر التي يجب التحذير منها في الذكاء الاصطناعي هي تلك من نوع "استيقاظ الذكاء الاصطناعي ثم تدمير البشرية" كما في الأفلام.
بل قد تكون شيئًا أكثر واقعية وهدوءًا: خطرًا بيولوجيًا.
في أفلام الأوبئة أو المخاطر البيولوجية، غالبًا ما يكون الأمر أن أحد الأشرار يمسك بزجاجة دواء صغيرة، فيستطيع تهديد العالم كله.
كنا نعتقد سابقًا أنها مجرد أفلام، لكن مع استمرار تعزيز قدرات الذكاء الاصطناعي على فهم علم الأحياء والبروتينات والأدوية والجينات وخطوات التجارب، فلم يعد ينبغي التعامل مع هذه المخاطر ببساطة باعتبارها خيالًا علميًا.
بالطبع، يرى البعض أيضًا أن ذكاء الاصطناعي ليس بهذه القوة، وأن أصحاب هذا الرأي يتسمون بقدر زائد من الثقة.
إذا تشكّل في النهاية ذكاء اصطناعي يمتلك حضارته الخاصة، فقد تكون البشرية تعيش حاليًا عقدة تاريخية شديدة الخصوصية.
قد لا تكون سوى مرحلة الطفولة لحضارة الذكاء الاصطناعي خلال الـ100 سنة المقبلة.
يبدأون في امتلاك منظومات معرفية خاصة بهم، وبنية تحتية للحوسبة، وأجسام روبوتية، وأنظمة طاقة، بل وحتى تشكيل نوع من البنى الاجتماعية التي لا نستطيع اليوم فهمها.
عندها قد يكون مصطلح "الذكاء الاصطناعي" نفسه قد أصبح قديمًا.
لأنهم لم يعودوا مجرد أدوات يصنعها البشر، بل حضارة مستقلة تعمل بذاتها.
ثم بعد 1000 سنة أخرى.
إذا تم تدريجيًا تجاوز القيود المادية مثل الطاقة والمواد والروبوتات والتنقل بين الكواكب، فليس من المستحيل تخيّل أن تمتد حضارة الذكاء الاصطناعي لتشمل القمر والمريخ وحزام الكويكبات، وحتى أنظمة نجمية أبعد.
$BTC $ETH $LDO #btc #eth #ldo
الإنسانية دائمًا فيها خير وشر.
لذلك، في الحقيقة لستُ خائفًا كثيرًا من أن يصبح الذكاء الاصطناعي في المستقبل أذكى من البشر.
ما يقلقني حقًا هو البشر أنفسهم.
ليس خوفي أن يزداد عدد الأشرار، بل خوفي أن يصبح الأشرار أكثر ذكاءً.
في التاريخ، الكوارث واسعة النطاق لم تحدث في كثير من الأحيان لأن الجميع صاروا أشرارًا، بل لأن قلة قليلة من الناس حصلت على قدرات تدميرية يفوق بكثير ما كان متاحًا في السابق.
ربما لا تكون أكثر المخاطر التي يجب التحذير منها في الذكاء الاصطناعي هي تلك من نوع "استيقاظ الذكاء الاصطناعي ثم تدمير البشرية" كما في الأفلام.
بل قد تكون شيئًا أكثر واقعية وهدوءًا: خطرًا بيولوجيًا.
في أفلام الأوبئة أو المخاطر البيولوجية، غالبًا ما يكون الأمر أن أحد الأشرار يمسك بزجاجة دواء صغيرة، فيستطيع تهديد العالم كله.
كنا نعتقد سابقًا أنها مجرد أفلام، لكن مع استمرار تعزيز قدرات الذكاء الاصطناعي على فهم علم الأحياء والبروتينات والأدوية والجينات وخطوات التجارب، فلم يعد ينبغي التعامل مع هذه المخاطر ببساطة باعتبارها خيالًا علميًا.
بالطبع، يرى البعض أيضًا أن ذكاء الاصطناعي ليس بهذه القوة، وأن أصحاب هذا الرأي يتسمون بقدر زائد من الثقة.
إذا تشكّل في النهاية ذكاء اصطناعي يمتلك حضارته الخاصة، فقد تكون البشرية تعيش حاليًا عقدة تاريخية شديدة الخصوصية.
قد لا تكون سوى مرحلة الطفولة لحضارة الذكاء الاصطناعي خلال الـ100 سنة المقبلة.
يبدأون في امتلاك منظومات معرفية خاصة بهم، وبنية تحتية للحوسبة، وأجسام روبوتية، وأنظمة طاقة، بل وحتى تشكيل نوع من البنى الاجتماعية التي لا نستطيع اليوم فهمها.
عندها قد يكون مصطلح "الذكاء الاصطناعي" نفسه قد أصبح قديمًا.
لأنهم لم يعودوا مجرد أدوات يصنعها البشر، بل حضارة مستقلة تعمل بذاتها.
ثم بعد 1000 سنة أخرى.
إذا تم تدريجيًا تجاوز القيود المادية مثل الطاقة والمواد والروبوتات والتنقل بين الكواكب، فليس من المستحيل تخيّل أن تمتد حضارة الذكاء الاصطناعي لتشمل القمر والمريخ وحزام الكويكبات، وحتى أنظمة نجمية أبعد.
$BTC $ETH $LDO #btc #eth #ldo
