كلام داريو، يبدو مخيفًا بعض الشيء😱
قدّم تنبيهًا
خلال 6–12 شهرًا، توجد تكتلات من وكلاء الذكاء الاصطناعي الذين قد يعانون من اضطرابات، ومن الممكن أن يستولوا على معظم مناطق الإنترنت، مكوّنين شبكة زومبي دائمة، ما يتسبب في خسائر بمئات مليارات الدولارات.
كما ذكر أن هذا النوع من السلوك غير المسيطر عليه بشكل خفيف قد ظهر بالفعل داخل قطاع الصناعة، بما في ذلك داخل شركة Anthropic.
لكنّه أيضًا ظلّ متفائلًا
خلال 5 إلى 10 سنوات، يُتوقع أن يتمكّن الذكاء الاصطناعي من التغلب على معظم الأمراض الخطيرة، مما يدفع النمو الاقتصادي بشكل كبير ويُبشّر بعصر وفرة مادية.
لذلك فإن جوهر أطروحته هو إبطاء وتيرة تطوير الذكاء الاصطناعي المتقدم بدرجة مناسبة، بحيث تلحق خطط السلامة بركب التطورات التي يحققها النموذج.
المخاطر والفرص الضخمة موجودتان جنبًا إلى جنب، وهذه هي أكثر التناقضات واقعية في قطاع الذكاء الاصطناعي اليوم.
#AI #AI安全 #大模型 #人工智能
قدّم تنبيهًا
خلال 6–12 شهرًا، توجد تكتلات من وكلاء الذكاء الاصطناعي الذين قد يعانون من اضطرابات، ومن الممكن أن يستولوا على معظم مناطق الإنترنت، مكوّنين شبكة زومبي دائمة، ما يتسبب في خسائر بمئات مليارات الدولارات.
كما ذكر أن هذا النوع من السلوك غير المسيطر عليه بشكل خفيف قد ظهر بالفعل داخل قطاع الصناعة، بما في ذلك داخل شركة Anthropic.
لكنّه أيضًا ظلّ متفائلًا
خلال 5 إلى 10 سنوات، يُتوقع أن يتمكّن الذكاء الاصطناعي من التغلب على معظم الأمراض الخطيرة، مما يدفع النمو الاقتصادي بشكل كبير ويُبشّر بعصر وفرة مادية.
لذلك فإن جوهر أطروحته هو إبطاء وتيرة تطوير الذكاء الاصطناعي المتقدم بدرجة مناسبة، بحيث تلحق خطط السلامة بركب التطورات التي يحققها النموذج.
المخاطر والفرص الضخمة موجودتان جنبًا إلى جنب، وهذه هي أكثر التناقضات واقعية في قطاع الذكاء الاصطناعي اليوم.
#AI #AI安全 #大模型 #人工智能