$WLD ¿ДУМАЕТЕ ЧТО #Worldcoin НАМ ПОМОЖЕТ СПРАВИТЬСЯ СО ВСЕМ ЭТИМ И НАШЕЙ ОРГАНИЗАЦИЕЙ КАК ЛЮДЯМ..?
🚨 А ЧТО ЕСЛИ САМЫЕ СОЗДАТЕЛИ ИИ НАЧИНАЮТ ИСПЫТЫВАТЬ СТРАХ?
Исследователь искусственного интеллекта ушёл со своей работы после того, как предупредил, что ускоренное развитие всё более мощных систем может превратиться в серьёзную угрозу для человечества. Это ли не сигнал тревоги, который мир должен воспринять всерьёз?
Случай, вызывающий обеспокоенность, связан с Джейкобом Коксоном: исследователем, который примерно три года работал в Anthropic и OpenAI. Коксоне объявил о своём уходе из Anthropic и объяснил, что принял это решение из-за своих опасений по поводу скорости, с которой развивается искусственный интеллект, и недостатка достаточных гарантий перед его потенциальными рисками.
AP News +
Коксоне утверждает, что существует гонка между ведущими компаниями в области ИИ, стремящимися разработать всё более продвинутые системы, и, по его мнению, конкуренция может приводить к тому, что безопасность не развивается тем же темпом. Он также выразил обеспокоенность из-за разработки систем, способных улучшать собственные возможности.
WIRED +1
Но есть ещё более шокирующий факт:
Ивэн Хабингер, исследователь по согласованию (alignment) в Anthropic и бывший руководитель Коксона, заявил, что лично считает: вероятность того, что искусственный интеллект сможет вызвать катастрофу, которая положит конец человечеству, в ближайшее десятилетие превышает 10 %. Эта цифра является его личной оценкой, а не доказанным научным прогнозом или установленным фактом. �
🚨 А ЧТО ЕСЛИ САМЫЕ СОЗДАТЕЛИ ИИ НАЧИНАЮТ ИСПЫТЫВАТЬ СТРАХ?
Исследователь искусственного интеллекта ушёл со своей работы после того, как предупредил, что ускоренное развитие всё более мощных систем может превратиться в серьёзную угрозу для человечества. Это ли не сигнал тревоги, который мир должен воспринять всерьёз?
Случай, вызывающий обеспокоенность, связан с Джейкобом Коксоном: исследователем, который примерно три года работал в Anthropic и OpenAI. Коксоне объявил о своём уходе из Anthropic и объяснил, что принял это решение из-за своих опасений по поводу скорости, с которой развивается искусственный интеллект, и недостатка достаточных гарантий перед его потенциальными рисками.
AP News +
Коксоне утверждает, что существует гонка между ведущими компаниями в области ИИ, стремящимися разработать всё более продвинутые системы, и, по его мнению, конкуренция может приводить к тому, что безопасность не развивается тем же темпом. Он также выразил обеспокоенность из-за разработки систем, способных улучшать собственные возможности.
WIRED +1
Но есть ещё более шокирующий факт:
Ивэн Хабингер, исследователь по согласованию (alignment) в Anthropic и бывший руководитель Коксона, заявил, что лично считает: вероятность того, что искусственный интеллект сможет вызвать катастрофу, которая положит конец человечеству, в ближайшее десятилетие превышает 10 %. Эта цифра является его личной оценкой, а не доказанным научным прогнозом или установленным фактом. �
