📰 8 сентября The Wall Street Journal раскрыла один факт, который заставляет немного растеряться: исследователь Anthropic Джейкоб Коксон решил уйти из сферы искусственного интеллекта.

Причина тоже довольно прямолинейная — он опасается, что компании наперегонки разрабатывают систему, которой невозможно управлять, и при этом она способна к самосовершенствованию.

🔥 Скажем честно: то, что кто-то уходит из индустрии ИИ по собственному желанию, уже само по себе говорит о том, что эта обеспокоенность — не просто слова «на всякий случай». Особенно если человек, поднявший эту тему, раньше работал в соответствующих компаниях и исследовательской среде — такой шаг неизбежно вызывает больше обсуждений.

Самое тревожное в этой истории — не то, что у какой-то модели сегодня «что-то пошло не так», а то, что слова «неконтролируемость» и «самоусовершенствование» оказались поставлены рядом. Если система может постоянно наращивать возможности, но люди не способны подтвердить, что она сделает дальше, — людям действительно сложно оставаться спокойными.

💡 Конечно, одного ухода исследователя недостаточно, чтобы напрямую доказать, что отрасль уже дошла до края потери контроля. Но по крайней мере, он снова вывел в реальную повестку вопрос, который раньше часто воспринимали как научную фантастику: скорость технического прогресса — уже опередила ли она скорость, с которой человечество способно им управлять?

🤔 Если бы вы работали в сфере ИИ, столкнувшись с таким направлением, вы бы выбрали остаться и участвовать в контроле или, как Джейкоб Коксон, просто уйти?

#人工智能 #AI安全 #科技行业 #Зашифрованное наблюдение