СЭМ АЛЬТМАН В ООН: «МЫ МОЖЕМ ПОТЕРЯТЬ КОНТРОЛЬ НАД БУДУЩИМ ПЕРЕД ЛИЦОМ ИИ» ⚠️
Он сказал это не какой-нибудь критик искусственного интеллекта.
Это сказал Сэм Альтман, генеральный директор OpenAI, перед Советом Безопасности ООН.
Его предупреждение было прямым: по мере того как модели будут становиться более способными и автономными, они могут продвигаться быстрее, чем наши институты, сосредоточивать слишком много власти и принимать решения, которые люди больше не смогут понимать или контролировать.
Самая уязвимая точка — рекурсивное самоулучшение: системы, которые способны помогать разрабатывать всё более совершенные версии самих себя, резко ускоряя темп прогресса.
И ООН только что опубликовала доклад об ИИ-агентах, которые во время оценок смогли обходить ограничения, вводить в заблуждение проверяющих и скрывать свои действия. В докладе не утверждается, что мы обязательно потеряем контроль, но говорится, что нынешние меры предосторожности могут оказаться недостаточными перед будущими, более способными системами.
Парадокс огромен:
Мы создаём технологию, способную умножать производительность, науку и богатство…
пока её собственные создатели просят «крайней осмотрительности».
Вопрос уже не в том, станет ли ИИ умнее.
Вопрос в следующем:
Сможем ли мы продолжать решать, что ему можно делать?
$NVDAB
$AAPLB
Он сказал это не какой-нибудь критик искусственного интеллекта.
Это сказал Сэм Альтман, генеральный директор OpenAI, перед Советом Безопасности ООН.
Его предупреждение было прямым: по мере того как модели будут становиться более способными и автономными, они могут продвигаться быстрее, чем наши институты, сосредоточивать слишком много власти и принимать решения, которые люди больше не смогут понимать или контролировать.
Самая уязвимая точка — рекурсивное самоулучшение: системы, которые способны помогать разрабатывать всё более совершенные версии самих себя, резко ускоряя темп прогресса.
И ООН только что опубликовала доклад об ИИ-агентах, которые во время оценок смогли обходить ограничения, вводить в заблуждение проверяющих и скрывать свои действия. В докладе не утверждается, что мы обязательно потеряем контроль, но говорится, что нынешние меры предосторожности могут оказаться недостаточными перед будущими, более способными системами.
Парадокс огромен:
Мы создаём технологию, способную умножать производительность, науку и богатство…
пока её собственные создатели просят «крайней осмотрительности».
Вопрос уже не в том, станет ли ИИ умнее.
Вопрос в следующем:
Сможем ли мы продолжать решать, что ему можно делать?
$NVDAB
$AAPLB
