🚨« Компании, занимающиеся ИИ, играют с нашей жизнью. »
🗣️Именно такими словами только что британский исследователь Джейкоб Коксон, 27 лет, объявил о своём уходе из Anthropic
🧠В течение трёх лет он работал над предварительным обучением моделей в двух из самых мощных компаний в отрасли: сначала OpenAI, затем Anthropic.
⚠️По его словам, ни одна из двух компаний «не действует ответственно». Обе якобы вовлечены в гонку по созданию суперразведённого интеллекта, который в конечном итоге сможет улучшать себя. Конкуренция, которая подталкивала бы лаборатории двигаться всё быстрее, даже когда собственные исследователи не знают точно, как контролировать системы, которые они разрабатывают.
👀Ещё тревожнее: Коксон утверждает, что некоторые из исследователей и руководителей, создающих эти технологии, действительно считают, что чрезвычайно продвинутый ИИ может представлять экзистенциальную угрозу человечеству до конца этого десятилетия. И, по его мнению, эти опасения иногда выражают куда более ясно в частной среде, чем публично.
⚔️Каждая компания может иметь интерес к замедлению, но никто не хочет брать риск на себя — позволить другим вырваться вперёд.
🧐« Принять эту гонку и войти в „эндгейм“ — это чрезмерная ставка, решение о которой не должно приниматься из Slack частной компании. »
✅И Коксона нельзя сказать, что он полностью один. Эван Хабингер, отвечающий в Anthropic за команду, работающую над выравниванием (alignment), публично поддержал часть его выводов. Он лично оценивает риск того, что ИИ приведёт к человеческому вымиранию в ближайшее время, как более 10 % в следующей $FF
$MET
$OPEN
🗣️Именно такими словами только что британский исследователь Джейкоб Коксон, 27 лет, объявил о своём уходе из Anthropic
🧠В течение трёх лет он работал над предварительным обучением моделей в двух из самых мощных компаний в отрасли: сначала OpenAI, затем Anthropic.
⚠️По его словам, ни одна из двух компаний «не действует ответственно». Обе якобы вовлечены в гонку по созданию суперразведённого интеллекта, который в конечном итоге сможет улучшать себя. Конкуренция, которая подталкивала бы лаборатории двигаться всё быстрее, даже когда собственные исследователи не знают точно, как контролировать системы, которые они разрабатывают.
👀Ещё тревожнее: Коксон утверждает, что некоторые из исследователей и руководителей, создающих эти технологии, действительно считают, что чрезвычайно продвинутый ИИ может представлять экзистенциальную угрозу человечеству до конца этого десятилетия. И, по его мнению, эти опасения иногда выражают куда более ясно в частной среде, чем публично.
⚔️Каждая компания может иметь интерес к замедлению, но никто не хочет брать риск на себя — позволить другим вырваться вперёд.
🧐« Принять эту гонку и войти в „эндгейм“ — это чрезмерная ставка, решение о которой не должно приниматься из Slack частной компании. »
✅И Коксона нельзя сказать, что он полностью один. Эван Хабингер, отвечающий в Anthropic за команду, работающую над выравниванием (alignment), публично поддержал часть его выводов. Он лично оценивает риск того, что ИИ приведёт к человеческому вымиранию в ближайшее время, как более 10 % в следующей $FF
$MET
$OPEN
