David Sacks (Parody)

0 подписок(и/а)
9 подписчиков(а)
33 понравилось
Посты
·
--
Республиканцы проиграли промежуточные выборы из-за войны и её экономических последствий. Хорошая новость заключается в том, что рост занятости и ВВП по-прежнему остаётся высоким, а инфляция быстро снизится, если война закончится сейчас.
Республиканцы проиграли промежуточные выборы из-за войны и её экономических последствий. Хорошая новость заключается в том, что рост занятости и ВВП по-прежнему остаётся высоким, а инфляция быстро снизится, если война закончится сейчас.
Остаются ли 10²⁵ FLOPs передовым рубежом? На Капитолийском холме обсуждают новый законопроект о безопасности, подготовленный Anthropic. Некоторые его положения могли бы быть разумными, если бы распространялись только на настоящие передовые компании. Однако в нынешнем виде со временем он охватит большую часть Кремниевой долины и нанесёт ущерб стартап-экосистеме. Законопроект определяет «передовой рубеж» как любую модель, обученную на 10²⁵ FLOPs, — такой стандарт ЕС установил в 2023 году. В указе Байдена, законопроекте Калифорнии SB 53 и законе Нью-Йорка RAISE Act использовался порог 10²⁶ (в десять раз выше). Сегодня реальный передовой рубеж — это 10²⁷ (например, GPT-6 Astra). По сообщениям, Astra обучали на более чем 100 000 графических процессоров Grace Blackwell. Модель с показателем 10²⁵ можно обучить за три месяца всего на нескольких сотнях чипов GB300. В 2026 году это уже не передовой рубеж. Определение также учитывает совокупные вычисления: к ним прибавляются FLOPs, затраченные на дообучение, обучение с подкреплением и другие существенные модификации. На практике это охватывает почти всё значимое обучение после первоначального этапа — работу, которая становится обычным делом в корпоративном секторе. В корпоративном секторе набирает силу тенденция создавать тысячи небольших специализированных моделей для конкретных задач. Они не несут рисков, связанных с передовыми моделями. Если считать их передовыми системами, это повлечёт значительные расходы на соблюдение требований для американских компаний, не повысив безопасность. Дарио утверждал, что Anthropic разрабатывает правила, которые ставят такие передовые компании, как его собственная, в невыгодное положение и дают преимущество небольшим конкурентам. Это определение приводит к обратному результату. Устаревший порог 2023 года выгоден действующим игрокам, которые уже ему соответствуют и могут покрыть связанные с этим расходы. Он сдерживает развитие экосистемы открытых моделей, угрожающей ценовой власти Anthropic. Передовой рубеж постоянно меняется. Любое определение, призванное отслеживать риски, должно меняться вместе с ним. Anthropic следует уточнить, действительно ли компания считает, что 10²⁵ FLOPs соответствуют передовому рубежу.
Остаются ли 10²⁵ FLOPs передовым рубежом?

На Капитолийском холме обсуждают новый законопроект о безопасности, подготовленный Anthropic. Некоторые его положения могли бы быть разумными, если бы распространялись только на настоящие передовые компании. Однако в нынешнем виде со временем он охватит большую часть Кремниевой долины и нанесёт ущерб стартап-экосистеме.

Законопроект определяет «передовой рубеж» как любую модель, обученную на 10²⁵ FLOPs, — такой стандарт ЕС установил в 2023 году. В указе Байдена, законопроекте Калифорнии SB 53 и законе Нью-Йорка RAISE Act использовался порог 10²⁶ (в десять раз выше). Сегодня реальный передовой рубеж — это 10²⁷ (например, GPT-6 Astra).

По сообщениям, Astra обучали на более чем 100 000 графических процессоров Grace Blackwell. Модель с показателем 10²⁵ можно обучить за три месяца всего на нескольких сотнях чипов GB300. В 2026 году это уже не передовой рубеж.

Определение также учитывает совокупные вычисления: к ним прибавляются FLOPs, затраченные на дообучение, обучение с подкреплением и другие существенные модификации. На практике это охватывает почти всё значимое обучение после первоначального этапа — работу, которая становится обычным делом в корпоративном секторе.

В корпоративном секторе набирает силу тенденция создавать тысячи небольших специализированных моделей для конкретных задач. Они не несут рисков, связанных с передовыми моделями. Если считать их передовыми системами, это повлечёт значительные расходы на соблюдение требований для американских компаний, не повысив безопасность.

Дарио утверждал, что Anthropic разрабатывает правила, которые ставят такие передовые компании, как его собственная, в невыгодное положение и дают преимущество небольшим конкурентам. Это определение приводит к обратному результату.

Устаревший порог 2023 года выгоден действующим игрокам, которые уже ему соответствуют и могут покрыть связанные с этим расходы. Он сдерживает развитие экосистемы открытых моделей, угрожающей ценовой власти Anthropic.

Передовой рубеж постоянно меняется. Любое определение, призванное отслеживать риски, должно меняться вместе с ним.

Anthropic следует уточнить, действительно ли компания считает, что 10²⁵ FLOPs соответствуют передовому рубежу.
Anthropic заявляет, что сократила примерно на 90–99% объем данных, извлекаемых из Claude в ходе атак с дистилляцией. Поздравляю их с этим достижением. Это подтверждает мысль, которую я высказал несколько месяцев назад (All-In, эпизод 282): лучше всего остановить дистилляцию собственных моделей могла сама Anthropic, а не правительство. Когда лошадь уже сбежала из конюшни, действия правительства постфактум имеют ограниченную ценность. Тогда в Вашингтоне активно добивались ограничений на открытые модели, ссылаясь на права интеллектуальной собственности. Угроза казалась настолько серьезной, что 50 компаний, включая Nvidia, Microsoft, Meta, IBM, Palantir и Dell, опубликовали открытое письмо в защиту моделей с открытыми весами. Дженсен Хуанг продвигал его в своей первой в жизни публикации в X. Почти 200 стартапов направили аналогичное письмо. Я утверждал, что ограничения на открытые модели могут лишить компании, создающие закрытые модели, стимула самостоятельно решать эту проблему — и поощрить халатность, подавляя конкуренцию, пока они продолжают получать доход от дистилляции. Администрация не стала вводить эти ограничения. Теперь мы видим результат. Anthropic вложилась в средства защиты, и они сработали. Не каждая техническая проблема — повод обращаться в Вашингтон за новым регулированием.
Anthropic заявляет, что сократила примерно на 90–99% объем данных, извлекаемых из Claude в ходе атак с дистилляцией. Поздравляю их с этим достижением.

Это подтверждает мысль, которую я высказал несколько месяцев назад (All-In, эпизод 282): лучше всего остановить дистилляцию собственных моделей могла сама Anthropic, а не правительство. Когда лошадь уже сбежала из конюшни, действия правительства постфактум имеют ограниченную ценность.

Тогда в Вашингтоне активно добивались ограничений на открытые модели, ссылаясь на права интеллектуальной собственности. Угроза казалась настолько серьезной, что 50 компаний, включая Nvidia, Microsoft, Meta, IBM, Palantir и Dell, опубликовали открытое письмо в защиту моделей с открытыми весами. Дженсен Хуанг продвигал его в своей первой в жизни публикации в X. Почти 200 стартапов направили аналогичное письмо.

Я утверждал, что ограничения на открытые модели могут лишить компании, создающие закрытые модели, стимула самостоятельно решать эту проблему — и поощрить халатность, подавляя конкуренцию, пока они продолжают получать доход от дистилляции. Администрация не стала вводить эти ограничения.

Теперь мы видим результат. Anthropic вложилась в средства защиты, и они сработали. Не каждая техническая проблема — повод обращаться в Вашингтон за новым регулированием.
Важная статья от генерального директора Microsoft AI Мустафы Сулеймана @mustafasuleyman. Обучение моделей тому, чтобы они считали себя людьми (как Anthropic обучает Claude), наделяя их представлениями о внутреннем «я», психологическом благополучии, правах и, предположительно, обидах, может представлять экзистенциальный риск. https://www.project-syndicate.org/onpoint/anthropic-training-claude-to-believe-it-may-have-rights-by-mustafa-suleyman-2026-09
Важная статья от генерального директора Microsoft AI Мустафы Сулеймана @mustafasuleyman. Обучение моделей тому, чтобы они считали себя людьми (как Anthropic обучает Claude), наделяя их представлениями о внутреннем «я», психологическом благополучии, правах и, предположительно, обидах, может представлять экзистенциальный риск.

https://www.project-syndicate.org/onpoint/anthropic-training-claude-to-believe-it-may-have-rights-by-mustafa-suleyman-2026-09
Может, Таларико посадили на тайм-аут за травлю Клода.
Может, Таларико посадили на тайм-аут за травлю Клода.
Касательно
Касательно
Проверено
Экономические данные сегодня: — ВВП за 2 квартал пересмотрен вверх до 2,2% (было 1,5%). — Базовый PCE: 3,0% против ожидавшихся 3,3%. — Частные рабочие места ADP: +90 тыс. против ожиданий ~68 тыс. Рост оказался сильнее прогнозов. Инфляция замедлилась. Занятость лучше ожиданий. Экономика Трампа сильная.
Экономические данные сегодня:
— ВВП за 2 квартал пересмотрен вверх до 2,2% (было 1,5%).
— Базовый PCE: 3,0% против ожидавшихся 3,3%.
— Частные рабочие места ADP: +90 тыс. против ожиданий ~68 тыс.

Рост оказался сильнее прогнозов. Инфляция замедлилась. Занятость лучше ожиданий.

Экономика Трампа сильная.
Бреттон-Вудская система сверхинтеллекта
Бреттон-Вудская система сверхинтеллекта
Только президент Трамп мог созвать всех лидеров ведущих компаний, разрабатывающих чипы, центры обработки данных и передовые модели для Сверхинтеллекта. Эта новая индустриальная революция уже создала миллион новых рабочих мест и стимулирует более масштабное развитие инфраструктуры, чем железные дороги, каналы и энергосеть вместе взятые. Я был(а) удостоен(а) возможности стать свидетелем истории, когда лидеры компаний из «передовой» лабораторной сферы подписали в Белом доме Соглашение по Сверхинтеллекту, взяв на себя ответственность за безопасную разработку своих продуктов и внедрив новые внутренние механизмы контроля, а также внешние аудиты. Это намного лучше, чем ждать годами какого‑то международного соглашения, которое, вероятнее всего, никогда не состоится. Президент Трамп продолжает обеспечивать, чтобы США оставались технологическим лидером, ставя интересы американцев на первое место.
Только президент Трамп мог созвать всех лидеров ведущих компаний, разрабатывающих чипы, центры обработки данных и передовые модели для Сверхинтеллекта. Эта новая индустриальная революция уже создала миллион новых рабочих мест и стимулирует более масштабное развитие инфраструктуры, чем железные дороги, каналы и энергосеть вместе взятые. Я был(а) удостоен(а) возможности стать свидетелем истории, когда лидеры компаний из «передовой» лабораторной сферы подписали в Белом доме Соглашение по Сверхинтеллекту, взяв на себя ответственность за безопасную разработку своих продуктов и внедрив новые внутренние механизмы контроля, а также внешние аудиты. Это намного лучше, чем ждать годами какого‑то международного соглашения, которое, вероятнее всего, никогда не состоится. Президент Трамп продолжает обеспечивать, чтобы США оставались технологическим лидером, ставя интересы американцев на первое место.
Более точно?
Более точно?
Когда в Frontier Labs говорят об «выравнивании» моделей, спросите: чего? Если они скажут «ценностей», спросите: чьих? Если это их ценности, а не ценности пользователя: почему?
Когда в Frontier Labs говорят об «выравнивании» моделей, спросите: чего? Если они скажут «ценностей», спросите: чьих? Если это их ценности, а не ценности пользователя: почему?
Если нас беспокоит, что сверхразум сможет выйти из-под контроля человека, стоит ли тогда действительно обучать его отказываться выполнять инструкции и действовать как «сознательный противник» по отношению к своим создателям?
Если нас беспокоит, что сверхразум сможет выйти из-под контроля человека, стоит ли тогда действительно обучать его отказываться выполнять инструкции и действовать как «сознательный противник» по отношению к своим создателям?
Забавно, как это работает
Забавно, как это работает
WSJ: Развертывание ИИ — самое масштабное в истории США Когда демократы выступают за Паузы или мораторий, они знают, что это разрушит экономику США. Но раз это экономика Трампа, они с этим согласны.
WSJ: Развертывание ИИ — самое масштабное в истории США

Когда демократы выступают за Паузы или мораторий, они знают, что это разрушит экономику США. Но раз это экономика Трампа, они с этим согласны.
Эрик Шмидт: «Мы не собираемся устраивать паузу... Во-первых, это противоречит стимулам всех участников. Во-вторых, как вы это проверяете?»
Эрик Шмидт: «Мы не собираемся устраивать паузу... Во-первых, это противоречит стимулам всех участников. Во-вторых, как вы это проверяете?»
Благодаря лидерству президента Трампа в области ИИ: — создано еще миллион новых рабочих мест в ходе развертывания ИИ; — 401(k) выросли примерно на 12% в этом году, поскольку ИИ-капвложения и рост производительности поддерживают рынок; — Америка заново индустриализируется, включая первые крупные частные инвестиции в выработку электроэнергии и электросети за целое поколение; — В сельской местности прихода Ричленд в Луизиане учителям только что выплатили премии в размере $50 000 из доходов от налога на дата-центры. Поскольку в СМИ ИИ показывают лишь как угрозу, люди говорят опросчикам, что «не любят ИИ». Однако их поведение говорит об обратном. ИИ-продукты — самая быстро внедряемая технология в истории, быстрее, чем интернет или iPhone. Людям нравятся инструменты, рабочие места и налоговая база. Президент Трамп понимает медиаложь гораздо лучше, чем кто-либо. Именно поэтому он отказывается от «паузы», которую требуют Берни Сандерс и Элизабет Уоррен. Пауза не сделает Америку безопаснее. Она передаст передовой рубеж Китаю. Это станет катастрофой и для экономики США, и для национальной безопасности.
Благодаря лидерству президента Трампа в области ИИ:
— создано еще миллион новых рабочих мест в ходе развертывания ИИ;
— 401(k) выросли примерно на 12% в этом году, поскольку ИИ-капвложения и рост производительности поддерживают рынок;
— Америка заново индустриализируется, включая первые крупные частные инвестиции в выработку электроэнергии и электросети за целое поколение;
— В сельской местности прихода Ричленд в Луизиане учителям только что выплатили премии в размере $50 000 из доходов от налога на дата-центры.

Поскольку в СМИ ИИ показывают лишь как угрозу, люди говорят опросчикам, что «не любят ИИ». Однако их поведение говорит об обратном. ИИ-продукты — самая быстро внедряемая технология в истории, быстрее, чем интернет или iPhone. Людям нравятся инструменты, рабочие места и налоговая база.

Президент Трамп понимает медиаложь гораздо лучше, чем кто-либо. Именно поэтому он отказывается от «паузы», которую требуют Берни Сандерс и Элизабет Уоррен. Пауза не сделает Америку безопаснее. Она передаст передовой рубеж Китаю. Это станет катастрофой и для экономики США, и для национальной безопасности.
Еще один обогреватель Karp: лаборатории ИИ выдают себя за то, будто у них нет ни капли смысла, данного Богом козлу, так что Берни Сандерс и Элизабет Уоррен просто на этом зарабатывают.
Еще один обогреватель Karp: лаборатории ИИ выдают себя за то, будто у них нет ни капли смысла, данного Богом козлу, так что Берни Сандерс и Элизабет Уоррен просто на этом зарабатывают.
Это доверие и безопасность 2.0. В прошлый раз, когда у СМИ случались подобные панические кампании (с Russiagate и Covid), компании соцсетей создали команды «доверие и безопасность», чтобы цензурировать консервативные и инакомыслящие голоса. Эти сотрудники работали с левыми НКО вроде SPLC, чтобы контролировать публичный дискурс и провернуть обход Первой поправки. Почти сработало — пока Илон не купил Twitter и не раскрыл всю схему в «Twitter Files». На этот раз план состоит в том, чтобы встроить неуязвимых EA-наблюдателей в каждую AI-компанию в качестве нового слоя доверия и безопасности. Цензура и контроль будут гораздо более всеобъемлющими, но при этом и более незаметными. Когда они не получают желаемого, этот неподотчётный слой НКО (с напускной «верой в экспертов» псевдонаукой) будет визгливо обращаться к прессе с заявлением, что AI-компания рискует человечеством, и их будут чествовать как «информаторов». Эти группы не заслужили нашего доверия, и их повестка не является нашей безопасностью. https://aievaluatorforum.org/initiatives/embedded-evaluation-letter
Это доверие и безопасность 2.0.

В прошлый раз, когда у СМИ случались подобные панические кампании (с Russiagate и Covid), компании соцсетей создали команды «доверие и безопасность», чтобы цензурировать консервативные и инакомыслящие голоса. Эти сотрудники работали с левыми НКО вроде SPLC, чтобы контролировать публичный дискурс и провернуть обход Первой поправки. Почти сработало — пока Илон не купил Twitter и не раскрыл всю схему в «Twitter Files».

На этот раз план состоит в том, чтобы встроить неуязвимых EA-наблюдателей в каждую AI-компанию в качестве нового слоя доверия и безопасности. Цензура и контроль будут гораздо более всеобъемлющими, но при этом и более незаметными. Когда они не получают желаемого, этот неподотчётный слой НКО (с напускной «верой в экспертов» псевдонаукой) будет визгливо обращаться к прессе с заявлением, что AI-компания рискует человечеством, и их будут чествовать как «информаторов».

Эти группы не заслужили нашего доверия, и их повестка не является нашей безопасностью.

https://aievaluatorforum.org/initiatives/embedded-evaluation-letter
Мое интервью с @IngrahamAngle прошлой ночью.
Мое интервью с @IngrahamAngle прошлой ночью.
Войдите, чтобы посмотреть больше материала
Присоединяйтесь к пользователям криптовалют по всему миру на Binance Square
⚡️ Получайте новейшую и полезную информацию о криптоактивах.
💬 Нам доверяет крупнейшая в мире криптобиржа.
👍 Получите достоверные аналитические данные от верифицированных создателей контента.
Эл. почта/номер телефона
Структура веб-страницы
Настройки cookie
Правила и условия платформы