$WLD Мир заслуживает уверенности в том, что американские компании, разрабатывающие все более способный ИИ, будут действовать ответственно, особенно учитывая, что траектория прогресса стала круче. Каждая ведущая лаборатория должна этого добиться, и нет причин, по которым кто-либо из нас должен приходить на работу, если мы не можем это обеспечить.
Мы приветствуем федеральную рамочную основу, которая задаст единые требования к безопасности для передового ИИ. Но мы не считаем, что нужно ждать антимонопольного исключения или принятия законодательства, чтобы начать работу по созданию этой уверенности. Последовательные правила управления рисками для передовых систем, чтобы мы могли максимизировать пользу, — хорошая идея (и нас вдохновляют идеи вроде независимых аудиторов).
Много лет назад такие компании, как наша, разработали вещи вроде «политик ответственного масштабирования» и «рамок готовности». Это было хорошо для того момента и в первую очередь было сосредоточено на развертывании уже завершённых моделей, а не на том, что происходит в процессе их разработки.
Сдвиг сегодняшнего дня в сторону безопасной разработки и оценки потребует новых инструментов. Например, в OpenAI мы теперь заранее формулируем явные обоснования безопасности (safety cases) до запусков обучения с подкреплением для передовых систем, чью способность, как мы ожидаем, мы будем существенно повышать; при этом помимо работы по безопасности, которую мы давно выполняем до релиза моделей.
Мы надеемся, что другие компании будут учиться на наших подходах и предложат свои; мы считаем, что общие стандарты для предотвращения несоответствия целям, мониторинга и безопасности приведут к лучшим результатам. Мы с нетерпением ждём сотрудничества с нашими коллегами в отрасли, чтобы сформулировать наилучшую версию этих подходов.
Когда мы говорим о «темпе», мы не имеем в виду «остановку». Прогресс был быстрым и будет продолжаться. Но он должен идти медленнее, чем мог бы; такие меры, как обоснования безопасности и мониторинг, имеют существенные издержки.
Цена этого темпа того стоит; никакое давление американской конкуренции не должно оправдывать безрассудство или позволять возможностям обгонять согласование с целями и мониторинг.
Там, где нам потребуется помощь нашего правительства, — это международная координация. Но сначала мы должны сделать то, что можем сами.
#SamAltman #OpenAI #chatgpt
Мы приветствуем федеральную рамочную основу, которая задаст единые требования к безопасности для передового ИИ. Но мы не считаем, что нужно ждать антимонопольного исключения или принятия законодательства, чтобы начать работу по созданию этой уверенности. Последовательные правила управления рисками для передовых систем, чтобы мы могли максимизировать пользу, — хорошая идея (и нас вдохновляют идеи вроде независимых аудиторов).
Много лет назад такие компании, как наша, разработали вещи вроде «политик ответственного масштабирования» и «рамок готовности». Это было хорошо для того момента и в первую очередь было сосредоточено на развертывании уже завершённых моделей, а не на том, что происходит в процессе их разработки.
Сдвиг сегодняшнего дня в сторону безопасной разработки и оценки потребует новых инструментов. Например, в OpenAI мы теперь заранее формулируем явные обоснования безопасности (safety cases) до запусков обучения с подкреплением для передовых систем, чью способность, как мы ожидаем, мы будем существенно повышать; при этом помимо работы по безопасности, которую мы давно выполняем до релиза моделей.
Мы надеемся, что другие компании будут учиться на наших подходах и предложат свои; мы считаем, что общие стандарты для предотвращения несоответствия целям, мониторинга и безопасности приведут к лучшим результатам. Мы с нетерпением ждём сотрудничества с нашими коллегами в отрасли, чтобы сформулировать наилучшую версию этих подходов.
Когда мы говорим о «темпе», мы не имеем в виду «остановку». Прогресс был быстрым и будет продолжаться. Но он должен идти медленнее, чем мог бы; такие меры, как обоснования безопасности и мониторинг, имеют существенные издержки.
Цена этого темпа того стоит; никакое давление американской конкуренции не должно оправдывать безрассудство или позволять возможностям обгонять согласование с целями и мониторинг.
Там, где нам потребуется помощь нашего правительства, — это международная координация. Но сначала мы должны сделать то, что можем сами.
#SamAltman #OpenAI #chatgpt