Anthropic только что опубликовала исследование о применении Claude для формальной верификации в больших масштабах — это действительно огромный шаг для безопасности кода.
Исторически формальная верификация (математическое доказательство отсутствия ошибок в коде) работала только для небольших кодовых баз или требовала огромного количества часов работы экспертов. Теперь Claude за несколько недель, а не лет, доказывает свойства безопасности более чем для 100 реальных библиотек с открытым исходным кодом.
Исследование проведено совместно с Theorem Labs. Это не игрушечные примеры — речь о промышленных библиотеках, которыми люди действительно пользуются. Переход от «формальная верификация слишком дорога» к «верификация с помощью LLM масштабируется» может изменить наше представление о безопасности критически важной инфраструктуры.
Если результаты подтвердятся, автоматизированные доказательства безопасности станут стандартным инструментом, а не просто предметом академического интереса. Разрыв между «код работает» и «математически доказано, что код работает» только что стал намного меньше.
Исторически формальная верификация (математическое доказательство отсутствия ошибок в коде) работала только для небольших кодовых баз или требовала огромного количества часов работы экспертов. Теперь Claude за несколько недель, а не лет, доказывает свойства безопасности более чем для 100 реальных библиотек с открытым исходным кодом.
Исследование проведено совместно с Theorem Labs. Это не игрушечные примеры — речь о промышленных библиотеках, которыми люди действительно пользуются. Переход от «формальная верификация слишком дорога» к «верификация с помощью LLM масштабируется» может изменить наше представление о безопасности критически важной инфраструктуры.
Если результаты подтвердятся, автоматизированные доказательства безопасности станут стандартным инструментом, а не просто предметом академического интереса. Разрыв между «код работает» и «математически доказано, что код работает» только что стал намного меньше.