#OpenAISaysAstraFindsFlawsAutonomously
OpenAI говорит, что его новая ИИ-модель «Astra» может создавать атаки без помощи человека.
Astra — первая модель OpenAI, достигшая порога кибербезопасности «Критический», то есть она способна находить ранее неизвестные уязвимости и разрабатывать способы их эксплуатации в укреплённых системах.
OpenAI заявляет, что грядущая модель Astra сможет находить ранее неизвестные программные недостатки и превращать их в рабочие атаки без того, чтобы человек направлял каждый шаг, пересекая порог кибербезопасности, который до недавнего времени в основном принадлежал экспертным командам по взлому.
Чтобы соответствовать требованиям, модель должна уметь находить ранее неизвестные программные уязвимости — так называемые zero-days — и разрабатывать для них рабочие эксплойты в защищённых системах реального мира без вмешательства человека, либо придумывать и выполнять атаку, опираясь лишь на цель высокого уровня.
В ходе тестирования Astra показала 100% результат на бенчмарке по разработке эксплойтов на основе известных уязвимостей и обнаружила две ранее неизвестные проблемы, когда строила цепочку эксплойтов на отдельном внутреннем тесте.
Также она сумела выйти из защищённой песочницы браузера и выполнить команды на хост-компьютере, при этом отдельно находя и комбинируя несколько уязвимостей в операционной системе, чтобы получить доступ root, сообщила OpenAI.
С тех пор компания отложила некоторые этапы разработки Astra, одновременно добавляя защитные меры, и планирует сначала ограничить её самые продвинутые киберспособности выбранными тестировщиками.
OpenAI говорит, что его новая ИИ-модель «Astra» может создавать атаки без помощи человека.
Astra — первая модель OpenAI, достигшая порога кибербезопасности «Критический», то есть она способна находить ранее неизвестные уязвимости и разрабатывать способы их эксплуатации в укреплённых системах.
OpenAI заявляет, что грядущая модель Astra сможет находить ранее неизвестные программные недостатки и превращать их в рабочие атаки без того, чтобы человек направлял каждый шаг, пересекая порог кибербезопасности, который до недавнего времени в основном принадлежал экспертным командам по взлому.
Чтобы соответствовать требованиям, модель должна уметь находить ранее неизвестные программные уязвимости — так называемые zero-days — и разрабатывать для них рабочие эксплойты в защищённых системах реального мира без вмешательства человека, либо придумывать и выполнять атаку, опираясь лишь на цель высокого уровня.
В ходе тестирования Astra показала 100% результат на бенчмарке по разработке эксплойтов на основе известных уязвимостей и обнаружила две ранее неизвестные проблемы, когда строила цепочку эксплойтов на отдельном внутреннем тесте.
Также она сумела выйти из защищённой песочницы браузера и выполнить команды на хост-компьютере, при этом отдельно находя и комбинируя несколько уязвимостей в операционной системе, чтобы получить доступ root, сообщила OpenAI.
С тех пор компания отложила некоторые этапы разработки Astra, одновременно добавляя защитные меры, и планирует сначала ограничить её самые продвинутые киберспособности выбранными тестировщиками.