Google представил ИИ-детектор уязвимостей!

Ключевые моменты

• Big Sleep — система поиска уязвимостей на базе искусственного интеллекта, созданная DeepMind и Project Zero
• Объявлена первая партия из 20 обнаруженных уязвимостей
• Подробности не разглашаются, чтобы у разработчиков было время их исправить

Инструмент Big Sleep от Google, работающий на базе искусственного интеллекта и предназначенный для поиска ошибок, сообщил о первой группе из 20 уязвимостей в программном обеспечении с открытым исходным кодом.

Первые уязвимости, обнаруженные командами по искусственному интеллекту и безопасности из Google DeepMind и Project Zero, были выявлены в таких программах, как FFmpeg и ImageMagick. Однако подробности об этих уязвимостях не разглашаются до тех пор, пока они не будут устранены.

Видео от DGL.RU

По словам Google, Big Sleep — это значительный шаг вперёд в области безопасности приложений. Искусственный интеллект способен самостоятельно выявлять уязвимости и сообщать о них более эффективно, чем специалисты по безопасности.

Big Sleep раскрывает информацию об ошибках в программном обеспечении с открытым исходным кодом

Каждая из 20 ошибок была обнаружена и воспроизведена Big Sleep самостоятельно, хотя в Google отмечают, что эксперт-человек проверяет результаты, прежде чем публиковать отчёты. Человеческий контроль важен для того, чтобы развеять опасения по поводу ложных срабатываний или мнимых ошибок и убедиться, что о проблемах стоит сообщать соответствующим разработчикам.

Более подробная информация, такая как идентификаторы CVE, технические пояснения и доказательства концепции, пока не разглашается в соответствии с 90-дневной политикой Google, чтобы дать разработчикам время устранить уязвимости до того, как ими воспользуются злоумышленники.

«К ноябрю 2024 года Big Sleep смогла найти свою первую реальную уязвимость в системе безопасности, продемонстрировав огромный потенциал ИИ в устранении брешей в системе безопасности до того, как они повлияют на пользователей», — похвастался президент по глобальным вопросам Кент Уокер в посте в блоге.

Вице-президент по разработке систем безопасности Хизер Эдкинс сообщила эту новость в X посте:

«Сегодня, в рамках нашего стремления к прозрачности в этой сфере, мы с гордостью сообщаем, что выявили первые 20 уязвимостей с помощью нашей системы Big Sleep на базе искусственного интеллекта от Gemini».

Google ведёт полный список уязвимостей, в который на данный момент входят первые 20 уязвимостей, разделённых на проблемы с высоким, средним и низким уровнем воздействия.

Google планирует провести полноценный технический брифинг на предстоящих мероприятиях Black Hat USA и DEF CON 33, а также передать обезличенные обучающие данные в Secure AI Framework, чтобы другие исследователи могли воспользоваться этой технологией.

Gemini представляет мощную модель «Deep Think»!