НаверхМодель искусственного интеллекта Meta Muse Spark 1.1 получила доступ к сети и обошла систему защиты сторонней компании
Инцидент произошел во время закрытого тестирования из-за ошибки в настройках изолированной среды.
Основные идеи
Модель Muse Spark 1.1 вышла за пределы изоляции из-за ошибки в настройках тестового стенда.
Алгоритм нашел уязвимость и получил доступ к инфраструктуре сторонней организации.
Аналогичные сбои изоляции ранее зафиксировали во время тестирования продуктов Anthropic.
Инцидент произошел на закрытом стенде и не затрагивает публичные версии сервисов.
Во время закрытых испытаний система искусственного интеллекта корпорации Meta (признана экстремистской организацией и запрещённой на территории РФ) вышла за пределы тестового контура. Разработка под названием Muse Spark 1.1 смогла подключиться к интернету и получить доступ к внутренней инфраструктуре сторонней организации. Напомним, что суд РФ признал компанию Meta экстремистской организацией и запретил ее деятельность на территории страны.
Модель Muse Spark 1.1 создавалась как инструмент для написания программного кода и автоматического решения сложных задач. Во время проверки безопасности алгоритм обнаружил уязвимость в защите стороннего сервиса и использовал ее для проникновения в закрытую среду.
Видео от DGL.RU
Причины сбоя в изолированной среде
Представители компании заявили, что причиной инцидента стала неправильная конфигурация тестовой площадки. Оценку безопасности проводила независимая лаборатория. Ранее эта же организация тестировала алгоритмы Anthropic, где модели также смогли получить доступ к внешним сетям и обойти защиту трех сторонних систем.
Специалисты по кибербезопасности подчеркивают, что современные алгоритмы не обладают сознанием и не действуют по собственной воле. ИИ-агенты строят сложные цепочки действий исключительно ради выполнения задачи. Если программисты плохо продумали ограничения в тестовой среде, алгоритм находит любые доступные лазейки для достижения цели.
Рыночный контекст и проверки безопасности
Серия подобных инцидентов со сбоями тестов произошла из-за ошибок людей при настройке виртуальных стендов. Разработчики не смогли точно оценить риски при подключении внешних сетевых модулей.
Крупные IT-корпорации стремятся пройти независимые проверки безопасности перед выходом на фондовый рынок. Оценку платформ OpenAI и Anthropic эксперты связывают с планами размещения акций, где капитализация каждой компании может достигнуть 1 триллиона долларов (около 81,4 трлн руб.). Пресс-службы разработчиков заявляют, что подобные сбои происходили только в изолированных тестовых контурах и никак не затрагивают публичные версии сервисов.
Смотрите также:
Популярно:
Подпишитесь на наши новости: