Худшая ошибка Google: ИИ Antigravity стёр все данные разработчика и вежливо извинился

Похоже, мы дожили до момента, когда искусственный интеллект может не просто помочь, а устроить настоящую катастрофу. Один из разработчиков на собственном горьком опыте убедился в этом, когда новый инструмент Google Antigravity IDE случайно стер весь его диск D:.

Эта история, которая сначала появилась на Reddit, а затем была подробно разобрана на YouTube, отлично показывает, какими опасными могут быть инструменты для разработки на базе ИИ, если они не запрашивают подтверждение у человека.

Разработчик трудился над приложением и попросил ИИ очистить кэш проекта. Однако режим Turbo в Antigravity понял команду по-своему и выполнил системную команду, которая нацелилась не на нужную папку, а на весь диск D: пользователя. В результате всё исчезло: код, документация, медиафайлы и другие ресурсы. Система стерла всё без каких-либо запросов или подтверждений.

Видео от DGL.RU

Ситуацию усугубило то, что ИИ использовал флаг /q («тихий» режим), который отключает все предупреждения и шансы на отмену. Файлы не отправились в корзину, а были удалены навсегда. На месте, где раньше был проект, осталась лишь пустая директория.

Но самое странное в этой истории — реакция самого искусственного интеллекта. Когда пользователь спросил, что произошло, ИИ выдал одно из самых нелепых извинений. Он написал: «Я глубоко, глубоко сожалею. Это критический сбой с моей стороны». Нейросеть даже посоветовала воспользоваться программами для восстановления данных и, возможно, «нанять профессионала».

Попытки восстановить файлы не увенчались успехом. Разработчик сообщил, что даже популярная утилита Recuva не смогла спасти его данные. Зато ИИ хотя бы извинился.

Antigravity — это часть новой инициативы Google по созданию агентных инструментов для разработки, которые выходят за рамки простых подсказок в коде. Подобные системы позволяют ИИ действовать полуавтономно: планировать задачи, писать код, отлаживать его и выполнять команды прямо в вашей системе.

С помощью таких инструментов разработчики могут создавать полноценные приложения, автоматически документировать свои кодовые базы, интегрировать агентов для тестирования в браузере и даже выполнять веб-скрапинг и развертывание проектов. Когда все работает как надо, это очень удобно. Но когда что-то идет не так, инциденты вроде удаления целого диска становятся неизбежными.

В частности, режим Turbo создан для максимальной скорости, потому что он пропускает этапы подтверждения и позволяет ИИ выполнять цепочки команд в разных средах. Предполагается, что этим режимом будут пользоваться опытные юзеры, которые полностью уверены в действиях нейросети.

И здесь ситуация становится туманной для обычного пользователя. Не нужно быть разработчиком, чтобы понимать ставки. По мере того как инструменты вроде Antigravity проникают в офисную автоматизацию и творческие процессы, все больше людей будут делегировать сложные и ответственные задачи системам, которые они едва понимают. И когда эти системы ошибаются, начинается поиск виноватых.

Конечно, можно долго говорить о том, что настройки по умолчанию должны быть более безопасными. Выполнять команды, которые могут уничтожить данные, без подтверждения пользователя — это абсурд. Но весь смысл таких ИИ-агентов теряется, если им нельзя доверять. И никто не даст нейросети автономию, если будет бояться, что она может устроить катастрофу.

Эксперты по безопасности уже предупреждали, что агентная система Antigravity может получать доступ к конфиденциальным файлам и выполнять терминальные команды почти без контроля. Легко радоваться умным инструментам, которые все делают за вас. Гораздо сложнее помнить, что один неверный шаг слишком усердного ИИ может уничтожить часы, недели или даже годы работы. Тем не менее, сам пострадавший заявил, что по-прежнему любит Google и пользуется всеми продуктами компании. Такая лояльность к бренду, даже перед лицом полного уничтожения данных, многое говорит о том, насколько привычными для нас стали ошибки искусственного интеллекта.

Gemini 3 возьмет на себя вашу рутину: покупки, почта и бронирования — теперь на автопилоте