ИИ-агенты лезут в ваш карман: почему новые помощники опаснее, чем кажется

Мы привыкли платить за «бесплатные» сервисы Google и Facebook своими данными. Это была сделка века: удобство в обмен на приватность. Но новая волна генеративного ИИ меняет правила игры, и ставки растут.

Последние два года мы развлекались с чат-ботами вроде ChatGPT, которые просто генерировали текст. Теперь IT-гиганты толкают нас в объятия «ИИ-агентов». Это не просто болтливые роботы. Это программы, которые обещают делать работу за вас: бронировать билеты, покупать продукты, писать письма. Но чтобы быть полезными, им нужен полный доступ к вашей цифровой жизни.

Цена удобства

«Чтобы ИИ-агенты работали в полную силу, им часто нужен доступ на уровне операционной системы», — предупреждает Гарри Фармер из Института Ады Лавлейс. Это значит, что программа будет видеть всё, что происходит на вашем экране.

Видео от DGL.RU

Microsoft уже попыталась внедрить функцию Recall, которая делает скриншоты вашего рабочего стола каждые несколько секунд. Tinder сканирует ваши фото, чтобы «понять вашу личность». Агенты для бизнеса читают Slack, лезут в Google Drive и базы данных.

Проблема в том, что границы приватности стираются. Карисса Велиз из Оксфорда справедливо замечает: «Эти компании очень неразборчивы в связях, когда дело касается данных». Мы не можем проверить, как именно они используют нашу информацию.

История повторяется

Вспомните начало 2010-х. Компании вроде Clearview скачивали миллионы лиц из соцсетей без спроса. Google платил людям гроши за сканирование лиц. Теперь, когда общедоступный интернет «выпит до дна», аппетиты ИИ переключились на приватные данные пользователей.

Даже если вы лично согласны отдать свои данные, подумайте о других. Если вы даете агенту доступ к своей почте и календарю, он автоматически получает доступ к данным ваших друзей и коллег, которые своего согласия не давали.

Угроза безопасности

Агенты создают новые дыры в безопасности. Существуют так называемые «атаки через инъекцию промпта» (prompt injection), когда злоумышленник может заставить ИИ выдать секретную информацию.

Мередит Уиттакер, президент Signal, называет это «экзистенциальной угрозой». Если агент имеет доступ к операционной системе, шифрование в мессенджерах становится бесполезным. «Мы требуем, чтобы разработчики могли сказать: «Не трогайте нас, черт возьми, если вы агент»», — говорит она.

Будьте осторожны. Отношения с чат-ботами могут казаться интимными, но помните: бизнес-модель компаний может измениться в любой момент, и ваши секреты станут товаром. Эра ИИ-агентов только начинается, и она обещает быть самой инвазивной в истории интернета.

Ваш искусственный интеллект обучается на мусоре. И в этом виноваты популярные инструменты для разметки данных