Common Sense Media назвала ИИ-функции в Google Поиске опасными для детей

Интернет-гиганты регулярно попадают во внимание законодателей, надзорных ведомств и организаций, которые следят за безопасностью детей в интернете. Теперь новым объектом критики стала корпорация Google со своими алгоритмами на базе искусственного интеллекта.

По мнению экспертов, причиной такого внимания стал успех хромбуков. Эти ноутбуки очень часто используют в школах в качестве учебных устройств. Специалисты из Common Sense Media отмечают важную деталь: ИИ от Google отличается от других нейросетей тем, что дети повсеместно используют его как на личных, так и на школьных ноутбуках.

Видео от DGL.RU

Специалисты выявили несколько ключевых угроз. Первая проблема касается учебы. Нейросеть в режиме чат-бота без проблем решает домашние задания за школьников. При этом алгоритмы часто ошибаются. Они могут выдавать совершенно разные ответы на один и тот же вопрос, но делают это с одинаковой уверенностью. Кроме того, ИИ придает обычным постам из соцсетей такой же авторитет, как и научным медицинским исследованиям.

Вторая угроза касается детской безопасности в кризисных ситуациях. Отчет показывает, что алгоритмы Google игнорируют явные признаки суицидальных мыслей у подростков, усугубляют симптомы психоза и мании. Также нейросеть оправдывает расстройства пищевого поведения, поощряет употребление каннабиса и даже выдает инструкции по созданию дипфейков, что может спровоцировать травлю в школе.

ИИ в поиске Google работает в двух форматах. Первый — это диалоговый интерфейс AI Mode (Режим ИИ). Второй — автоматический блок AI Overview (Обзор ИИ), который выводится над результатами поиска автоматически. Главная сложность заключается в том, что владельцы устройств не могут полностью отключить эти функции в настройках.

Разработчики Google не согласились со многими выводами отчета. Представители компании заявили, что ИИ-функции имеют строгие фильтры безопасности. При поиске на чувствительные темы алгоритмы показывают контакты экстренных служб и ссылки на официальные источники. Кроме того, в Google отметили, что исследователи использовали двусмысленные запросы, которые не отражают реальное поведение обычных людей в поиске.

Тем не менее, в Common Sense Media считают защиту детей в поисковике недостаточной. В ходе тестов ИИ-функции Google провалили проверку по семи из восьми базовых стандартов, которые использует правозащитная организация. Специалисты рекомендуют родителям внимательнее следить за тем, как дети используют поиск на своих хромбуках.

Google использует файлы из поиска для обучения своего искусственного интеллекта