Генеративный ИИ обманул 12,5 тысяч людей по всему миру — а вы сможете устоять?

Распознавание изображений, которые создал генеративный ИИ, или изменённых с его помощью, будет становиться всё более важным по мере того, как инструменты для создания контента будут становиться всё доступнее. Несколько лет назад эксперту требовалось много времени и усилий, чтобы создать убедительную подделку. Теперь это можно сделать в несколько нажатий клавиш или кликов.

Недавнее исследование, проведённое учёными из лаборатории Microsoft AI for Good Lab показало, что способность людей распознавать изображения, созданные искусственным интеллектом, «лишь немногим выше, чем вероятность выпадения орла или решки при подбрасывании монеты». Те, кто участвовал в игре по распознаванию изображений, созданных искусственным интеллектом, в среднем справились с заданием на 62%.

В августе 2024 года компания Microsoft опубликовала викторину «Настоящее или нет», в которой участникам предлагалось определить, какие изображения были созданы искусственным интеллектом, а какие изменены. Эта игра легла в основу исследования.

Было проведено около 287 000 оценок изображений, в которых приняли участие более 12 500 человек.

«Генеративный ИИ быстро развивается, и часто появляются новые или обновлённые генераторы, которые выдают ещё более реалистичные результаты», — говорится в исследовании. — «Можно предположить, что наши результаты, скорее всего, завышают способность современных людей отличать изображения, созданные искусственным интеллектом, от реальных».

Исследование также показало, что инструменты для распознавания ИИ более надёжны в определении изображений, созданных искусственным интеллектом, чем люди. Однако команда исследователей подчеркнула, что автоматизированные инструменты тоже могут ошибаться.

Генеративный ИИ лучше имитирует пейзажи, чем лица

Результаты исследования показывают, что люди лучше распознают людей, чем пейзажи. Успешность распознавания людей составила около 65 %, в то время как фотографии природы были правильно идентифицированы только в 59 % случаев.

Исследователи, проводившие эксперимент, утверждают, что такие результаты могут быть связаны с высокой способностью человека распознавать лица. Наш мозг устроен так, чтобы распознавать лица, поэтому такая связь кажется вполне вероятной.

В недавнем исследовании, проведённом в Университете Суррея говорится о том, что человеческий мозг «стремится к лицам и распознаёт их повсюду».

Участники показали одинаковый уровень успешности при просмотре как реальных, так и сгенерированных ИИ изображений (62 %) и при просмотре только тех, которые создал генеративный ИИ (63 %).

Для создания изображений, представленных участникам викторины, использовались несколько лучших генераторов изображений на основе ИИ. Изображения, созданные с помощью генеративно-состязательной сети (GAN), имели самый высокий процент ошибок (55 %).

Исследователи, проводившие эксперимент, подчеркнули, что игра не была предназначена для определения фотореалистичности изображений, созданных с помощью различных моделей.

«Мы не должны считать, что архитектура модели отвечает за эстетику её результатов, — говорится в статье. — Архитектура модели определяет лишь то, насколько успешно модель воспроизводит обучающий набор данных».

Изображения, которые вызвали наименьший отклик, содержали элементы, которые выглядели неестественно, но были подлинными. Например, освещение на изображении может показаться «неправильным» на первый взгляд, но эффект был вызван уникальными условиями освещения, а не искусственным интеллектом.

Команда, проводившая исследование, разрабатывает собственный детектор искусственного интеллекта, который, как утверждается, с вероятностью более 95 % распознаёт как реальные изображения, так и изображения, созданные искусственным интеллектом. Будет интересно посмотреть, смогут ли детекторы искусственного интеллекта превзойти инструменты искусственного интеллекта, для распознавания которых они предназначены.

Пройдите тест

Викторина «Правда или нет» для распознавания ИИ-изображений от Microsoft позволяет проверить, умеете ли вы распознавать изображения, созданные искусственным интеллектом. Она всё ещё доступна, то есть пройти её может каждый. Признаюсь, я набрал 47 % баллов ниже среднего, пытаясь определить, какие изображения были изменены или созданы с помощью ИИ.

В некоторых случаях были явные признаки использования ИИ, например выступающие артефакты или обрезанные или неполные объекты. Но во многих случаях я действительно не мог определить, настоящее изображение или нет.

Полагаю, мне не стоит смущаться, учитывая, что тысячи людей играли в ту же игру и угадывали изображения, которые создал генеративный ИИ, лишь немногим лучше, чем при подбрасывании монетки.

После прохождения теста, пожалуйста, поделитесь своим результатом и впечатлениями в комментариях ниже. Нам бы хотелось узнать, насколько хорошо технически подкованная аудитория распознаёт изображения, которые создал генеративный ИИ.

ЧИТАЙТЕ ТАКЖЕ: НОВАЯ ИИ-МОДЕЛЬ GOOGLE: ВЕСЁЛЫЙ ЭКСПЕРИМЕНТ ИЛИ УГРОЗА ГЕЙМ-ДЕВЕЛОПЕРАМ?