НаверхGoogle Gemini отличит реальное видео от сгенерированного ИИ — борьба с фейками в разгаре
Новая функция помогает понять, где кадр настоящий, а где создан машиной. Разбираем, как это работает и зачем нужно.
Читать: 3 мин. 
Основные идеи
Gemini AI теперь распознаёт видео, созданные с помощью ИИ, как и изображения
Технология SynthID ставит цифровой водяной знак на контент, созданный инструментами Google AI
Ограничения включают поддержку только видео до 100 МБ и длительностью не более 90 секунд
Универсальные метаданные C2PA позволят детекторам ИИ распознавать контент с любых платформ
Мнение автора
Google Gemini AI делает важный шаг в борьбе с фейковым контентом, теперь умея распознавать не только изображения, но и видео, созданные с помощью ИИ. В основе работы лежит технология SynthID, которая незаметно маркирует контент, создаваемый инструментами Google. Это упрощает проверку подлинности медиафайлов, хотя на данный момент работает только с видео, созданными собственными инструментами Google. С внедрением метаданных C2PA такая проверка может стать универсальной, что критически важно для борьбы с дезинформацией.
Чат-бот Google Gemini с искусственным интеллектом теперь может определять, является ли видео подлинным или созданным с помощью ИИ.
Легко помечайте контент, созданный ИИ
В ноябре этого года Gemini AI получил возможность проверять, было ли изображение создано с помощью ИИ. Теперь чат-бот также может распознавать видео, созданные с помощью ИИ.
Использовать функцию обнаружения видео с помощью ИИ в Gemini очень просто. Процесс практически идентичен использованию инструмента для обнаружения изображений. Просто откройте приложение Gemini на своем смартфоне или посетите веб-сайт на компьютере. Затем загрузите видео, которое, по вашему мнению, было создано с помощью ИИ, и спросите, например: «Это видео создано с помощью ИИ?».
Однако есть одна загвоздка: Gemini в настоящее время может распознавать только видео, созданные с помощью собственных инструментов Google. Это то же самое ограничение, с которым вы сталкиваетесь при использовании инструмента для распознавания изображений. Кроме того, сейчас вы можете загружать только видео размером не более 100 МБ и длительностью до 90 секунд.
Тем не менее чат-боту требуется несколько секунд, чтобы проанализировать как визуальное, так и звуковое содержимое загруженного видео, а затем сообщить вам, было ли оно создано с помощью ИИ. Вы также заметите в результатах упоминание водяного знака SynthID, который, по сути, помогает Google идентифицировать контент, созданный с помощью его собственных инструментов ИИ.
Как SynthID помогает Gemini с контентом от ИИ?
Генеративный ИИ можно использовать для создания изображений, видео и текстового контента. Чтобы было легко определить, создан ли контент ИИ или человеком, Google использует технологию SynthID. Она наносит водяной знак на весь контент, созданный с помощью инструментов Google AI. Этот цифровой водяной знак незаметен для человека, но его легко обнаружить с помощью детектора SynthID от Google.
Когда вы спрашиваете Gemini, создано ли загруженное изображение или видео с помощью ИИ, чат-бот использует Synth Detector для проверки наличия водяных знаков SynthID. Если он их находит, чат-бот отвечает, что в загруженном контенте обнаружен ИИ. В противном случае вы получите ответ вроде «SynthID не обнаружен». Это указывает на то, что контент не содержит никаких следов ИИ.
В настоящее время водяной знак SynthID внедряется только в контент, созданный или измененный с помощью инструментов искусственного интеллекта Google. Именно поэтому Gemini не может определить, был ли контент сгенерирован или отредактирован с помощью ИИ, если он создан с использованием других инструментов, таких как ChatGPT.
Чтобы детекторы ИИ могли идентифицировать контент, созданный любым инструментом, компании работают над созданием Коалиции по происхождению и подлинности контента (C2PA) в качестве универсального стандарта. В рамках этой работы большая часть контента, созданного с помощью ИИ, будет содержать метаданные C2PA. Однако это все еще находится в разработке, и многие инструменты ИИ еще не приняли этот стандарт. Google недавно объявил, что изображения, созданные с помощью Nano Banana Pro, будут содержать метаданные C2PA.
Детекторы ИИ никогда еще не были так важны
С развитием инструментов искусственного интеллекта становится все сложнее отличить реальный контент от контента, созданного ИИ. Моя жизнь вращается вокруг технологий, и я работаю с инструментами ИИ с тех времен, когда модели вроде ModelScope с трудом справлялись даже с простыми запросами. Поэтому я все еще могу определить, когда контент сгенерирован ИИ. Но для пожилых людей, таких как мои родители, это не так просто.
Всего несколько дней назад мой 55-летний отец считал, что изображение разрушенного Карлайлского моста в Ланкастере, которое он увидел в интернете, было подлинным. Позже выяснилось, что оно было создано искусственным интеллектом. Детекторы видео и изображений на основе ИИ облегчат обнаружение подобных сгенерированных медиафайлов. Я также надеюсь, что метаданные C2PA будут быстро внедрены в качестве универсального стандарта. Тогда станет возможным помечать контент, созданный ИИ, с помощью любого инструмента обнаружения.
Poco официально представила F8 Ultra и F8 Pro — обзор смартфонов
Подпишитесь на наши новости: