Google Photos научится распознавать ИИ-фото: как это будет работать?

Вскоре Google Фото может упростить определение того, было ли фото или видео изменено с помощью инструментов искусственного интеллекта. Эта еще не выпущенная функция, обнаруженная благодаря упоминаниям в коде приложения, призвана решить проблему невозможности точно определить, является ли фото или видео подлинным или дипфейком.

Находка была сделана в версии приложения 7.41, где в коде упоминается функция под названием «threepio». Она добавит новый раздел «Как это было создано» в информацию о фотографии. Пользователи смогут провести пальцем вверх по фото или видео, чтобы увидеть подробности о том, как оно было создано или отредактировано.

Возможные пометки могут включать:

• «Медиафайл создан с помощью ИИ»
• «Отредактировано с помощью инструментов ИИ»
• «Отредактировано с помощью нескольких инструментов ИИ»
• «Отредактировано без использования инструментов ИИ»
• «Медиафайл снят на камеру без программных корректировок»

Функция также сможет определять, когда использовалось несколько инструментов редактирования или когда было объединено несколько изображений. Кроме того, если история правок файла отсутствует или была изменена, Google Фото вместо этого покажет сообщение об ошибке.

Видео от DGL.RU

Согласно источнику, эта функциональность, по-видимому, работает на основе Content Credentials — системы, которая прикрепляет к файлу постоянную историю правок. Эта информация остается с медиафайлом даже при его передаче, если только ее не удалить.

Идея не совсем нова для Google. Компания уже разработала SynthID, проект DeepMind, который невидимым образом наносит водяные знаки на изображения, сгенерированные ИИ. Хотя неясно, используется ли здесь SynthID, оба подхода направлены на то, чтобы предоставить людям больше контекста о происхождении визуального контента.

Другие компании работают над подобными решениями. Инициатива Adobe Content Authenticity отслеживает правки в метаданных изображений, в то время как Meta обязалась маркировать сгенерированные ИИ изображения в Facebook и Instagram (принадлежит компании Meta, признанной экстремистской и запрещённой на территории РФ). Вместе эти проекты показывают, что технологическая индустрия считает прозрачность в отношении правок с помощью ИИ все более важной.

Если Google выпустит эту функцию в Google Фото, она может стать полезным инструментом для быстрой проверки подлинности фотографий и видео. Хотя ирония в том, что та же компания разработала инструменты для создания очень реалистичных изображений и видео с помощью ИИ, не ускользает от меня, я вижу, насколько ценной может быть такая функция в таких областях, как журналистика, образование и онлайн-торговля, где доверие имеет решающее значение. Кроме того, включение такого инструмента в одно из самых популярных фотоприложений может послужить примером для других.

Google Home в 2025: какие сюрпризы готовит обновление?