К 2030 году в России появится не менее пяти систем для распознавания видеофейков в СМИ и социальных сетях. К 2025 году такие системы должны распознавать не менее 70% фейков. На это власти планируют выделить гранты. Участники рынка предупреждают, что 70% распознавания не хватит для вычисления сгенерированного профессионального контента. Отечественные видеосервисы не против внедрить у себя подобный софт, но, если использовать его обяжут зарубежные платформы, они вряд ли станут исполнять требования, считают эксперты.
Фото: Александр Коряков, Коммерсантъ
Фото: Александр Коряков, Коммерсантъ
Правительство планирует до 2030 года профинансировать разработку пяти программ по распознаванию сгенерированного контента (deep fakes), следует из «дорожной карты» развития «Национального общесистемного ПО», принятой правительством 16 декабря. На проекты планируется выделить гранты, их развитием займется Фонд содействия инновациям.
Из документа следует, что к 2025 году необходимо представить решение, которое будет способно распознать не менее 70% поддельного контента.
Такие системы, как следует из «дорожной карты», могут быть использованы в СМИ и соцсетях. В Фонде содействия инновациям отказались от комментариев. Одним из способов совершения противоправных действий в интернете является использование дипфейков, отметили в Минцифры: «Для того, чтобы эффективно бороться с ними, требуется специальное программное обеспечение, которое позволит устанавливать подлинность различных типов аудио и визуальной информации». Пользователями технологии, по мнению министерства, могут стать новостные, медиа и PR-агентства, которые нуждаются в проверке достоверности информации, а также пользователи, сомневающиеся в подлинности аудио- и визуального контента. Конкретные проекты, в рамках дорожной карты, их реализации и объемы финансирования будут определены позже, добавили в Минцифры.
Deepfake — метод синтеза данных, который позволяет заменять в оригинальных видеороликах элементы изображения. Технология позволяет создавать фейковые видеозаписи с заявлениями известных личностей, в том числе политиков.
В этом году власти уже начали обращать внимание на борьбу с «дипфейками». В частности, Роскомнадзор заинтересовался разработкой НИУ ИТМО в области распознавания лжи по видеозаписи с помощью искусственного интеллекта и допускает, что система может использоваться для выявления «дипфейков».
На рынке давно есть проблема выявления «дипфейков», говорят в RecFaces (разрабатывает программы биометрической идентификации на основе искусственного интеллекта). Но там не считают инициативу реализуемой, поскольку формат поддержки проектов в «дорожной карте» предполагает наличие «якорного» заказчика, а в данном случае его пока нет. В RecFaces также отметили, что существует профессиональный и любительский сгенерированный контент:
«Если для любительского контента точности распознавания в 70% может хватить, то для профессионального, с актерами и видеомонтажерами, этого недостаточно, поскольку нужно анализировать дополнительные данные».
По оценке RecFaces, разработка ПО, которое сможет различать профессиональный сгенерированный контент, может обойтись в миллиарды рублей.
Использование «дипфейков» сейчас не урегулировано, но начинает активно проявляться в рекламе и видеопродакшене в целом, отмечает источник “Ъ” в одной из крупных IT-компаний: «Это уже стало предметом судебных разбирательств, и в перспективе их количество может расти по экспоненте». По его мнению, ПО для распознавания «дипфейков» будет востребовано в судах для подтверждения сфабрикованного с их помощью контента.
По словам юрисконсульта практики интеллектуальной собственности ЭБР Спартака Хулхачиева, государство может попытаться реализовать принудительную установку такого ПО на российские видеосервисы, сервисы YouTube или TikTok, но площадки вряд ли отнесутся к этому однозначно положительно.
Директор по развитию бизнеса RuTube Алексей Чиков заверил, что «в будущем платформе было бы интересно использовать технологию распознавания "дипфейков", сейчас это не является приоритетом».
По его словам, пока количество нелегитимного контента с «дипфейками» в видеохостинге невелико и «система модерации справляется сама». В «Ростелекоме» также допускают возможность тестирования подобного ПО.
Прежде всего точность в 70% означает, что примерно в каждом третьем случае нейросеть будет ошибаться, подчеркивает исполнительный директор по стратегии и инновационному развитию блока кибербезопасности МТС Евгений Черешнев: «Глобально это не поможет бороться с фейками. Кроме того, было бы правильнее не создавать технологию с нуля. В условиях современной геополитической обстановки у нас нет трех лет на решение задачи».
На рынке подобные решения есть. В частности, VisionLabs решает задачу определения «физической» подмены лица фейками в виде распечатанных и 3D-масок, фотографиями или видео с экранов телефонов и разработала защиту от виртуального изменения изображения, говорит гендиректор компании Дмитрий Марков. По его словам, одним из способов применения «дипфейков» злоумышленниками может быть быстрое создание и распространение компрометирующих видео в хорошем качестве: «Из-за большого количества генерируемого контента и очень хорошего качества фейков модераторы социальных сетей могут не отследить их, а потому нужен автоматический алгоритм детекции».