Искусственно интеллектуальная собственность
Объем созданного при помощи нейросетей контента за год вырос в 17 раз
Количество размещенного в интернете аудиовизуального контента, созданного с использованием искусственного интеллекта, выросло за год в 17 раз, подсчитали в АНО «Диалог регионы». Всего с начала 2022 года организация выявила более полумиллиона материалов, изготовленных с вмешательством ИИ. Собранные данные «Диалог» предложит для формирования законодательства о противодействии фейкам. Участники рынка полагают, что их можно использовать для разработки нейросетей, которые будут выявлять контент, созданный ИИ.
Фото: Дмитрий Лебедев, Коммерсантъ
Фото: Дмитрий Лебедев, Коммерсантъ
Система по противодействию распространению фейков в интернете «Зефир» с момента запуска в январе 2022 года собрала данные о более чем 570 тыс. единиц контента, созданных с применением искусственного интеллекта, сообщили “Ъ” в АНО «Диалог» (разработчик и оператор системы). Это 10% от всего проанализированного контента, причем в 2023 году число материалов с вмешательством ИИ выросло в 17 раз по сравнению с 2022 годом.
Как уточнили в АНО «Диалог регионы», результаты мониторинга будут «использоваться для формирования инициатив по доработке законодательства о противодействии фейкам». Также среди целей сбора статистики — разработка универсальной методологии расчета точности систем распознавания.
«Зефир» использует машинное обучение для выявления сфабрикованного аудиовизуального контента, уточнили в АНО «Диалог». Цель — обнаружить дипфейки и спуфинг (подмена голоса). Функционал системы позволяет обнаруживать также съемку с заменой фона, обработку аудио (очищение от шумов, транскрибирование речи, автоматизированный перевод). Собранная статистика включает любые материалы, где так или иначе использовался ИИ. Одна из выявленных системой тенденций — рост популярности спуфинга, опередившего по популярности визуальные дипфейки. В этом году эксперты отмечают рост аудиодипфейков для мошеннических звонков с поддельных аккаунтов руководителей (см. “Ъ” от 25 января).
Гендиректор АНО «Диалог» и «Диалог регионы» Владимир Табак на Петербургском международном юридическом форуме (ПМЮФ) 28 июня отметил, что «Диалог» готов к сотрудничеству со «Сбером» и другими операторами аналогичных решений для выявления недостоверной информации.
Никита Михалков, режиссер, на брифинге 46-го Московского международного кинофестиваля (цитата, «Российская газета»):
«Когда на экране появится Бондарчук в образе дипфейка и будет говорить слова, которые бы никогда в жизни не говорил, это преступление».
У «Сбера» с 2022 года есть система обнаружения синтетического изменения изображений лиц на видео, уточнили “Ъ” в компании. Она предназначена для защиты от кибератак с обходом систем распознавания лиц, выявления на ранних стадиях вбросов фейковых новостей и обеспечения защиты переговоров по видео-конференц-связи. Статистику по работе системы в «Сбере» не раскрыли. Систему распознавания лжи на видео с помощью ИИ также тестировал Роскомнадзор (см. “Ъ” от 2 ноября 2022 года). На запрос “Ъ” о внедрении решения Роскомнадзор не ответил.
С прошлого года над законопроектом, определяющим ответственность разработчиков и призванным исключить использование ИИ в мошеннических целях, работает «Единая Россия». Также в Госдуме работают над законопроектом о маркировке графическими или водяными знаками контента, созданного при помощи нейросетей. На ПМЮФ 28 июня зампред комитета Госдумы по информполитике Антон Горелкин рассказал, что при участии МВД идет работа над законопроектом, признающим использование дипфейков отягчающим обстоятельством при совершении преступлений. В феврале «Ведомости» писали, что над нормами регулирования такого контента совместно с МВД работает Минцифры. В министерствах на запросы “Ъ” не ответили.
В обозримом будущем можно ожидать появления новых нейросетей, которые будут определять контент, созданный ИИ, маркировать его и станут эффективным инструментом борьбы с дипфейками и спуфингом, полагает руководитель направления сервисов защиты облачного провайдера Nubes Александр Быков.
Стремительный рост числа поддельного аудио- и видеоконтента — общемировое явление, подчеркивает руководитель компании «Интернет-розыск» Игорь Бедеров. По его данным, в 2023 году количество видеодипфейков выросло по сравнению с предыдущим годом в три раза, аудио — в восемь. Учитывая доступность ИИ, добавляет эксперт, показатель будет расти минимум в десять раз ежегодно, что приведет к увеличению случаев мошенничества.