Изображения, аудио и видео, созданные с помощью нейросетей, возможно, придётся помечать в обязательном порядке. Это следует из проекта поправок к принятому в июле закону об искусственном интеллекте и Гражданскому кодексу, пишут Ведомости.
Сейчас закон предполагает добровольную маркировку. Человек или компания, применившие нейросеть при создании материала, должны иметь возможность поставить пометку, но не обязаны это делать.
Поправки предлагают сделать маркировку обязательной, а её формат и порядок размещения определяет государственный орган. Какой именно, в проекте не указано.
Эксперты отмечают ряд вопросов, которые не учитываются в поправках:
- не прописаны правила распространения для материалов, которые нейросеть не создавала, а только отредактировала;
- непонятно, кто должен ставить пометку, если материал создал один человек, а распространяет другой;
- не определено, кто будет проверять наличие метки и сохранится ли она при переносе файла с одной платформы на другую;
- есть ли ответственность за отсутствие маркировки.
Эксперты сомневаются в эффективности такой меры. Она вряд ли поможет бороться с дипфейками — их создатели просто продолжат пользоваться зарубежными сервисами и выкладывать материалы без пометок. В итоге норма усложнит работу с российскими ИИ-сервисами, но заявленную проблему не решит.
В качестве ориентира эксперты предлагают посмотреть на опыт других стран. В Китае сервисы добавляют к контенту видимые и скрытые метки, платформы их проверяют, а пользователи сами сообщают о том, что материал создан искусственно. Европейский закон об искусственном интеллекте требует от разработчика обеспечить машиночитаемую маркировку, а от того, кто распространяет дипфейк, раскрыть его происхождение.