В России разрабатывается закон о маркировке нейросетевого контента

Это создаёт условия для мошенничества и манипуляций общественным мнением. Маркировка цифрового контента поможет пользователям определить, что информация создана нейросетью и требует дополнительной проверки, подчёркивают эксперты Роскачества.

Вслед за крупнейшими игроками на рынке искусственного интеллекта в России начнётся маркировка контента, созданного нейросетями. Каждый год в интернете растёт количество фейков. Например, по данным АНО «Диалог Регионы», в прошлом году в российском сегменте интернета было обнаружено 4 тысячи уникальных фейков и 12 миллионов случаев их распространения.

Эксперты прогнозируют, что в этом году число уникальных фейков достигнет 4,5 тысячи, а количество их копий возрастёт до 15 миллионов. Поэтому необходимы срочные меры по регулированию контента, созданного нейросетями, считают в Роскачестве.

Необходимость принятия закона о маркировке контента, созданного нейросетями, назрела уже давно. Отсутствие такого регулирования представляет серьёзную угрозу безопасности пользователей.

Неконтролируемое распространение контента, созданного нейросетями на базе искусственного интеллекта (ИИ), может привести к дезинформации и вызвать панику среди населения.

В Государственной Думе уже началась разработка закона о маркировке ИИ-контента. Сейчас обсуждается, как именно и в каких случаях будет маркироваться контент, кто будет отвечать за его распространение. Будет ли маркировка касаться только контента, распространяемого СМИ, или пользовательского контента, используемого в личных целях.

Почему важно маркировать цифровой контент

Введение обязательной маркировки контента, созданного нейросетями, имеет ряд преимуществ для пользователей:

• Большинство людей не могут критически воспринимать огромные информационные потоки. Метки помогут пользователям легко и быстро распознать фейки и избежать их распространения.
• Водяной знак или другой вид маркировки будет способствовать осознанному потреблению цифрового контента и снижению риска попасться на уловки мошенников.
• Маркировка служит своего рода страховкой для общества и бизнеса, хотя и не является абсолютной гарантией защиты от дезинформации.
• В современном цифровом мире умение различать манипуляции становится жизненно важным. Маркировка ИИ-контента — первый шаг к формированию здоровой цифровой экосистемы.

«Сегодня ИИ-сервисы доступны каждому, у кого есть устройство с выходом в интернет. Только с помощью специального программного обеспечения можно отличить видео, фото и текст, созданные нейросетью. Это создаёт условия для мошенничества и манипуляций общественным мнением. Соответствующая маркировка цифрового контента поможет пользователям определить, что информация была создана нейросетью и требует дополнительной проверки», — отмечает Сергей Кузьменко, руководитель Центра цифровой экспертизы Роскачества.