Депутаты Госдумы от КПРФ Нина Останина, Сергей Обухов, Алексей Корниенко и Михаил Матвеев внесли на рассмотрение законопроект об обязательной маркировке материалов, созданных или даже просто измененных с помощью больших моделей искусственного интеллекта. Эта обязанность, по их мнению, должна быть возложена на «лицо, предоставляющее возможность применения» ИИ-модели — то есть на сам сервис или разработчика.
В проекте указано, что под его действие попадает любой «информационный материал», созданный или измененный с помощью генеративного ИИ. Из этих формулировок следует, что помечать следует и оригинальный текст, отправленный модели на проверку орфографии или пунктуации. Как именно должна выглядеть маркировка, где она будет размещаться и что содержать, коммунисты предлагают определить правительству.
Они объясняют свою инициативу необходимостью защиты населения от дезинформации и дипфейков. Депутаты указывают, что созданные с помощью генеративных моделей материалы могут использоваться для преступлений против собственности, половой неприкосновенности детей, общественной безопасности, «основ конституционного строя» и т.д.
«Особая актуальность законопроекта связана с необходимостью обеспечения безопасности наших граждан и предотвращения распространения недостоверной информации, особенно в период проведения СВО», — говорится в пояснительной записке к документу.
После популяризации генеративных моделей пользователи Сети и парламентарии различных стран заговорили о необходимости регуляции новой отрасли и маркировки созданного ею контента.
С 14 августа компания Anthropic, например, начала внедрять в Claude невидимую маркировку текста: модель при генерации текста придерживается определенного стилистического рисунка, который можно обнаружить с помощью специального ключа. Однако даже сама компания Anthropic признает, что этот подход может не работать на коротких текстах или в случае, если пользователь после сам редактирует получившийся материал.
При генерации изображений некоторые сервисы встраивают в метаданные файла запись о том, что он был создан конкретной моделью — однако от этой маркировки легко избавиться, просто сделав скриншот изображения.
Фото: Руслан Терехов / SOTA
подписывайтесь на SOTA дарите нам бусты поддержите нас иностранной картой криптовалютой
