Об этом пишут «Ведомости» со ссылкой на участников обсуждения и Минцифры. Российские IT-компании смогут отдавать свои нейросети на проверку в независимые лаборатории, которые будут оценивать их ответы на соответствие российским законам и «традиционным духовно-нравственным ценностям».
Проверка будет касаться не всех нейросетей, а только больших моделей, разработчики которых хотят получить статус национальных или суверенных. Такой статус даст им доступ к господдержке, государственным данным и преимущества при использовании в отдельных сферах, в том числе в госзакупках.
Критерии проверки должны разработать Минцифры при участии ФСБ и ФСТЭК. Отдельно определять, что считать «традиционными ценностями», власти не планируют — их перечень уже содержится в указе Владимира Путина № 809. Среди них указаны, например, патриотизм, гражданственность, крепкая семья, историческая память, справедливость и «приоритет духовного над материальным».
Лаборатории будут проверять ответы моделей на заранее подготовленные запросы, а также пытаться обходить их ограничения с помощью специальных инструкций. Разработчикам придется предоставить сведения об устройстве модели и механизмах фильтрации контента.
После тестов лаборатория даст свое заключение, но окончательное решение о том, получит ли модель статус национальной или суверенной, останется за Минцифры. ФСБ и ФСТЭК отдельно будут проверять безопасность моделей, которые планируют использовать в государственных системах.
Как именно будут проверять нейросети, пока не решено. Правила еще обсуждают с ведомствами, экспертами и IT-компаниями. При этом остается неясным, как такие понятия, как «справедливость» или «историческая память», собираются переводить в конкретные критерии, по которым можно однозначно оценить ответы ИИ.
подписывайтесь на SOTA дарите нам бусты поддержите нас иностранной картой криптовалютой
