Российские разработчики ИИ смогут передавать большие фундаментальные модели на независимую проверку соответствия законодательству и традиционным духовно-нравственным ценностям. Механизм готовят Минцифры совместно с ФСБ и ФСТЭК в рамках подзаконных актов к закону об ИИ, принятому в июле. Об этом сообщают «Ведомости».
Вместе с бизнесом будут разработаны специальные бенчмарки, с помощью которых российские большие фундаментальные модели будут тестировать на предмет соответствия закону и ценностям. Для этого правкомиссия по цифровизации может создать испытательную лабораторию. В ней будут анализировать ответы ИИ на заранее подготовленные запросы, а также проверять, можно ли обойти встроенные ограничения с помощью промпт-инъекций.
После тестирования лаборатория направит в правкомиссию заключение о соответствии или несоответствии ответов модели традиционным ценностям. Положительное заключение в дальнейшем дает право получить меры господдержки.
При этом обязательной проверки всех представленных на рынке моделей не предполагается. Экспертиза потребуется разработкам, претендующим на специальные статусы национальной или суверенной модели.
Эксперты отмечают, что ключевым вопросом остается то, насколько измеримыми и прозрачными окажутся критерии оценки. Например, такие категории, как справедливость, гражданственность и историческая память, сложно напрямую перевести в технические требования.
Ранее стандарт, продвигающий традиционные ценности, разработали для рекламодателей.
