Разработчики больших ИИ-моделей в России смогут отправлять их на независимую экспертизу соответствия закону и традиционным духовно-нравственным ценностям. Об этом пишут Ведомости со ссылкой на источники, участвующие в обсуждении подзаконных актов к закону об искусственном интеллекте.
Механизм готовят Минцифры совместно с ФСБ и ФСТЭК. Вместе с бизнесом разработают бенчмарки, по которым будут тестировать большие фундаментальные модели на соответствие закону и ценностям. Для этого правкомиссия по цифровизации может создать отдельную испытательную лабораторию.
Что будут проверять: лаборатория проанализирует ответы модели на заранее подготовленные запросы и попробует обойти встроенные ограничения с помощью промпт-инъекций. По итогам она направит в правкомиссию заключение о соответствии или несоответствии модели ценностям.
Зачем это разработчикам: положительное заключение даёт право на меры господдержки. При этом проверка не обязательна для всех моделей на рынке — она нужна только тем, кто претендует на статус национальной или суверенной модели, которые ввёл закон об ИИ, принятый в июле.
Что говорят эксперты: главный вопрос — насколько измеримыми и прозрачными окажутся критерии оценки. Такие категории, как справедливость, гражданственность и историческая память, сложно напрямую перевести в технические требования.
В июле мы рассказывали, что Госдума приняла в первом чтении законопроект, который устанавливает базовые принципы регулирования искусственного интеллекта. Он регулирует вопросы, связанные с разработкой, внедрением и применением больших фундаментальных ИИ-моделей. Это крупные системы с миллиардами параметров, например ChatGPT, Claude или российские YandexGPT и GigaChat.