Предполагается, что новая независимая система будет оценивать соответствие нейросетей техническим и нормативно-этическим стандартам. Аудит планируют проводить на всех этапах жизненного цикла продукта: от разработки до эксплуатации. В первую очередь требования коснутся разработчиков решений для государственного сектора и объектов критической информационной инфраструктуры (КИИ).

Особое внимание при сертификации уделят критериям доверенности и надежности искусственного интеллекта. Специалисты будут проверять модели на наличие уязвимостей, устойчивость к атакам и отсутствие манипулятивных алгоритмов. Также в фокусе внимания окажется работа ИИ в высокорисковых сферах, таких как медицина и финансы. Одной из ключевых задач станет оценка суверенности отечественных разработок.

По словам источника, выбор ИСП РАН в качестве ведущего участника проекта обусловлен технической экспертизой организации. На базе института уже функционирует Исследовательский центр доверенного искусственного интеллекта (ИЦДИИ), специалисты которого разрабатывают методики верификации ИИ-технологий. Создание полноценной платформы для сертификации станет логическим продолжением текущей деятельности центра.