ИИ-модели в России предложили тестировать на «духовность» ради господдержки

Российские IT-компании смогут передавать большие ИИ-модели в независимую испытательную лабораторию, чтобы они могли претендовать на господдержку и один из специальных статусов — национальной или суверенной модели. Обсуждение будущих правил проходило в конце июля — начале августа на площадке АНО «Цифровая экономика».

Проверка затронет не все ИИ-системы на рынке, а только разработки, которые претендуют на эти статусы. Закон об ИИ, принятый 26 июля, как раз ввёл их для крупных фундаментальных моделей. Чтобы получить такой статус, модель должна подтвердить соответствие российскому законодательству и традиционным духовно-нравственным ценностям. Отдельный перечень этих ценностей создавать не планируют: критерии собираются опереть на указ президента № 809.

Вместо списка вместе с бизнесом разработают специальные бенчмарки — наборы тестов и сценариев, по которым будут оценивать ответы моделей. Лаборатории также изучат архитектуру модели, сведения о разработчике, механизмы фильтрации и устойчивость к промпт-инъекциям.

После проверки лаборатория направит в правкомиссию заключение о том, соответствует ли модель требованиям. Положительный вердикт станет одним из этапов получения статуса национальной или суверенной модели и откроет путь к мерам господдержки. АНО «Цифровая экономика» при этом назвала первыми сферами применения таких моделей образование и предоставление государственных услуг.

Как вам идея проверять ИИ на «духовность» через бенчмарки и промпт-инъекции?