Яндекс предложил концепцию проверки ИИ на духовно‑нравственные ценности.
На августовском совещании по регулированию искусственного интеллекта Яндекс представил властям концепцию тестовых заданий и эталонов для оценки соответствия ИИ духовно‑нравственным ценностям.
По информации от участников обсуждения и близкого к Минцифры источника.
По словам авторов материала, проект пока находится на стадии концепции.
На совещании обсуждались требования к тестовым данным: данные не должны быть публичными, и разработчики не должны иметь возможность легко подстроить модели под тест.
Бизнес‑делегация указала, что закрытый датасет может оказаться слишком сложным для прохождения и препятствовать развитию моделей. Был предложен компромисс: тестирование будет использовать как закрытые, так и открытые данные с различными формулировками вопросов.
Контекст: в конце июля президент подписал закон о суверенных и национальных моделях ИИ, которым следует руководствоваться законами России и духовно‑нравственными ценностями.
