Яндекс предлагает концепцию проверки ИИ на соответствие ценностям страны.
На совещании по регулированию обсуждалась концепция тестовых заданий и эталонов для оценки ИИ на соответствие ценностям страны; проект пока находится на стадии концепции.
По информации, регуляторы потребовали, чтобы данные для тестов не становились публичными и чтобы разработчики не могли легко подстроить модели под тест.
Бизнес‑участники отметили, что закрытые датасеты могут оказаться сложными для прохождения и затруднить развитие моделей. Были предложены компромиссные варианты: тесты будут использовать как закрытые, так и открытые данные с различной формулировкой вопросов.
Контекст: в конце июля был подписан закон о суверенных и национальных моделях искусственного интеллекта. Такие модели должны соответствовать законам страны и ценностям общества.
