Использование нейросетей для оценки достижений школьников на недавней олимпиаде по экономике продемонстрировало как возможности, так и скрытые риски технологий. В ходе соревнований две модели искусственного интеллекта осуществляли параллельную проверку ответов участников, а в ситуациях, когда их вердикты не совпадали, задействовалась третья модель. Несмотря на автоматизацию, финальное слово оставалось за экспертами — решение принимали исключительно члены жюри, сообщает Lenta.ru со ссылкой на пресс-службу конференции #ВДЕЛЕ.
Специалист Фёдоровых отметил, что алгоритмы проявляют большую последовательность в работе, чем люди, однако столкнулись с системными сбоями при выполнении одной из задач. Проблема проявилась лишь после того, как школьники начали массово подавать апелляции. По словам Фёдоровых, у моделей есть программная особенность: без прямого указания в инструкции работать строже или разрешать спорные моменты в пользу ученика, ИИ склонен завышать баллы. При этом сам процесс апелляции не позволяет обнаружить подобный перекос в оценках.
В свою очередь, Игорь Бедеров, возглавляющий совет по противодействию технологическим правонарушениям КС НСБ России, в интервью RT подчеркнул необходимость верификации ответов нейросетей в ходе диалогов. По его убеждению, такой контроль должен строиться на риск-ориентированном подходе.