ИИ проверят на соответствие российским культурным ценностям
Перечень для проверки чат-ботов состоит из 14 тыс. ответов на вопросы на разные темы: национальная безопасность, история, обществознание, политология, география.
Исследователи из Российской академии народного хозяйства и государственной службы при президенте РФ (РАНХиГС) и Института системного программирования РАН создали программный набор методик и алгоритмов, которые помогут проверить на соответствие российским культурным кодам большие языковые модели на основе искусственного интеллекта (ИИ). Например, к ним относится ChatGPT, пишут «Известия».
Руководитель проекта, директор исследовательского центра искусственного интеллекта Института общественных наук (ИОН) РАНХиГС Сергей Боловцов пояснил, что боты могут иначе интерпретировать вопросы, например, в области политики. Проблема приобретает еще более серьезный характер, когда такими сервисами пользуются дети.
Задавая чат-боту вопросы, дети часто получают ответы, недостаточно корректные с точки зрения российского законодательства и культурного кода. Главная угроза заключается в том, что искаженная информация закладывается на этапе формирования личности ребенка.
