Национальная комиссия по этике в сфере искусственного интеллекта попросила Минобрнауки регламентировать использование генеративных моделей ИИ в учебном процессе. Об этом говорится в письме комиссии министру науки и высшего образования Валерию Фалькову, пишут «Ведомости».
Председатель комиссии Андрей Незнамов считает, что лучше всего — адаптировать сферу образования к использованию генеративных нейросетей, поскольку технологии все равно продолжат развиваться.
В письме говорится об этической проблеме, связанной с невозможностью отличить текст, сгенерированный ИИ, от написанного человеком. В то же время использование ChatGPT и аналогичных решений поможет сократить время на рутинные операции — компоновку материалов и форматирование текста, отмечают авторы обращения.
«Использование таких технологий может быть уместно и полезно для освоения отдельных специальностей и навыков и в ряде случаев не будет противоречить обязанности студентов выполнять работу самостоятельно», — считают они.
Профессора, опрошенные «Ведомостями», тоже выступают за использование генеративных нейросетей в некоторых аспектах обучения — например, для создания новых проектов. Однако в ряде заданий следует прописать запрет на использование таких инструментов, считают они.
Редактор «Афиши Daily» спросил у ChatGPT, следует ли запретить использование генеративных моделей ИИ в учебном процессе. Чат-бот выступил против такого запрета (диалог велся на английском языке).
По словам ChatGPT, такие модели можно применять для создания персонализированных учебных материалов, обеспечения обратной связи для студентов в режиме реального времени, моделирования сложных систем и сценариев. «Однако важно, чтобы использование этих моделей надлежащим образом регулировалось и контролировалось, чтобы свести к минимуму их негативное воздействие и обеспечить их этичное использование», — заявил чат-бот.
На уточняющий вопрос, как именно обеспечить контроль за использованием нейросетей в образовании, ChatGPT предложил:
- создать этические гайдлайны;
- сделать использование ИИ прозрачным (чтобы учителя и ученики знали, как используются такие модели);
- внедрить правила применения ИИ и рекомендации по сбору и обработке данных;
- создать механизм мониторинга правил (например, независимый контрольный орган);
- обеспечить подготовку преподавателей по правильному и ответственному использованию ИИ в образовании.
Вопрос о допустимости применения генеративных нейросетей в образовании поднялся после того, как студент РГГУ Александр Жадан сообщил, что защитил диплом, написанный с помощью ChatGPT. Учащийся, по его словам, потратил на подготовку работы 23 часа и получил за нее оценку «удовлетворительно».
После этого в вуз написали жалобу с требованием лишить Жадана диплома. В самом РГГУ сочли необходимым ограничить учащимся доступ к ChatGPT. Там предложили разработать инструменты для распознавания таких моделей при подготовке курсовых работ и дипломов.
Как написал позже Жадан, диплома его решили не лишать. Договориться с вузом у него получилось с помощью юриста, детали договора студент разглашать не стал.