Насколько опасен ИИ для учебы и развития детей? Что мы можем ему противопоставить?
Как уже писал портал «Седьмая перемена. Поколение online», новая нейросеть ChatGPT с легкостью выполняет задания по точным наукам и генерирует сочинения и тексты, которые трудно отличить от написанных живым человеком. Мы продолжаем следить за этой темой и планируем провести дискуссию о нашем отношении к нейросетям, решающим за школьников задачи. А сегодня предлагаем вашему вниманию выдержки из исследования на эту тему, которое провели «Известия».
———————
Самостоятельная работа
Технологический прогресс уже давно помогает школьникам и студентам в процессе обучения, в том числе в обмане преподавателей. Появление искусственного интеллекта вывело возможности плагиата на новый уровень — определить, написана ли работа человеком или компьютером, возможно не всегда.
При этом даже текущие генеративные сетки могут с легкостью имитировать особенности человеческого «почерка» при синтезе контента, говорит сооснователь Napoleon It Руслан Ахтямов.
В начале января стало известно о том, что департамент образования Нью-Йорка запретил использование в школах чат-бота с искусственным интеллектом ChatGPT, разработанного компанией OpenAI. «Известия» уже общались с этой нейросетью ранее, программа поддерживала диалог на естественном языке.
Учитывая возможности машинного разума, преподаватели обеспокоены, что учащиеся начнут в массовом порядке использовать его для выполнения домашних заданий, решения математических задач и написания творческих работ.
«Хотя инструмент может дать быстрые и простые ответы на вопросы, он не развивает навыки критического мышления и решения проблем, которые необходимы для академического успеха», — сказала представительница департамента образования Нью-Йорка Дженна Лайл.
OpenAI также заявила, что не хочет, чтобы ChatGPT применялся для подобного мошенничества в образовательных учреждениях. Однако в случае запрета бота студенты всё еще смогут пользоваться им на своих компьютерах. На этот случай компания работает над созданием водяных знаков для выходных данных, чтобы люди могли видеть признаки машинного текста.
Интегрировать ИИ в процесс обучения
Большой проблемы в подобном использовании ИИ нет, считает старший специалист по тестированию цифровых продуктов Центра цифровой экспертизы Роскачества Сергей Кузьменко. По его мнению, даже если нейросеть напишет основную массу текста, его всё равно придется значительно редактировать.
В борьбе с использованием ИИ в нечестных целях может помочь сам искусственный разум. Так, студент факультета компьютерных наук и журналистики Принстона Эдвард Тиан создал собственную программу GPTZero, которая может определить, написан ли текст человеком или нет.
Однако такое решение является временной мерой и использование GPTZero на постоянной основе будет требовать переобучения данной модели, которое может длиться бесконечно долго, рассуждает эксперт R&D-департамента онлайн-школы Skysmart Влад Корнышев.
Часть работников сферы образования считает, что учреждениям необходимо найти способы интегрировать нейросети в процесс обучения. «Умная» генеративная сеть, в том числе ChatGPT, может быть полезна для объяснения правил или отработки упражнений в школьных дисциплинах, считает эксперт.
ИИ-продукты будут проверять экзамены и тренировать студентов
— Например, ИИ-платформа Skyeng позволяет использовать технологию распознавания речи, когда ученик рассказывает стих наизусть, или при изучении английского, чтобы оценить, насколько грамотно говорит ученик, какое у него произношение, какие делает грамматические или стилистические ошибки, — объясняет Корнышев.
Помимо этого искусственный интеллект является удобным инструментом для генерации заданий в процессе обучения, добавляет собеседник. Ученик или учитель могут попросить нейросеть сгенерировать новые задачи, когда старые уже выполнены.
Негативная сторона использования технологии заключается в вероятности того, что студенты могут предпочесть обучение с ИИ реальному преподавателю.
— Другой вредный фактор — так называемые biases: если при обучении определенной сети использовались «грязные данные», на выходе она может выдавать либо неверную информацию, либо нецензурную лексику, либо вообще научить плохому, — предупреждает эксперт Skysmart.
Вводить в правовое поле
Появление генеративного искусственного интеллекта является большим шагом вперед, считает CEO GeekBrains Александр Волчек. При этом специально создавать его не требовалось — это скорее исторический момент развития технологии.
Генеративный ИИ автоматизировал часть когнитивных способностей человека, но сказать, что эти технологии могут создавать что-то совершенно новое, нельзя, считает руководитель отдела перспективных технологий Positive Technologies Александра Мурзина. Она отмечает, что все результаты — это компиляция из множества данных, на которых обучили модель, причем не всегда корректно.
Искусственный интеллект меняет нашу жизнь. Эти технологии надо вводить в правовое поле.
— Специальных правил об ответственности ИИ в мировой практике нет. Пока нет. А вот этические нормы, ограничивающие ИИ, уже появляются, — отмечает партнер «Бизнес Развитие: адвокатура и консалтинг» Валерия Голянова. — В 2020 году ЕС принял стратегию развития ИИ, внедряющую правовые принципы разработки и применения. В нашей стране свой кодекс этики ИИ создал Сбербанк. Не так давно кодекс этики был также разработан и утвержден Альянсом искусственного интеллекта.
