Преподаватель Техасского университета A&M в Коммерсе обвинил студентов в мошенничестве с использованием искусственного интеллекта для написания эссе. Об этом пишет The Register.
Координатор факультета сельскохозяйственных наук и природных ресурсов Джаред Мамм проверил аутентичность текстов с помощью ChatGPT. По его словам, инструмент пометил некоторые работы как созданные машиной.
Ситуация привела к заморозке оценок и дальнейшему расследованию. Попавшие под подозрение студенты признались в использовании ИИ для написания эссе.
В результате половине академической группы временно отказали в выдаче дипломов.
«Я поставлю всем на этом курсе X. Я не оцениваю ИИ-чепуху», — сказал Мамм студентам.
Руководство университета подтвердило использование оценки X. По их словам, это временная мера, пока идет расследование.
В вузе отметили, что исключили возможности списывания для некоторых студентов, в то время как другие решили сдать свежее эссе для оценки. По крайней мере один ученик признался в использовании ChatGPT для выполнения задания.
«A&M в Коммерсе подтверждает, что ни один студент не провалил занятия и не был отстранен от выпуска из-за этой проблемы. Должностные лица расследуют инцидент и разрабатывают политику по борьбе с неправильным использованием ИИ-технологий», — говорится в заявлении.
Администрация также приступила к разработке и внедрению инструментов, идентифицирующих ИИ-тексты в курсовых работах.
Знакомый с ситуацией источник сообщил, что конфликт близится к завершению. Вуз якобы признал неправомерность решения преподавателя.
«Это было полностью вне протокола и неуместным использованием ChatGPT. Ну хоть никто не использовал нецензурную брань в обвинениях», — сказал он.
По словам экспертов, даже продвинутые детекторы сгенерированных текстов не способны точно распознать подделку.
«По мере совершенствования больших языковых моделей для имитации людей наилучший возможный детектор достигнет точности почти в 50%», — считает аспирант Университета Мэриленда Вину Санкар Садасиван.
Он добавил, что детекторы можно обмануть, перефразируя выходные данные большой языковой модели. Садасиван призвал научиться жить с тем фактом, что мы, возможно, никогда не сможем достоверно отличить ИИ-текст от человеческого.
«Мы не должны использовать эти детекторы, чтобы вынести окончательный вердикт», — считает он.
Напомним, в декабре 2022 года профессор уличил студентов в подделке эссе с помощью ChatGPT.
В январе государственные школы Нью-Йорка запретили использовать чат-бота на территории учреждений. Позже к ним присоединились крупнейшие вузы Австралии.
В том же месяце OpenAI выпустила детектор сгенерированных текстов. Вскоре ChatGPT научили обходить ограничения инструмента.
