В академической среде студентам все чаще задают вопрос: «Не ChatGPT ли это написал?». Обсудим, почему искусственный интеллект вызывает споры и настороженность в образовательном деле.
Почему не доверяют учебным работам, созданным с помощью нейросетей
Настороженность преподавателей во многом уходит корнями в прошлое. Еще несколько лет назад тексты, созданные генеративными моделями, легко выдавали неживое происхождение: в них встречались неловкие фразы, неуклюжие повторы и логические сбои. Казалось, будто эти тексты не прошли «человеческую» редактуру, поэтому выглядели искусственно. Эти примеры хорошо запомнились и сформировали восприятие ИИ как посредственного автора.
Со временем модели усовершенствовались, но машинный почерк все равно видно: в неестественных речевых оборотах, грамматических неточностях или в «артефактах генерации». Для опытного преподавателя это может быть сигналом: перед ним не самостоятельная работа, а результат работы алгоритма.
Дело не только в самих технологиях, важно и то, как студенты ими пользуются. Неправильно или слишком широко заданный запрос («промпт») часто приводит к шаблонным ответам. Без редактуры эти тексты производят впечатление дежурных и поверхностных, что снижает доверие к итоговому материалу. Добавим сюда безответственное обращение с результатом: студенты нередко копируют сгенерированный текст без последующей проверки и редактуры. Так в работах появляются фактические ошибки, выдуманные источники, исследования или вовсе очевидные следы общения с нейросетью.
Само собой, ситуацию стоит рассматривать и с педагогической позиции. Многие типы учебных заданий изначально создавались для развития самостоятельного мышления. А когда студент привлекает нейросеть, это воспринимается как нежелательное упрощение процесса. Чтобы, например, выучить иностранный язык, нужно научиться самостоятельно переводить тексты и выстраивать грамматику. Поэтому, если работа внезапно выполнена идеально, у преподавателя закономерно возникает вопрос – действительно ли ее сделал студент.
Где заканчивается помощь ИИ и начинается обман
Пока нет четкой границы между легитимным использованием нейросети и действием, которое может считаться нарушением. В каких-то университетах созданы регламенты и составлены методические указания по использованию генеративных моделей, но таких вузов пока немного. В основном студенты ориентируются на общие нормы, здравый смысл и логику задания. Некоторые пытаются апеллировать к формальной логике: раз не запрещено, значит, можно.
Этичнее и безопаснее уточнить у преподавателя, допустимо ли использование ИИ. Но пока единого подхода нет. Сфера образования ищет баланс, а многие вузы выбирают путь осторожности – ограничить или запретить использование алгоритмов, чтобы избежать злоупотреблений.
Почему студенты скрывают, что им помогает ИИ
Несмотря на распространенность нейросетей, многие авторы предпочитают не афишировать их присутствие в своих работах. Главная причина – страх предвзятости. Студенты и исследователи опасаются, что факт использования искусственного интеллекта будет рассматриваться как обман, даже если ИИ применялся честно, лишь как вспомогательный инструмент.
Есть и внутренняя мотивация молчать. Когда сложная задача решается за считанные минуты с помощью алгоритма, возникает ощущение, будто результат дался чересчур легко. В академической среде, где поощряется самостоятельный поиск, такой подход может восприниматься почти как моральное нарушение: труд без усилий кажется ненастоящим.
Знаковая история произошла в 2023 году: студент РГГУ публично признался, что использовал ChatGPT при написании диплома и подробно описал процесс. Признание стало прецедентом – ранее никто не говорил об этом открыто. Реакция оказалась бурной: диплом попытались аннулировать, однако после общественного резонанса работу все же признали, хотя оценка осталась минимальной. Этот случай показал, как болезненно воспринимается открытость.
Наконец, студенты боятся неопределенности. В большинстве университетов до сих пор нет единых и прозрачных правил обращения с нейросетями. В таких условиях даже добросовестные студенты не чувствуют себя в безопасности, предпочитая просто не говорить о цифровом помощнике.
Почему нет единых правил использования ИИ в учебной работе
Создать универсальный свод норм для работы с генеративными моделями оказалось непростым делом. Пока нет общего понимания, где проходит граница между допустимой помощью технологии и нарушением академической добросовестности. ИИ вошел в образовательную среду слишком стремительно, институты просто не успели выработать устойчивые и проверенные правила.
Обычно такие регламенты появляются не сразу, а постепенно – через накопление опыта, обсуждение спорных кейсов и сравнение разных подходов. Фактически, система образования находится в режиме эксперимента: вузы самостоятельно пробуют собственные модели регулирования, вводят локальные ограничения и смотрят, как это работает на практике. Каждый такой пример становится пилотным проектом, за которым внимательно наблюдают другие учебные заведения. И если решение окажется удачным, его могут взять за основу другие заведения или даже регуляторы. Спешить опасно. Если на федеральном уровне закрепить неудачные правила, они рискуют надолго зафиксировать неэффективный подход и затормозить развитие более гибких решений.
Почему нельзя просто разрешить использование ИИ
На практике не получится разделить типы заданий к простому списку «можно» и «нельзя». Правила нужно устанавливать исходя из целей обучения и типа задания: где-то ИИ можно разрешить как инструмент для черновика, поиска идей или самооценки, а где-то важно, чтобы работа оставалась полностью самостоятельной. Дело в том, что генеративный ИИ меняет логику учебных заданий: можно быстро создавать текст, план, анализ или ответы, поэтому привычные формы проверки не всегда показывают реальный уровень знаний студента.
Во многих практиках задания разделяют не по формальному признаку, а по образовательной цели. ИИ можно допускать для мозгового штурма, подготовки черновиков, объяснения сложных тем или критической оценки сгенерированного текста, но ограничивать или запрещать там, где важно проверить индивидуальное понимание, оригинальность или способность самостоятельно искать решение. Для задач, где важно личное участие, часто рекомендуют добавлять устную защиту работ, промежуточные черновики и работу с локальными или офлайн-источниками, чтобы результат было труднее подменить генерацией.
Выводы
Запрет на использование ИИ выглядит маловероятным сценарием. Скорее, наоборот: в ближайшие годы технология станет таким же базовым инструментом, как поиск в интернете или текстовый редактор. Такой подход выглядит более жизнеспособным, потому что сохраняет академическую честность и одновременно признает, что ИИ – это часть реальной образовательной среды.
Также читайте:
Я ничего не думаю, просто не знаю.
Приведу аналогию, бывает аллергия на что-то, ну это же проверяется персонально, есть ли у этого человека аллергия на то или на это.
Можно ли проверить наличие какой-то аллергии в принципе, не знаю. Может быть можно.
Может и триггеры можно универсально проверять.
То есть, если резюмировать, Вы абсолютно уверены, что никогда, ни при каких обстоятельствах не станете жертвой манипуляции кого бы то ни было.
Здесь я склонен согласиться с Михаилом:
Тем не менее, для меня все это звучит следующим образом:
1) Вас никому и никогда не удастся вовлечь в чью-то "игру" (минипуляцию любого рода), цель которой не будет совпадать с Вашей собственной;
2) если вдруг (просто предположим - вдруг) такое как-то случится, то качественное (и автоматически - критическое, системное, логическое и проч.) мышление сразу позволит Вам распознать факт манипуляции и ее прекратить до получения ущерба любого рода;
3) само качество имеющегося мышления (природного или развитого в ходе тренингов), а также формируемое по итогам этого осознание мира позволяет Вам всегда (в каждый конкретный момент времени и всей их совокупности) выстраивать непротиворечивую картину реальности, в ходе которой никакая манипуляция принципиально не станет возможной, а Вы (при желании) сами можете выступить манипулятором, причем так, что "жертва" об этом не догадается.
Вроде бы, все основные пункты перечислил. Звучат они, конечно, очень амбициозно, но уж как есть. Все верно, или что-то я упустил?
Я бы ещё добавил в использование, а точнее специфики манипуляции, не с точки зрения в психологии, а то как это работвет в интернет дискуссиях.
Тоже для себя сделал пометку на эту тему...
Любая логика манипуляцию предполагает, что "жертва" этого не заметит сразу, поэтому искусству – это втянуть человека в манипуляцию.
Как я могу стать жертвой манипуляции, если я априори считаю это манипуляцией? Если до сих пор не стал жертвой, то с какой стати потом буду жертвой?
Это вообще беспредметный разговор, потому что вы не можете знать мои цели.
Разумеется.
А что в этом сложного то?
Нет такого желания.
Да ничего не амбициозно. С чего вы это взяли?
Уважаемые коллеги! Мы все находимся под защитой Неуловимого Джо!
Точнее принципа Неуловимого Джо.
То есть наши навыки самозащиты от манипуляций и других неприятных воздействий соответствуют уровню объективных угроз.
Или говоря проще, по настоящему серьезные специалисты в этой сфере этим заниматься не будут, а с остальными как-то справляемся.
Но нельзя исключать, что могут вдруг возникнуть реальные угрозы.
Да что они мне могут сделать то, даже если захотят? Манипуляции страшны только для дураков.
Нет. Вы не опровергли ) Пример не является опровержением тезиса. Он может быть частным случаем, исключением и не отменяет общую закономерность тезиса.
Я согласилась, чтобы вы привели пример, но нигде не соглашалась с тем, что он опровергнет тезис ) тем более, что речь шла об определении намерений, а вы приводите в примере факт, что вы знаете, что партнер так постоянно поступает )
Ваш пример не противоречит сути утверждения и логически не доказывает его ложность )
Является, потому что был такой диалог. Я спросил: "Является ли это тезисом о том, что НИКОГДА нельзя точно определить намерение было или не было?" Здесь "никогда" означает, что достаточно хотя бы одного примера, чтобы опровергнуть. Вы ответили: "Можно определить с той или иной долей вероятности". Это означает, что "точно" нельзя. Я специально еще раз вас переспросил: "Это означает, что нельзя точно определить - было намерение или нет?". Вы это подтвердили: "Да, если под точно вы имеете в виду 100%".
Я привел несколько примеров, когда на 100% видны намерения, а это значит, что тезис про НИКОГДА опровергнут. Но сейчас вы стали хитрить и пытаетесь подменить свой тезис на другой (что, есть исключением, не отменяющие общую закономерность тезиса). А кто с этим спорит то? Просто признайте, что вы подмелили свой изначальный тезис.
Да, у меня может быть 100%-я информация, что он блефует про цейтнот. Я про этот случай и писал - когда я на 100% знаю.
Вся суть вашего утверждения была в слове НИКОГДА. Это неправомочное обобщение. И я вас на этом поймал. Сейчас вам уже глупо это отрицать.
Это не тезис. это довод ) Тезис — это главная мысль, которую вы хотите доказать, а довод (или аргумент) — это факты и логические рассуждения, которые вы используете для подтверждения этого тезиса
А почему вы решили, что суть была в слове никогда? Вы разницу между глаголами знать и определить понимаете?
Знать – это владеть информацией.
Определить – это распознать.
Именно так. Но иногда возникает непреодолимое искушение все-таки заняться. Мадуро, вот, Трампа звал-звал, тот в гости его и пригласил. А когда возникает тезис: "Манипуляции страшны только для дураков", - это как призыв прямо.
Теперь пришло время подвести итоги небольшого двухдневного эксперимента, в котором все мы поучаствовали.
Воскресный день у меня выдался дождливым, и мне пришла мысль развлечь себя постановкой простого эксперимента. Я печатаю быстро, поэтому получилось многовато текста, но, надеюсь, это не окажется чрезмерным испытанием: хотелось полнее отразить несколько сутевых моментов.
Михаил, хотел бы отдельно поблагодарить - Ваш вклад в дискуссию существенно ускорил течение эксперимента.
Леонида хочу поблагодарить за продемонстрированную динамику ответов и предсказуемость - это также очень оказалось полезно для ускорения процесса.
Дизайн эксперимента.
Цель: подтвердить или опровергнуть практическую ценность теории, в рамках которой качество мышления является достаточной защитой для уклонения от манипуляций.
Тестируемые тезисы:
1. Носителя качественного мышления можно вовлечь в обсуждение заданного нарратива. (Манипуляция №1).
2. Носителя качественного мышления можно вынудить выступить инициатором обсуждения такого нарратива, то есть начать обсуждение "по своей воле" (Манипуляция №2).
3. Носитель качественного мышления не заметит усилий по его вовлечению в обсуждение премодерированной повестки ни в момент начала обсуждения, ни в любой иной момент по его ходу.
4. Носителя качественного мышления можно заставить обсуждать собственные идеи и выдвигать контрагрументы, которые будут несоответствовать/конфликтовать с ранее высказанной публично информацией. (Манипуляция №3).
5. Сама теория качественного мышления, предлагаемая носителем, устойчиво обнаруживает методологические противоречия, которые не позволяют признать ее надежность.
Теперь пора переходить к рассмотрению реализации эксперимента. Поскольку для эксперимента требуется испытуемый, я решил выбрать Леонида: как автор тренинга для развития качественного мышления он может быть признан носителем компетенций в рамках тестируемой теории, а также сам себя так позиционирует.
Дизайн текста-триггера был выполнен на основе ряда фрагментов книги испытуемого "Тренинг эффективного мышления", конкретно - использованы:
Фрагмент № 1(орфография первоисточника сохранена):
Фрагмент № 2:
Сформированный текст-триггер, не обращенный к испытуемому и его реакция:
Дополнительно получено расхождение текущей позиции испытуемого с ранее опубликованными им подходами в литературе, продвигающей теорию качественного мышления. Конкретно: манипуляция связывается с “глупостью”, хотя рассматриваемая книга предполагает невозможность отказаться от исполнения манипуляции под влиянием внутренних убеждений и/или внешних факторов. Это послужит иллюстрацией к Тезису № 5.
Шаг № 2.
Продолжение на протяжении нескольких дней дискуссии свидетельствует об установлении устойчивого раппорта, в рамках которого испытуемый не демонстрирует признаков распознавания манипуляции.
Для тестирования силы раппорта повторно вводится нарратив о роли обмана (Фрагмент № 1) и оправдании доверия (Фрагмент №2), а также ответ на тезис "о сайте" строится таким образом, чтобы сделать возможным обнаружение артефактов тройной спирали Эриксона - модели, широко известной в среде психологов. Для сохранения приемлемой сложности задачи третье кольцо (непосредственно упоминание сайта) намеренно не замыкается:
Неестественность такой структуры не распознается испытуемым, его поведение остается консистентным в ходе всего эксперимента, в результате чего устойчивость раппорта позволяет управлять динамикой обсуждения.
Тем самым подтверждается Тезис № 3.
Шаг № 3.
В рамках искусственно вызванного обсуждения о роли интеллекта (Манипуляция № 3) испытуемый в явном виде указывает на возможность отсутствия у рационального человека ума.
Это, в свою очередь, в явном виде противоречит ранее выдвинутым тезисам из введения к книге о тренинге эффективного мышления:
Фразмент № 3:
Фрагмент № 4:
Как можно видеть, рациональный человек обладает умом, который является способностью, которую рациональный человек может не иметь. Логическое противоречие очевидно.
Также испытуемым явно опровергается искусственно сформированный тезис "Вы связываете ум с рациональностью", хотя он является пересказом его же конструкции: "Ум - привычка поступать рационально".
Таким образом, в ходе Манипуляции № 3 происходит эмпирическое подтверждение Тезиса № 4.
Шаг № 4.
Остается доказать наличие противоречий в самой теории, что подтвердит Тезис № 5. Частично это было сделано в рамках Шага № 1. Дополним это противоречием о природе манипуляции.
В ходе дискуссии выдвинут тезис:
Такая постановка прямо противоречит сутевому наполнению книги-тренинга:
Наличие умысла (осознанного намерения) по определению несовместимо с бессознательностью манипуляции. Также преднамеренное поведение манипулятора не является для него неестественным, равно как и сам страх не может приводить к очевидности намерений.
Противоречия здесь очевидны, что не может говорить в пользу о работоспособности теории. Тезис № 5 эмпирически подтвержден.
Дополнительной контрольной точкой эксперимента является повторение тезисов, упрощающих последконтроль полученных результатов:
Намеренная стилистическая искусственность формулировки тезисов продолжает не вызывать подозрений у испытуемого (чем формирует дополнительное подтверждение Тезиса № 3) и получает подкрепление в виде ответа, что испытуемый считает для себя принципиально невозможным риск оказаться участиком чьей-то манипуляции.
Итак, со всей очевидностью можно заключить, что все первоначально выдвинутые Тезисы получили эмпирическое подтверждение. На протяжении серии (!) достаточно примитивных (!) манипулятивных практик носитель качественного мышления устойчиво демонстрировал состояние раппорта, в достаточной мере способствовал целевой реализации спланированных манипуляций и при этом не подавал признаков осведомленности о вынужденности навязанной линии поведения: полно и оперативно реагировал на стимулы, не предприинимал попыток к критическому осмыслению происходящего.
Это тождественно доказательству недостаточности теории качественного мышления для предотвращения случаев попадания носителя компетенций в ситуации манипуляций.
Таким образом, предлагаемый и рекламируемый испытуемым подход к качественному мышлению не обнаруживает практической ценности.
Добавлю в завершение: когда я слышу про нечто “никогда”, мне всегда становится интересно протестировать, как часто. И для этого мне не нужно уговаривать кого-то проходить какие-то тесты - я просто ставлю эксперименты, выводы которых должны говорить за себя.
На вопрос Арнольда: “Какие ваши доказательства?” - я свои привел. Насколько они оказались убедительными - судить читателю.