Эра ИИ-контента: как распознать и противостоять искусственному интеллекту в текстах
Повсеместное распространение контента, созданного искусственным интеллектом (ИИ), стало серьезной проблемой для пользователей интернета. Зачастую генерируемые ИИ тексты кажутся невразумительными и бессодержательными, однако они все равно способны обмануть тех, кто не знает, на что обращать внимание. Такие блоки текста, созданные ИИ, часто грамматически безупречны, но абсолютно пусты, лишены той глубины, уникальных особенностей и подлинных идей, которые присущи человеческому мышлению. Это приводит к серьезной проблеме доверия, поскольку множество статей, блогов и даже результатов поиска выглядят так, будто их сгенерировал бот, и поиск достоверной информации или даже развлекательного контента превращается в рутину.
Искусственный интеллект сегодня кажется идеальным «коротким путем», позволяющим «работать умнее, а не усерднее». Особенно заметно это проявляется в образовательной сфере и на некоторых рабочих местах. Хотя такие инструменты, как ChatGPT, отлично подходят для составления списков покупок или проведения мозговых штурмов, они также способствуют появлению низкокачественного и шаблонного контента.
Признаки ИИ-текстов в учебных работах
По наблюдениям преподавателей, ИИ-инструменты, такие как ChatGPT и Claude, все чаще встречаются в студенческих работах. Их становится легче распознать не столько благодаря специализированным детекторам ИИ, сколько из-за предсказуемости и шаблонности стиля. Одним из наиболее очевидных признаков является то, что обозреватели называют «энциклопедическим стилем»: это грамматически безупречный, но бездушный текст, использующий расплывчатые, избыточные формулировки, которые лишь повторяют заданную тему.
Если студент, обычно использующий простой язык и допускающий некоторые стилистические особенности, внезапно представляет «многогранный анализ», в котором встречаются такие слова, как «гобелен» или «углубиться», это вызывает подозрения. ИИ часто злоупотребляет клише и склонен завершать каждый абзац аккуратным «резюмирующим бантом», начинающимся со слов «В заключение…». Это письменный аналог дипфейка – реалистичного, но поддельного медиаконтента: на первый взгляд текст выглядит правильно, но стоит начать искать «человеческие» несовершенства, и вся конструкция рассыпается.
Как распознать текст, написанный ИИ
Некоторые из наиболее распространенных способов определения того, был ли текст написан с использованием искусственного интеллекта, включают:
- Повторение ключевых терминов из задания или запроса.
- Наличие неточных фактов или вымышленных данных, известных как «галлюцинации» ИИ-чатбота.
- Неестественное звучание предложений или неестественная структура фраз.
- Общие и повторяющиеся объяснения, которые не приводят к конкретным выводам.
- Несоответствие тона или стиля изложения обычному стилю письма автора.
Например, студент может использовать чат-бот с искусственным интеллектом ChatGPT (который применяет модели глубокого обучения и ведет диалог в формате «вопрос-ответ» для предоставления информации) для написания короткого эссе, просто скопировав задание в инструмент. Рассмотрим пример задания: «В 300 словах или менее объясните, как анализ SWOT (анализ сильных и слабых сторон, возможностей и угроз) и аудит бренда повлияют на вашу финальную презентацию.» Результат, сгенерированный ChatGPT, часто будет повторять ключевые термины из задания. Подобные ответы нередко встречаются в работах студентов, и одним из наиболее очевидных признаков использования ИИ является чрезмерное повторение ключевых терминов из задания.
Обычно студенты не повторяют ключевые термины таким образом. Результаты больше напоминают старые тексты, оптимизированные для поисковых систем (SEO-оптимизированные тексты), предназначенные для определения терминов, а не уникальное эссе, демонстрирующее понимание предмета. Возникает вопрос: могут ли преподаватели использовать ИИ-инструменты для выявления использования ИИ студентами? В обзоре предлагаются методы более эффективного обнаружения искусственного интеллекта в студенческих работах.
Методы выявления недобросовестных студентов
Ниже представлены способы использования ИИ-инструментов для выявления недобросовестных студентов:
Изучить возможности ИИ. Существуют ИИ-инструменты, способные за считанные мгновения создать полноценную, цитированную работу по заданию и критериям оценки. К таким инструментам относятся GPTZero и Smodin. Ознакомление с подобными программами является первым шагом в борьбе с нарушениями академической честности, вызванными ИИ.
Действовать как нарушители. Перед началом семестра рекомендуется скопировать все задания в ИИ-инструмент, например, ChatGPT, и попросить его выполнить работу. Получив примеры ответов, сгенерированных ИИ специально для этих заданий, преподаватели смогут эффективнее выявлять работы, написанные ИИ.
Получить образец настоящего письма. В начале семестра предлагается попросить студентов предоставить простой, неформальный и личный текст. Задание может быть сформулировано как «200 слов о вашей любимой детской игрушке» или «Расскажите историю о самом веселом моменте в вашей жизни». Имея образец подлинного стиля письма студента, можно будет в дальнейшем использовать его для сравнения с подозрительными работами с помощью ИИ-инструментов.
Попросить переписать. Если преподаватель подозревает студента в использовании ИИ для выполнения задания, можно взять представленную работу и попросить ИИ-инструмент переписать ее. В большинстве случаев, как отмечается, ИИ переписывает собственный текст максимально «лениво», заменяя слова синонимами, но не меняя существенных элементов «оригинальной» работы. В обзоре приводится пример, как ИИ может переписать текст, изначально созданный человеком (например, биографию). Отмечается, что при таком переписывании изменяются формулировки, лишая текст «души» и заменяя его более простыми и прямолинейными предложениями. Часто добавляются новые элементы, предположительно для большей ясности.
Подтверждение использования ИИ
Важнейший аспект в выявлении случаев использования ИИ для мошенничества — это наличие достаточных доказательств, которые можно представить студенту и администрации учебного заведения, если до этого дойдет. Критическое мышление при проверке работ играет ключевую роль, а способность преподавателя легко ориентироваться в этих инструментах и понимать их возможности значительно усилит его аргументацию.
В условиях стремительного развития искусственного интеллекта перед преподавателями стоит задача сделать процесс обучения более привлекательным, чем соблазн списать. Отмечается, что важно быть готовым к тому, что студенты могут представлять работы, написанные с помощью ИИ, и сосредоточиться на стимулировании подлинного интереса к знаниям.
