Новый инструмент может определить, является ли что-то искусственным интеллектом

Новое исследование показало, что детектор искусственного интеллекта, разработанный Университетом Канзаса, может обнаруживать созданный искусственным интеллектом контент в научных статьях с точностью 99%. Это один из немногих детекторов на рынке, специально предназначенных для академических писаний.

Настоящая человеческая ошибка? Возможно, но, по крайней мере, не искусственный интеллект.

Согласно отчету, опубликованному в среду в журнале Cell Reports Physical Science, исследователи создали инструмент, который может доказать обнаружение ИИ в научных статьях с точностью 99%.

Команда исследователей выбрала 64 перспективы (тип статьи) и использовала их для создания 128 статей с использованием ChatGPT, который затем использовался для обучения детектора ИИ.

Модель имела 100% точность идентификации статей, созданных человеком, от статей, созданных искусственным интеллектом, и 92% точность идентификации конкретных абзацев в тексте.

Согласно опросу Study.com, 89% студентов колледжей признались, что используют ChatGPT для помощи в выполнении заданий, в то время как 34% преподавателей считают, что это программное обеспечение следует запретить, хотя 66% поддерживают наличие у студентов доступа.

«В настоящее время существуют довольно явные проблемы с написанием ИИ», — заявила в своем заявлении ведущий автор Хизер Дезер. «Одна из самых больших проблем заключается в том, что он собирает текст из многих источников и не проводит никакой проверки точности — это что-то вроде игры «Две истины и ложь».

Детекторы искусственного интеллекта не доказали свою точность на 100%. Студентка Калифорнийского университета в Дэвисе утверждает, что ее университет ложно обвинил ее в мошенничестве с искусственным интеллектом. Загрузив статью для одного из своих занятий, она получила электронное письмо от своего профессора, в котором утверждалось, что часть статьи была помечена в программе Turnitin как созданная искусственным интеллектом. Ее дело было немедленно передано в Управление поддержки студентов и судебных дел, которое занимается дисциплинарными наказаниями за академические проступки. Студентка отстаивала свою позицию и в конечном итоге выиграла, используя отметки времени, чтобы доказать, что она написала статью. Это был не единственный случай, когда преподаватели ошибочно называли задания созданными ИИ. Техасский профессор коммерции A&M попытался завалить половину своего старшего класса после того, как использовал ChatGPT, чтобы проверить, используют ли студенты чат-бот для написания своих работ. Он скопировал и вставил документы в ChatGPT и спросил, написал ли он их, на что тот ответил утвердительно. Из-за этого университет не выдал им дипломы, хотя профессор предложил возможность переделать задание. Тем не менее, в университете подтвердили Insider, что ни одному студенту не было отказано в выпуске или не было отказано в его окончании.

Чат-бот OpenAI ChatGPT был открыт для публики в ноябре 2022 года и менее чем за неделю превысил отметку в миллион пользователей, причем люди использовали его для таких вещей, как создание кода и написание эссе. Информация ИИ привела к тому, что несколько школ либо на неопределенный срок, либо временно запретили это программное обеспечение, включая государственные школы Нью-Йорка, государственные школы Сиэтла и Объединенный школьный округ Лос-Анджелеса.

Уже существует множество программ и сервисов, которые обещают идентифицировать контент, написанный ИИ.

ChatGPT в школах: вот где он запрещен и как он потенциально может помочь учащимся (Forbes)

Вот что нужно знать о ChatGPT OpenAI: что он мешает и как его использовать (Forbes)