Белки и сделки — Наталья Белкова 4D

Теперь можно будет доказать, что ваш текст написал ChatGPT? Спойлер: не совсем. OpenAI объявила, что начнет добавлять в тексты ChatGPT невидимые водяные знаки. Вижу новость. Первая моя реакция: ура, будет меньше ИИшных постов! А потом пошла разбираться. И все оказалось не так однозначно 😅 Во-первых, технология появится у пользователей из Евросоюза – это связано с требованиями закона ЕС об ИИ. Во-вторых, никакой подписи «создано ChatGPT» в текстах не появится. Пользователь вообще ничего не заметит. Вместо этого модель будет определенным образом выбирать слова, создавая статистическую закономерность, которую сможет распознать специальный детектор. А кто сможет проверить текст? Детектор OpenAI тоже не будет общедоступным. Сначала доступ к нему получат одобренные исследователи и экспертные организации. То есть условный преподаватель пока не сможет просто загрузить курсовую студента и узнать, писал ли ее ChatGPT. Да и сама проверка не дает стопроцентной вероятности. В тестах OpenAI водяной знак обнаруживался примерно в 95% случаев. А редактирование сильно снижает точность: замена 10% слов синонимами снизила вероятность обнаружения с 92% до 66%, а четверти слов – до 17%. В общем, расходимся 😁 И продолжаем определять текстовый нейроконтент вручную. А вообще сам вектор любопытный: вместе с ростом ИИ-контента растет и отдельный рынок технологий, которые будут пытаться определить его происхождение.