Точка разлома

Госдума приняла закон о развитии искусственного интеллекта (ИИ). После вступления закона в силу ИИ-контент в рунете должен будет помечаться специальной отметкой. Крупные интернет-платформы должны добавить для такой маркировки отдельную функцию. Отметим, что это общемировой тренд – в тех же Китае и Евросоюзе действуют аналогичные правила. Однако, все эти регулятивные требования идут коту под хвост, когда дело начинает касаться текста. В отличие от картинок и видео, у текста нет явных визуальных признаков генерации. Пытаться определить авторство и факт использования ИИ можно двумя основными способами, и у каждого есть серьезные минусы, исключающие их из использования в правовом поле: 1. Детекторы ИИ-текстов, т.е. программы, анализирующие "почерк" нейросетей — так называемые перплексию (предсказуемость) и всплески (равномерность структуры предложений). Популярные детекторы: GPTZero, Originality. ai, контент-детектор от OpenAI. Данный способ характеризуется следующими особенностями: - Огромный процент ложных срабатываний. Деловой формальный стиль (юридические документы, инструкции) и даже тексты людей, для которых русский язык неродной, регулярно определяются как машинные. - Легко обмануть. Достаточно попросить ИИ написать текст в стиле "живого блога", разбавить его сленгом, намеренными опечатками, эмоциональными конструкциями — и детектор покажет "0% ИИ". - Отставание от технологий. Каждое новое поколение языковых моделей (GPT-4o и далее) пишет все более вариативно, из-за чего разница с человеческим текстом стирается. Как итог, на программы-детекторы нельзя опираться как на бесспорное заключение. Это признают и разработчики данных программ. Например, OpenAI закрыла свой официальный детектор еще в 2023 году, признав низкую точность. 2. Криптографические водяные знаки, вносимые на уровне первоначальной генерации текста. В этом случае уже сама нейросеть должна выбирать слова не случайным образом, а по заранее заданному статистическому "паттерну". Этот паттерн — невидимый код, "вшитый" в последовательность слов. Проверить его наличие можно только специальным ключом, который есть у разработчика модели. Помимо того, что российские законы в последнее время просто игнорируются в других юрисдикциях и, соответственно, разработчиками всех популярных нейросетей, отметим, что и здесь всё легко "сломать" тем же двойным переводом. Добавим, что на сегодня никаких "паттернов" в генерируемых популярными ИИ нет и их даже никто не собирается разрабатывать, так как такая механика способна реально "сломать" программно-текстовую составляющую рабочей нейросети. К чему мы написали эту длинноту? К тому, что у нас есть закономерные опасения в отношении злоупотреблений в сфере привлечения к ответственности за отсутствие "маркировки" в тексте. С тем беспределом, который сегодня формируется в российском пространстве правоприменения под лозунгами борьбы за "ценности", "суверенитет" и т.п., любой текст без маркировки могут назвать "сгенерированным с помощью ИИ", подкрепить это листочком заключения какого-нибудь "эксперта по IT" с двухнедельными курсами за спиной и погонами лейтенанта на плечах и после – доказывай уже ты, что "не дурак". А ведь это в реальности доказать будет так же сложно, как и обратное (о чём мы писали выше весь этот опус – палка-то всегда о двух концах...)