FactCheck.kz

В течение нескольких следующих недель OpenAI начнёт добавлять невидимые водяные знаки в тексты, сгенерированные ChatGPT и Codex в Евросоюзе. Об этом компания сообщила на официальном сайте. Таким образом разработчик приводит ИИ-сервисы в соответствие с Законом ЕС об ИИ, который обязывает компании обеспечивать возможность идентификации сгенерированных текстов в машиночитаемом формате. OpenAI объясняет, что с помощью технологии водяных знаков textGrain добавляется невидимый статистический сигнал к выбору слов в модели. Детектор ищет этот сигнал, чтобы определить, содержит ли фрагмент «водяной знак» OpenAI. Компания признаёт, что детекторы могут выдавать ошибки: сообщать о наличии водяного знака там, где его нет, или пропускать существующий водяной знак. Кроме того, эффект водяных знаков может ослабить редактирование текстов. Из-за этих и других особенностей, компания приняла решение на первом этапе предоставлять доступ к детектору только некоторым утверждённым исследователям и экспертным организациям, которые могут оценить надёжность и обеспечить ответственное использование новой функции.