Продолжение поста «Картинки и видео от ИИ в предвыборной агитации: куда катится мир и что уже происходит в России» Почему это не решение «проблемы» и как это подтверждает «Сталин с айфоном» C2PA придумала своеобразный «паспорт» для картинок и видео, в котором записана вся история файла: кто его создал, на каком устройстве или в какой программе, когда это было сделано и какие изменения вносились. Эта информация защищена специальным шифрованием. Но есть оговорка: этот стандарт Content Credentials не доказывает, что событие на фото действительно произошло, и не может сам определить, создана ли картинка или видео искусственным интеллектом. Он просто показывает происхождение файла — если в создании участвовал ИИ-генератор картинок и она это записала, то в «паспорте» появится отметка об этом. SynthID отображает скрытые изменения в самой картинке на уровне отдельных точек-пикселей. Человек их не видит, но специальная программа может прочитать и понять: «Эту картинку создал искусственный интеллект». Однако в мессенджерах и соцсетях существует сжатие. Такие сложные метки можно потерять при репостах (перепубликациях), обрезке (кропе) и перекодировании (изменении формата файла). Сайты и платформы не всегда показывают предупреждения, а часть водяных знаков можно легко «взломать». В подтверждение этому вспоминается анекдотичная история, произошедшая задолго до нынешнего ИИ-бума, 15 лет назад. Российская компания «ЭлкомСофт» нашла серьёзную проблему в системе защиты фотографий Canon. Японская компания ещё тогда создала специальную технологию (Canon Original Data Security), которая должна была гарантировать, что фотография настоящая и не изменена. Когда вы делаете снимок на профессиональную камеру Canon, система автоматически ставит на фото невидимую «электронную печать» — как подпись, подтверждающую: «Да, это фото действительно сделано этой камерой и никто его не редактировал». Российские специалисты выяснили, что можно взломать эту «хитрую» защиту. Они смогли достать из камеры Canon секретный ключ и выяснили, что с помощью этого ключа можно поставить печать подлинности Canon на любую картинку — даже на ту, которая создана в Photoshop или вообще нарисована от руки. В качестве демонстрации этого компания показывала «фотошоп» «Сталин с iPhone» — и он проходил проверку как «подлинный». Что будет дальше Эта история даёт урок для сегодняшних споров про любую проверку подлинности: «подпись» ценна ровно настолько, насколько защищена. Раньше «ключ лежал в камере» — и защиту обошли; сегодня всё более продвинуто, но, всё же, бесконечно далёко от идеала. В случае с агитационным материалом КПРФ российский суд попытался установить чёткую границу: если в предвыборных материалах используются реалистичные люди, сгенерированные искусственным интеллектом (которых не существует в реальности), это считается обманом избирателей. Но означает ли это полный запрет на использование ИИ? Российское законодательство в области ИИ-агитации пока формируется, но на сегодняшний день явного тотального запрета на любое использование ИИ в предвыборной агитации в России не существует. Обсуждается законопроект о маркировке/регулировании ИИ в кампаниях, но это пока не закон. По сути, можно использовать картинки и иллюстрации, где нет конкретных «людей», графики и диаграммы, делать лёгкую обработку настоящих фотографий (цветокоррекцию, кадрирование) и можно писать тексты с помощью ИИ. Зачем тогда нужны системы проверки подлинности? Чтобы в рамках разрешённого всё можно было проверить: ➡️ На картинках, созданных ИИ — должна быть честная видимая надпись об этом. ➡️ У важных фото и видео должен быть «паспорт файла» (тот же Content Credentials или подобное) и ссылка, где любой может проверить историю создания файла. Но важно понимать, что эти системы не делают картинку или видео «настоящими» по содержанию. Зато дают хоть какой-то инструмент быстро доказать, что настоящие фотографии — действительно настоящие, и что созданное искусственным интеллектом было честно помечено. ПОДПИСАТЬСЯ ✅ Telegram-канал «Политтехнологи»