Глеб Кудрявцев — мастер AI

Как Google помечает ИИ-картинки Погрузился на досуге в теорию SynthID. Это технология, с помощью которой они внедряют невидимые метки в генерируемые изображения — что-то вроде неявного водяного знака. Это позволяет им надежно классифицировать ИИ-изображения (и естественно, понижать сайты с ними в выдаче, хоть вам этого и не скажут) Не путать с вотермаркой и метаданными — это все видно глазами и может быть легко удалено. Часть информации известна из публичных источников, часть спекулятивна. Но вот к каким выводам я пришел. — Метка вставляется в постпроцессинге отдельным нейросетевым энкодером, без опоры на детерминированные алгоритмы — Энкодер предпочитает работать на контрастных границах объектов — Метка избыточна в несколько раз и "голографична" — куска изображения достаточно для восстановления метки всего изображения. Размерность официально 136 бит/512x512px, в реальности нужна x10 избыточность. — Обнаружить метку по сути невозможно, в паблике нет ни энкодера ни декодера, пространство модификаций огромно, вдобавок, метку хэшируют перед вставкой — нужно искать шум в шуме — В итоге, удалить метку проще, чем обнаружить — Метка высокоустойчива к стандартным модификациям изображения - изменения цветов, контраста, яркости, шума, сжатия. Энкодер специально натренирован с их учетом. — Метка теоретически разрушается в пайплайне со случайной пространственной деформацией изображения (неравномерные сдвиги на 1-2 пикселей) + дальнейшему прогону через Img-to-Img диффузию с денойзингом. Но проверить нельзя (см пункт про обнаружение) — Натренировать свое подобие внедрения подобной метки относительно несложно. При этом по сути получается передовая стеганография — например, можно вшивать в картинки пароли, и хрен кто их вскроет. То же самое касается обхода DPI анализаторов трафика. Все это во многом спекуляции, информации в паблике мало. В каментах интересно послушать знатоков, насколько это соответствует действительности. PS Опенай послал меня нахер с такими разговорами, а вот гемини с удовольствием обсудил как внедрение, так и методы удаления метки 😂