Тимур Угулава

😈 Кризис реальности, или к чему могут привести нейронки уже завтра Прочитал на днях у Дани Трабуна любопытный пост про нейропорно-революцию в X (та, что ex. Twitter). Если в двух словах, то новый генератор изображений в Grok не так сильно цензурирован, и поэтому позволяет творить непотребства с фотографиями других людей. Например, путём несложного творческого переосмысления можно «переодеть» коллегу в нижнее бельё из зубной нити, или «поставить» в откровенную позу, или «покрыть» лицо белой глазурью. Ну вы поняли. Согласен, что это явно часть маркетинга Иксов, и после того, как цели хайпа будут достигнуты, винтики подзакрутят. Здесь даже сомнений нет. Но если в целом посмотреть на ситуацию, а главное — на технические возможности, то вот в такое настоящее мы сейчас летим стремглав, когда можно будет легко сделать любые дипфейки. Я тут покрутил с нейросетью и своим серым веществом, какие могут быть последствия у всего этого «счастья». Ну так... >> Смерть «фотодоказательств» и кризис доверия Мы привыкли жить в мире, где «лучше один раз увидеть, чем сто раз услышать». Фотография и видео были документальным подтверждением реальности. В ближайшие пару лет мы полностью утратим доверие к визуальному контенту в интернете. Любое компрометирующее фото (измена, преступление, неэтичное поведение политика) будет восприниматься (или оправдываться) с презумпцией «это, скорее всего, нейросеть». С одной стороны, это защитит невиновных от клеветы. С другой — развяжет руки виновным. >> Феномен «Дивидендов лжеца» Это термин, который описывает ситуацию, когда реальность становится неотличимой от фейка. Если реального человека поймают на реальном преступлении или непотребстве, ему будет очень легко сказать: «Это не я, это дипфейк, сделанный врагами/конкурентами». И доказать обратное будет крайне сложно, дорого и долго. Политики и мошенники получат идеальный щит. >> Новый виток кибербуллинга и шантажа Это самая мрачная и ближайшая перспектива. В школах и офисах травля выйдет на новый уровень. Подросткам не нужно искать реальный компромат — они его сгенерируют за секунды. Потенциально это может привести к огромным психологическим проблемам у жертв, вплоть до трагических исходов. Схема «плати деньги, или я разошлю эти фото твоей жене/начальнику» станет массовой и автоматизированной. Даже если жертва знает, что фото фейковое, сам факт рассылки «грязи» может разрушить репутацию или отношения. >> Юридический коллапс и право на «цифровой образ» Законы катастрофически не успевают за технологиями. Является ли преступлением создание порно с лицом коллеги, если это всего лишь пиксели, а реальный человек не пострадал физически? Сейчас во многих странах это «серая зона». Нас ждёт вал судебных исков и срочное принятие законов о защите биометрических данных. Скорее всего, появится понятие «кражи цифровой личности». Ваше лицо станет таким же охраняемым объектом, как паспортные данные или номер кредитки. >> Социальная адаптация и «Новая искренность» Это, пожалуй, самый философский итог. Когда любой может быть изображён голым, пьяным или совершающим преступление, общество (со временем) может стать менее чувствительным к такого рода контенту. Если у каждого есть фейковое порно в сети, то оно перестаёт быть позором. Шок-контент девальвируется. Возможно, это приведёт к тому, что мы начнём ценить только живое общение и личный контакт, так как всё цифровое станет априори ложным. --- Мы входим в странный период. Скорее всего, ближайшие 3–5 лет будут очень «интересными», пока общество не выработает «цифровой иммунитет» — привычку не верить своим глазам. А чему тогда верить... — вот этот вопрос государствам мира предстоит решать в будущем. Удивительное, блин, время!