Живем в обществе

Variety пишет, что в Голливуде теперь многие компании побежали делать эйай стратегии, потому что ИИ заметно удешевляет производство. Из других новостей: на фестивале в Трайбеке показывали сгенерированную док.драму «Dreams of Violets» (кино про протесты в Иране, рейтинг 2.2/10 на IMDb), а режиссер Содерберг заявляет, что вставил в документальный фильм про Джона Леннона 10 минут сгенерированных сцен и получилось круто... I’ve seen the version of the John Lennon doc without that material, and I’ve seen the version with the material that we generated, and the version with that material is a better version of the movie. Старый постик про Голливуд, оказывается, стремительно теряет актуальность 🔚

А у вас какая осознанность? В Твиттере форсится история о том, как HR-директор одного российского бигтеха предлагает оценивать кандидатов по духовному интеллекту, вайбику осознанности и интуитивному мышлению в дополнение к профессиональным скиллам 💅💅💅 Каждый раз, когда всплывают подобные истории — а это частое явление: кто-то к гадалкам ходит, кто-то советуется со звездами и ретроградным Меркурием — люди сильно негодуют, мол, как так, 21 век на дворе, а сомнительные идеи продолжают процветать в IT. Однако кажется, что увлечение эзотерикой/поп-психологией/альтернативными духовными практиками — далеко не чуждое явление для технологической индустрии, и корнями уходит в историю становления Кремниевой долины. Культура современной Долины складывалась на пересечении 2 миров: американского военно-промышленного комплекса с сетью исследовательских университетов и контркультурной движухой шестидесятых с коммунами, запрещенными веществами, нью эйдж философией и другими духовными практиками. Что могло объединить две такие далекие друг от друга Вселенные? 💫💫💫 Прежде всего представление о том, что сложные системы могут существовать без централизованного управления. Идеи кибернетики и самоорганизации были привлекательными для части контркультуры с ее горизонтальными сообществами и недоверием к государству. Одним из ярких посредников между двумя мирами стал Стюарт Бранд. Крутой дядька, издал в 1968 «Каталог всей Земли», который задумывался как практическое руководство по автономной жизни. Это был каталог книг, инструментов, товаров и идей в диапазоне от советов по ведению натурального хозяйства и строительства домов до гайдов по поступлению в колледжи и различным философским концепциям. Такой бумажный прообраз современного интернета, где в одном месте собрана вся информация, нужная человеку для самостоятельной жизни. Про эту книжку, кстати, восторженно отзывался Стив Джобс, а лозунг «Stay Hungry. Stay Foolish» с обложки каталога до сих пор часто используется в стартап движухе. Как показывает историк Фред Тернер в книге «From Counterculture to Cyberculture», в 1970-е сообщества хиппарей и компьютерных инженеров из лабораторий начинали все теснее переплетаться. Все это повлияло на представление о технологиях как средствах индивидуальной свободы и самовыражения. Постепенно выходцы из этой среды становились крупными технологическими предпринимателями, основателями влиятельных медиа и корпоративными консультантами. Но в голове-то сохранялись идеалы контркультурной молодости, которые плавно становились частью управленческой идеологии зарождающихся тех.компаний. В т.ч. поэтому у тех.компаний особое отношение к горизонтальным связям, самоорганизации, индивидуальной свободе и неприятию бюрократии. При этом увлечение духовным самосовершенствованием, восточными учениями и альтернативными практиками никуда не исчезло. Оно продолжило существовать внутри индустрии, где разговоры об энергетике, осознанности, йога-ретритах и духовном росте, видимо, будут всегда. P.S. Смотрим сцену из великого сериала Силикон Вэлли 🤓🤓

Вероятность, что профессор из Кембриджа в 84 года наберет почти 3 млн. подписчиков в китайском тик-токе мала, но не равна нулю... Прочитал прекрасную историю об антропологе, профессоре Кембриджского университета Алане Макфарлейне, который внезапно стал популярным инфлюэнсером в китайской соцсети Xiaohongshu (что-то среднее между инстой, тик-током и пинтерестом, основная ЦА — молодые люди в возрасте 20–30 лет). Макфарлейн записывает видео с ответами на вопросы китайских зрителей о работе, ИИ, смысле жизни, одиночестве и других экзистенциальных вопросах. В крупных городах китайцы уже давно живут в киберпанке, и кажется, что история с популярностью Макфарлейна особенно интересна в этом контексте. Несмотря на возможность получить ответ на любой вопрос в пределах 5 секунд, некоторые люди все равно стремятся слушать тех, кто обладает мудростью — качеством, которое в современном мире как будто все чаще отходит на второй план. Т.е. способностью отличать важное от второстепенного, разбираться в противоречащих друг другу ценностях и размышлять о том, как вообще стоит жить (жизнь прожить — не поле перейти всё-таки). Мне это почему-то отдаленно напоминает то, как в современном российском Ютубе популярны, например, о.Алексей Уминский, Александр Асмолов или Татьяна Черниговская (список специально состоит из очень разных людей) Кстати, порывшись в библиографии Макфарлейна, обнаружил следующее: во-1, еще 20 лет назад он написал книжку для своей внучки в формате ответов на вечные вопросы. Можно посмотреть здесь, это обычно всегда очень трогательное чтение. Во-2, у него есть достаточно много работ по истории технологических революций: вот статья, в которой показывается значение изобретения стекла для развития человечества, а тут лежит книжка «The Invention of the Modern World», где есть интересные главы про то, почему промышленная революция произошла именно в Англии, а не в других странах.

Как оценить скорость развития ИИ? Можно прибегнуть к разным способам: например, следить за бенчмарками или просто активно пользоваться нейросетями и наблюдать за тем, как они решают все более сложные задачи (к слову, так выглядела генерация видео всего 7 лет назад). Еще один вариант — посмотреть на научные исследования, которые были опубликованы год-полтора назад, и проверить, насколько выводы из них остаются актуальными. Спойлер — не очень 🔭 Здесь собрали 50 широко цитируемых выводов из исследований о ЛЛМках и решили перепроверить на 20 разных современных моделях. О многих из этих выводах вы точно слышали (наподобие «ну тупые ллмки придумывают ссылки/не могут посчитать буквы в слове стробери» и прочих реликтов прошлого). В итоге 44% выводов из исследований практически потеряли актуальность, а ещё 34% заметно ослабли. Однако некоторые паттерны поведения вроде склонности соглашаться с пользователем/предпочитать собственные ответы при оценке (self-preference bias) до сих пор сохраняются.

Закреп с любимыми постами Если вы недавно подписались, рекомендую начать с этой подборки. А если читаете давно — вдруг что-то пропустили: — Почему технооптимизм исчез даже из технологических медиа? — Создаст ли ИИ новые рабочие места? Сомнительно. — Почему японский дизайн такой всратый?? — Как две подруги начали вести подкаст для беременных женщин, продвигать идеи «freebirth», и что из этого получилось — Почему все превращается в телевизор? — Как в Голливуде относятся к ИИ (плохо) — Откуда взялись северорейские хакеры? — Как работают ИИ-детекторы, которые определяют сгенерированные тексты? — Питер Тиль читает лекции про антихриста и Рене Жирара в Долине. Зачем? — ИНСАЙД про деда Илона Маска.

Прикольно, как много техномиллиардеров спонсируют республиканскую партию на сегодняшних мидтерм выборах в США: — Илон Маск — $446 млн, установил рекорд по спонсорству. Неудивительно, когда именно с твоей нейросетью советуются перед захватом Венесуэлы. Вдруг пропустили этот совершенно безумный сюжет то ли из Маркеса, то ли из Филлипа Дика (в первом случае гадалка и карты определяли политические решения, во втором — китайская «Книга перемен»), то ли из Азимова. — Марк Андриссен и Бен Хоровиц (основатели венчурного фонда a16z) — $92,2 млн; — Грег и Анна Брокман (Грег — сооснователь OpenAI) — $50 млн; — Gemini, Foris DAX — все крипта. А все потому, что у респов менее ограничительный подход к регулированию тех.компаний и ИИ. Сейчас даже трудно представить, что когда-то именно Кремниевая долина была одним из оплотов демократической партии. Однако до сих пор, я так понимаю, обычные сотрудники тех.компаний поддерживают демократов, а Начальники вот не очень...

Удивительно не то, что в интернете постоянно что-то ломается (например, сегодня опять лег один крупный хостинг, а я получил смску о ядерном ударе). Удивительно, что наш т.н. цифровой мир в принципе работает. Например, из этого текста узнал, что базу часовых поясов, от которой зависит правильное отображение времени на миллиардах смартфонов, поддерживает один мужичок из Калифорнии в свободное от преподавания время 🙏🙏

Откуда взялись северокорейские хакеры? Говорят, за вчерашним крупнейшим взломом Binance (у меня там было 30 долларов, надеюсь, они целы!!!) стоят северокорейские хакеры. Стало интересно, как в стране, в которой интернет раздают по талонам, появились группировки, способные взламывать банки, криптобиржи и голливудские компании. Как и можно было ожидать, за всем маячит рука Советского Союза. Во время холодной войны советские ученые и инженеры помогали КНДР не только с ядерными технологиями, но и с развитием компьютерных наук. В частности, активно приезжали специалисты из Военной академии им.Фрунзе, да и многие северокорейцы по обмену учились в советских вузах. Система подготовки будущих северокорейских хакеров напоминает советскую (1, 2, 3). Математически одаренных детей ищут по всей стране, отправляют в спецшколы, затем лучшие поступают в Университет им. Ким Ир Сена, Политехнический университет им. Ким Чхэка или специализированные военные учебные заведения. Среди последних особенно выделяется колледж Мирим, подготовивший, согласно американским разведывательным оценкам, около 1300 хакеров, участвовавших в разведывательных и военных кибероперациях. Северокорейское общество чрезвычайно милитаризированное. В КНДР военная служба обязательна (для всех мужчин — 10 лет, для женщин —7 лет, хотя, вроде, для женщин есть какие-то послабления), а ведущие технические университеты тесно связаны с ВПК. Для северокорейцев армия остается одним из важных социальных лифтов: сотрудник, который получил престижную должность, например, в военной разведке, может рассчитывать на государственное жилье в Пхеньяне (жить в Пхеньяне — это само по себе большая привилегия), повышенное продовольственное обеспечение, выплаты в валюте. Интересно, что программы по подготовке северокорейских кибербойцов начались еще с 1980-х годов. А после войны в 1991 в Персидском заливе, когда американцы продемонстрировали возможности современных средств ведения боевых действий, старина Ким Чен Ир бросил еще больше ресурсов на развитие информационных войск. Изначально киберподразделения развивали для шпионажа и диверсий. Например, уже в 2000-е начались первые масштабные кибератаки на инфраструктуру Южной Кореи. А в 2010-е стало ясно, что на кибератаках можно хорошо зарабатывать валюту, ведь легальные источники пополнения казны у КНДР весьма ограничены. До массовых финансовых кибератак северокорейцы хорошо зарабатывали валюту на фальшивомонетничестве, контрабанде наркотиков, торговле оружием, подделке сигарет, страховых махинациях и прочих достижениях человеческой смекалки. Если вас заинтересовала тема, то очень советую послушать подкаст The Lazarus Heist от BBC, там несколько сезонов, в которых рассматриваются разные стороны северокорейской деятельности. У одного из авторов подкаста Джеффа Уайта (Geoff White) есть также книжка про то, как устроена северокорейская система кибервойск The Lazarus Heist: From Hollywood to High Finance: Inside North Korea's Global Cyber War Если надо, кину в комменты пдф, отпишитесь!

Одно из странных и очевидно манипулятивных утверждений для прогрева публики звучит так: «ИИ создаст новые рабочие места так же, как это происходило во все предыдущие технологические революции». В утверждении неверно слишком многое, чтобы серьезно с ним спорить (по крайней мере точно не в формате постика в интернете). Лучше взглянуть на новые формы занятости, которые уже появились благодаря ИИ. К примеру, до сих пор полно вакансий, где за достаточно скромные деньги людям предлагают обучать нейросети своим профессиям при помощи разметки данных для ИИ. Например, в Китае архитекторы, инженеры, юристы и преподаватели подрабатывают AI-тренерами в свободное время. Специалист придумывает кейс из своей профессиональной практики, расписывает правильное решение, оценивает ответ модели и объясняет, где она ошиблась. За такое задание обычно платят от 100 до 500 юаней — примерно $15-74. Или в ЮАРе человеку с PhD по социологии предлагают обучать ИИ професии преподавателя (составлять задания и проверять студенческие работы) за 37 долларов в час. Да и на всем «любимом» HH можно легко найти подобные вакансии от компании на букву Я. Причем иногда работа по разметке данных хорошо оплачивается. Например, радиологи или врачи-онкологи могут зарабатывать до 400 долларов в час. Однако это не меняет общей, неумолимой тенденции. Исторически капитализм давно пытается отделить навык от конкретного работника и встроить его в технологию: тейлоризм, автоматизация и проч. делали это весь XX век. Но всегда существовал огромный пласт профессионального опыта, который крайне трудно было отделить от человека. Например, интуитивное понимание задачи или какие-то способы принятия решений в нестандартных ситуациях. Теперь же невозможное стало возможным. Можно отчуждать не только время (8 часовой рабочий день в офисе — это хайп), не только продукт труда, но и часть накопленной способности этот продукт создавать. Например, превратить профессиональный опыт в данные, а затем в воспроизводимый технологический актив. Картинка из +- недавнего исследования-прогноза Антропика. Upd. Пока писал пост, вышла очередная новость про сокращение: в Майкрософте гонят на улицу 60 тыс. человек (27% глобального штата) с формулировкой «добровольного ухода с компенсацией». Наверное, ИИ создаст им классные рабочие места 👍

Коллеги, тревога, Илон Маск снял свою «Одиссею». Если вы помните, все лето шел спор о фильме «Одиссея» Кристофера Нолана. Среди претензий к фильму особенно громко звучали следующие: кино нереалистичное, полный мискаст и повесточка (в Греции не могло быть чернокожих), кругом трансгендеры и трансформеры — таков список обвинений, которые можно прочитать в Твиттере или других неприятных местах интернета ⌨️⌨️⌨️ В спор активно включился Илон Маск, который лучше всех знает, как должно выглядеть кино по Гомеру. Взяв быка за рога, Маск сначала объявил конкурс на съемку 3-5 минутного ролика по «Одиссее», победителю были обещаны 100 тыс. долларов. Параллельно с конкурсом студия Wonder Studios, сотрудничающая с компанией Маска xAI, снимала первый эпизод сериала по эпосу древнегреческого аэда. Хотя что значит снимала — ведь весь 7 минутный пилот полностью сгенерирован, по утверждению создателей, в Grok Imagine. Ознакомиться с шедевром можно здесь. Какой смысл имеет эта история, кроме того, что Маск хочет пропиарить свой продукт? Если отбросить предубеждения против Маска и сгенерированного контента, то это очевидный выпад в сторону Голливуда и современного кинопроизводства. Исторически одна из главных причин доминирования крупных киностудий — необходимость огромных инвестиций: чтобы снять любой блокбастер, нужно вложить десятки/сотни миллионов долларов. Теперь же Маск пытается показать, что технологический прогресс позволяет радикально удешевить и демократизировать производство фильмов. Неудивительно, что реакция Голливуда на эти эксперименты в основном резко отрицательная.

Собаки-клоны Если вы любите серию Метал Гир так же, как я, то новость для вас: В США запланировали клонировать и «генетически улучшать» собак для армии. Warhound привлек $200 млн и планирует клонировать лучших служебных собак, а также редактировать их гены для военных. Anduril займется бронезащитой и технологиями для животных. Программу описали фразой «Капитан Америка» для собак. Насколько понимаю, технология клонирования собак существует уже более 20 лет, и, например, в Южной Корее и Китае несколько десятков собак находятся на службе. И даже в Якутию привозили парочку улучшенных хвостатых, правда собаки оказались не очень приспособленными к местному резко континентальному климату. В целом клонирование — это очень дорогое «развлечение», около 50к долларов стоит копирование одной собаки. Также никто не отменял ряд сложных этических вопросов, связанных с процессом и его результатами. Что касается самой новости про Warhound, то стоит отметить 2 вещи: 1) Список инвесторов, среди которых несколько больших уважаемых фондов (Sequoia Capital, Franklin Templeton и тд). В целом это в русле последних тенденций, когда во многих странах хайпуют стартапы, связанные с ВПК (все все понимают) 2) Прикольно, что в голове американских техномиллиардеров все всегда вертится вокруг массовой культуры: если летающие машины, то «Назад в будущее», если клонированные собаки, то «Капитан Америка». Внутреннего ребенка не победить ⚙️

Это не англоязычная версия Раши Тудей, а статья в журнале Wired. Если коротко, люди посмотрели рилсы про уютные европейские города, начитались реддита, уехали из США в Европу и разочаровались. Деталь, впечатлившая больше всего, — американец узнал, что в Польше сильны консервативные настроения только после того, как туда переехал. P.S. Сама статья так себе и похожа на сборник анекдотов про вестернов, но, во-1, забавно, что такое публикуется на главной большого издания про технологии, во-2, интересно почитать комменты, где люди рассказывают о своём опыте.

Французские баррикады и снэпчат Уже месяц идут протесты во Франции, которые начинались с выступлений лицеистов, но давно переросли в общенациональные беспорядки. В эти выходные на улицы вышли сотни тысяч людей, и города выглядели в лучших традициях родины революции: баррикады, слезоточивый газ и мародерство. Возникает закономерный вопрос — как протестующие кооперируются и какую роль в этом играют технологии? (попробуем без конспирологии 🤯🤯🤯) Узнал много нового для себя, делюсь с вами. 1. Основная платформа, где планируются протесты, — Snapchat В отличие от Тик-тока и Инстаграма, Снэпчат намного сильнее ориентирован на личное общение. Куча игровых механик (стрики за ежедневный обмен фотографиями, как в Дуолинго; рейтинги лучших друзей; значки за близость общения) поощряют взаимодействие с друзьями, а не скроллинг ленты. К тому же у Снэпчата есть несколько базовых механик, полезных при организации выступлений. Во-первых, автоматически удаляются сообщения из переписки. Это дает протестующим некоторую иллюзию анонимности и защиты от товарища майора. Во-вторых, есть Snap Map — карта, где можно видеть местоположение друзей, и, соответственно, понимать, где идет Движуха. В этом репортаже описывается механика организации протеста. Выглядит примерно так: школьники создают чаты класса/параллелей, постепенно в чат добавляются ученики со всей школы, а затем и из соседних. Возникают отдельные чаты организаторов, и так постепенно вырастает протестная сеть. Кстати, именно в Снэпчате зародился пока главный мем протестов: «Bismillah, c'est les ténèbres», история смешная, почитайте 💀💀💀 Помимо Снэпчата, энтузиасты сделали еще такой сайт, где есть онлайн-карта протестов. Работает он примерно так же, как наш народный сайт Гдебенз.ру, только пользователями делаются отметки не о наличии бензина, а о ходе протестов и местах сбора. 2. Активно используются 2 главных союзника поколения Альфа: ИИ + аниме С помощью нейронок создают плакаты с призывами к протестам (причем один и тот же шаблон адаптируют под разные школы и лицеи), формулируют требования к властям и делают аниме-фанфики. Последнее самое смешное: берется реальное видео столкновения с полицией и его помещают в сеттинг Наруто/Атаки Титанов/любого другого тайтла. Так школьники становятся супергероями, спасающими мир... Кринж? Кринж. Еще, конечно же, снимаются многочисленные туториалы, как правильно протестовать, распределять обязанности и вести себя при задержании. Вероятно, там тоже приложена рука чатагпт.

Вчера стало известно, что в телеграме планируют ввести алгоритмическую ленту. Пока тестово на Мак ОС, но направление развития уже можно предсказать. Там, где есть алгоритмическая лента, сразу: 1) появляется миллион людей, которые делают одинаковый контент, чтобы попасть в рекомендации; 2) возникает столько же контор по «взлому алгоритма»; 3) алгоритмы будут поощрять определенные форматы и заставлять интересных авторов под них подстраиваться. Проходили это на примерах всех существующих соцсетей — ничто не ново под луною. Закономерным развитием станет телеграмный тик-ток, где люди, не способные к логической цепочке длиннее 2 звеньев, будут танцевать под сгенерированный ИИ-тречок и флексить своими миллионами 👍👍👍 Экономическая логика превращения любой соцсети в телевизор чрезвычайно понятна. Алгоритмическая лента лучше монетизируется, потому что увеличивает время нахождения на платформе. Ритеншн пойдет вверх, подтянутся новые рекламодатели, денег будет больше, а средний асикью пользователя уменьшится до размера горошинки. Какая культурная логика за этим стоит, можно прочитать в моем старом постике почему платформы неминуемо эволюционируют в телевизор. К нему стоит добавить только то, что переизбыток контента всегда ведет к появлению фигуры редактора, которым может быть либо сторонний человек-эксперт (модель классических СМИ), либо алгоритм, либо сам пользователь. Когда на платформе мало интересных для вас авторов, скажем 20, то следить за ними получается нормально. Как только авторов становится много — например, появляется 250 каналов только про кино, причем все они, мягко говоря, разного уровня, — то следить за этим уже невозможно, человеку становится необходим агрегатор контента. Это может быть просто какой-то безымянный агрегатор без позиции (прикрутили чат гпт), или авторский (типа ув. Олега Кашина). Но зачем платформе нужны агрегаторы, если можно сделать свой и управлять вниманием пользователей?

Римская империя Марка Цукерберга Увидел пост, где рассказывается, как Марк Цукерберг угорает по Римской империи и Октавиану Августу, даже детей назвал в честь императоров (Максима, Август и Аврелия). Стало интересно, есть ли еще фанаты Римской империи в мире высоких технологий и больших денег. Конечно же, есть. Первый в списке — Илон Маск, который всем советует читать «Записки о Галльской войне», любит римский салют и сокрушается по поводу демографических проблем Рима. Менее очевидный кандидат — Чарльз Кох (№19 среди богатейших людей США). Он спонсировал создание института Катона, который распространял либертарианство. Правда это было давно, в 70-80-е, сейчас институт живет за счет других жертвователей. Зато Кох продолжает активно финансировать респов. Еще, оказывается, есть институт Цицерона, который был основан миллиардером Джо Лонсдейлом (сооснователь Palantir). Заявленная миссия — реформирование гос. сектора на уровне штатов по разным вопросам (борьба с бездомностью, общественная безопасность и пенитенциарная система, образование и тд). По сути очередная лоббистская консервативная организация, которая пытается сделать Америку великой. Если посмотреть в целом на американский полит. истеблишмент, то такое ощущение, что о Римской империи там думают каждый день в течение нескольких часов: сравнение США с поздней РИ стало общим тропом и встречается у официальных лиц, техномиллиардеров, консервативных блогеров и прочих Джо Роганов. Картинка отсюда

Про борцов с прививками вы все знаете, а как насчет войны с пастеризованным молоком??? Оказывается, в США есть целые организации, которые продвигают пользу сырого молока в сравнении с пастеризованным (Raw Milk Institute, Weston A. Price Foundation и т.д.), и всю эту движуху поддерживает министр здравоохранения Роберт Ф. Кеннеди. Аргументация простая: чота ети учоные там делают с нашим сельским молочком, и оно теряет все полезные свойства... вернемся-ка мы к основе, к матушке природе.. 🥺🥺 Никого, конечно, не смущает, что так заодно можно подхватить кишечную палочку или туберкулез. Если уж пастеризация молока у значительной части людей вызывает страх, то что говорить о 5G-вышках, прививках и ИИ. (Кеннеди на картинке справа, напротив Маска).

Отдельно стало интересно, как работает Pangram и другие ИИ-детекторы. Если вам тоже, можно посмотреть статью на сайте самого Панграма. Если максимально коротко и упрощенно, то раньше многие ии-детекторы пытались предсказать слово, которое нейросеть будет использовать дальше. Например, в предложении «I’m going to take my dog for a ...» для модели наиболее вероятным кажется слово walk. Соответственно, чем чаще выбирались наиболее предсказуемые продолжения, тем вероятнее детектор классифицировал, что текст написан ИИ. Любому понятно, что это так себе критерий для определения подлинности, поскольку люди весьма часто выбирают наиболее предсказуемое продолжение. У Панграма другая логика: анализируется совокупный паттерн письма. Для текста создается, грубо говоря, ИИ-двойник, его просят написать ИИ-текст, максимально похожий по теме, длине, тону и содержанию. Затем данные размечаются (человек/не человек), и на основе этих данных модель учится. В статье приводят пример с Достоевским (забавно, что выбрали именно ФМ, учитывая его любовь к двойничеству в творчестве). Как понять, что перед нами текст Федора Михайловича? Нужно нанять нескольких людей-имитаторов, которые будут писать максимально приближенно к стилю писателя. Сравнивая разные версии копии с оригиналом, мы сможем найти характерные черты стиля писателя. Какие именно критерии (длина слов, их порядок, частота и тд) являются ключевыми для нейросети при определении стиля, мы не знаем. Для меня до сих пор удивительно, что стилевого анализа оказывается в большинстве случаев достаточно для определения того, писал текст человек или нейросеть. Т.е. не очень важно, какие у Достоевского были конкретные мысли по разным вопросам, например, христианству, принципиальнее оказывается форма. Тут правда важный нюанс: насколько я понимаю, Панграм анализирует не только отдельные слова и синтаксис, но и устойчивые способы разворачивать мысль (как появляется тезис, чем он обосновывается, как вводятся уточнения и контраргументы, как одна мысль переходит в другую и тд.).

Больше всего скандалов связано с ИИ-текстами в художественной литературе. Последний громкий случай, о котором гудели все французские газеты, — история писателя гаитянско-квебекского происхождения Телисона Орелиена, рассказывавшего о своих мытарствах и страданиях в стране Дениса Катаева и Эмманюэля Макрона. Внезапно выяснилось, что номинант на Гонкуровскую премию сгенерировал 95% текста:( Писателя вывели на чистую воду с помощью самого расхайпленного инструмента для определения сгенерированных текстов — сервиса Pangram, которым пользуются сейчас и в медиа, и в научных журналах, и в издательствах. На Wired в тексте о Панграме задаются следующим вопросом: нет ли проблемы, что суждение о подлинности человеческого текста выносит машина, учитывая, что: 1) точность определения не равна 100%; 2) ии-текст можно прогнать через humanizer, и точность определения еще сильнее уменьшится; 3) естественно, есть какие-то серые схемки вокруг Панграма, когда часть журналистов/исследователей/блогеров, специализирующихся на этой теме, получают деньги или приходятся троюродными братьями, одноклассниками и прочими родственниками сотрудникам компании.

Возвращаемся в эфир с разбора апокалиптических мировых настроений вокруг ИИ. Если вы пропустили, за последнее время произошло примерно следующее: — ИИ-агенты автономно взломали Hugging Face и много чего еще; — С помощью ИИ решили уравнение Навье-Стокса (там все сложно и скандально); — Из ведущих ИИ-компаний уходят сотрудники со словами «Человечество обречено, всем конец», а топы компаний призывают замедлить разработку и откладывают выпуск новых моделей. На этом фоне полезно почитать предсказания о развитии ИИ, которые не сбылись. Американское общество в целом достаточно склонно к эсхатологическим настроениям. Идея, что нынешний порядок вот-вот закончится и начнется принципиально новая эпоха, всегда была двигателем американской истории (например, волны Великих пробуждений или как в XX веке с ума сходили от НЛО и ядерного Армагеддона). Сейчас дискурс об ИИ воспроизводит ровно ту же структуру про рубеж человеческой истории, новый мир, конец привычной жизни и проч. Это, конечно, не гарантирует, что все в мире будет хорошо. Зато в чем точно можно быть уверенным, так это в том, что в американском обществе всегда будет продолжаться последняя битва с самим собой (про это читал Паша Техник и снимал Пол Томас Андерсон). На картинке моднейшая обложка из 1999 года 👍

Fuck AI? Уже писал, что современные технологические медиа все чаще говорят о вреде технологий, чем об их пользе. Примерно то же происходит и в кинематографе, который проходит путь от восхищения современными технологиями к их критике. Отовсюду из Голливуда слышно недовольство ИИ: Винс Гиллиган снабжает один из наиболее обсуждаемых сериалов прошлого года подписью: «This show was made by humans»; Джеймс Кэмерон, известный любитель технологий, отдельно проговаривает, что в «Аватаре» не использовался ИИ; подытоживает общие настроения Гильермо дель Торо, говорящий фак эйай со сцены на вручении очередной кинопремии. Почему так происходит? Очевидный ответ — деньги. Менеджеры и студии хотят снизить риски и стоимость контента с помощью ИИ; режиссеры, сценаристы, актеры — сохранить экономическую и творческую независимость. Понятно, что конфликт давний и практически каждый этап развития Голливуда сопровождался борьбой между бизнесом и творческими интересами. Однако новое в сегодняшней ситуации — пересмотр онтологической роли автора. Раньше технологии влияли на скорость производства и да, угрожали рабочим местам людей (сколько людей лишилось работы, когда кино стало звуковым?). Сегодня же подвергается сомнению статус человека как источника культуры/творчества. Если у Ролана Барта автор умирал метафорически (смысл текста не принадлежит автору и не ограничивается его намерениями), то сейчас автор умирает буквально и становится побочным продуктом производства контента. А вообще про это, наверное, есть в недавней книге кинокритика Марии Кувшиновой «Новый договор. Кино и зритель после ИИ». Но книжку я еще не прочитал, если интересно, расскажу потом как-нибудь.