Pavel Sviridov

"ИИ уничтожил всю авиацию в США. Всего за три дня до коллапса во все центры управления полётами внедрили нейросеть, которая собирает более 200 потоков данных — маршруты, трафик, погоду, загрузку диспетчеров и многое другое — и прогнозирует ситуацию в небе. Теперь вся авиация в США встала."

"Я пережил холодную войну. Пережил курящих родителей в машине без ремня. Я пережил гибель лесов и кислотные дожди. Мне говорили, что мои дети уже не будут знать деревьев. Я пережил призыв в армию и медкомиссию. Не хотел стрелять в родственников в ГДР. Стена пала. Я пережил эпоху "Без будущего" и НДВ. Тонкую пыль 70-х и 80-х. Структурные изменения. Нефтяной кризис. Говорили, что нефти давно не осталось. Я пережил Чернобыль. Пережил Бушей и их войны. Я пережил Коля. Вытерпел Меркель. Пережил ковид. Я переживу и изменение климата. В моей юности предрекали ледниковый период. Теперь слишком жарко. Я не верю в большую войну. Третья мировая не придёт так, как ожидали. Когда-нибудь гордиев узел снова развяжется. Мир вернётся, рано или поздно. ИИ тоже нас не убьёт. Жизнь — это всегда вызов. Она требует смелости, уверенности, более позитивного мышления. Может, доверия к Богу. Первичного доверия. Она всегда заканчивается смертью. Так или иначе. Страх только пожирает изнутри. Ненависть тоже. Хотя гнев иногда разрешен. Свои чувства — это нормально. Но вечно думать только негативно, ожидать худшего — душе от этого нет пользы. Позволять вживлять себе чувства, впадать в панику — это подлый ход манипуляторов, и таковым остаётся. Прошлое не изменить. Будущее неопределённо. Но настоящее, здесь и сейчас — оно в каждом из нас. Его можно принять, сформировать, развить себя. Мы слишком много смотрим на других, на мир, на великую схему вещей. И забываем о себе, о том, кто мы и насколько сильны каждый по отдельности. Ну... просто хотел запостить что-то хорошее. Многое — дерьмо. Но не всё." - из форума русскоязычных немцев.

Итак, Хуанга уволили, и сегодня мы опять проснулись в новом мире. Кто не знает, кто такой Дженсен Хуанг, — отпишитесь. Похоже, писать про ИИ неизбежно означает писать про политику, так как ИИ стал силой, которая ожидаемо становится центром политики. Твиттер кипит, конспирологии громоздятся, но в битве за консенсус побеждает следующая версия. Коротко: Увольнение Хуанга - в глубине борьба за доминирование проприетарных, закрытых моделей, борьба за мировое господство. Есть часть элиты, кто стремится монополизировать ИИ, и в первую очередь, сверхИИ, и есть те, кто стремится противостоять монополии (не ради нас, а ради утраты своей доли власти). На поверхности - шпионский скандал с адюльтером для публики. 1. Власти не нужны умные и эффективные. И никогда не были нужны. Власти нужны покорные и лояльные — так было и так будет, потому что ум и эффективность — угроза. 2. На рынке ИИ есть две конкурирующие парадигмы, за которыми стоят два геополитических врага (на первый взгляд) — США (мы) и Китай. В общем-то, очевидно, что на данный момент на нашей планете есть только две реальные суверенные державы: США и Китай. Все остальные — статисты в пьесе. Ничего личного. И США, и Китай понимают, что ИИ + всё остальное — это в перспективе почти абсолютная власть и асимметричное превосходство. 3. На первый взгляд, США топят за проприетарные модели (OpenAI/Anthropic/SpaceX/Meta/Google), а Китай топит за открытые модели, которые он создал, дистиллируя (воруя) проприетарные. США стремятся ограничить экспорт передовых чипов всем, кто не союзники. Но ситуация складывается так, что, когда речь заходит об ИИ, союзников у США больше нет (и не будет), а есть только клиенты (кому позволено иметь то, что США разрешат) и враги (кому не позволено). Соответственно, враги, точнее враг — он один, Китай — хочет, с одной стороны, получить (спиздить) лучшие чипы, чтобы тренировать свои открытые модели, а с другой — наводнить мир дешевыми китайскими моделями (товарами). (Где-то я это уже слышал про дешевые китайские подделки), Чтобы захватить глобальный рынок быстрее, чем США. Так выглядит конфликт на поверхности. А поскольку Дженсен Хуанг лоббировал поставки чипов Китаю, то типа «очевидно», что к этому его подвигла китайская шпиенка. Так выглядит официальная версия, а потому Хуанга убрали. Но есть и более глубокий уровень, и здесь вопрос уже не в закрытых или открытых моделях, а гораздо глубже: это выбор между дистопией мерзкого киберпанка и потенциальной утопией изобилия для всех. Это вопрос о точке власти, которая, как известно, не в Вашингтоне или Пекине, а в наших мозгах. То есть имеет РЕАЛЬНУЮ власть — тот, кто эффективнее умеет срать нам в мозги, чтобы не только делать из нас полезных идиотов, но и поддерживать нас в этом состоянии неограниченное время. При чем здесь ИИ и закрытость/открытость моделей? А вот при чем: 4. Сейчас ИИ пользуются уже более 2,4 млрд человек, 4 года назад — 0. Значит, уже через 3–5 лет ИИ будут пользоваться все 100% людей, и вовсе не обязательно через чат: ИИ в разных формах будет просто везде. Через 7–10 лет роботы станут повсеместными, а через 20 лет мы будем жить в обществе, где людей будет от силы 1%, роботов 2–3%, а остальное — ИИ-агенты всех цветов и размеров. Те, кто верит, что так не будет, просто плохо осведомлены. Не слушайте невежественных садоводов, которые выращивают картошку. Простой вывод: может быть две архитектуры для ИИ, и это и есть про власть. — Система может быть централизованной в широком смысле: вычисления распределены, а контроль и повестка (то, что срет в мозги) централизованы. Власть - это централизация на уровне правил, протоколов, контроля, повестки. Типа религии. Можешь трахать кого угодно, хоть козу, но закят в церковную кружку обязан нести. — Система может быть децентрализованной: вычисления распределены, и нет центрального контроля и повестки, а есть сеть независимых агентов, людей и прочих сущностей. Но это не всё. Небольшие модельки можно ставить на локальные компы, а большие запускать из облака. А вот это больно для власти. Почему?

📌 Продолжение. Потому что суть открытых моделей в том, что МЫ САМИ МОЖЕМ ИХ МЕНЯТЬ. К примеру, давеча ребята из MIT смогли отучить китайскую Qwen от цензуры Коммунистической партии Китая. Улавливаете? Если вы используете открытую модель, ВЫ САМИ УПРАВЛЯЕТЕ СВОЕЙ ПОВЕСТКОЙ и не позволяете срать вам в мозги, чтобы вы голосовали единственно правильным образом. Разумеется, Дженсен Хуанг был не единственным апологетом открытых моделей. Важным проповедником был Hugging Face, который — упс! — купил тот же Дженсен Хуанг. И получается, что, с одной стороны, Дженсен Хуанг вроде бы за всё хорошее, за свободу и против злых гномов из Anthropic и OpenAI, но китайский след НЕМЕДЛЕННО позволяет думать, что НА САМОМ ДЕЛЕ он, паршивец, был не за добро, а тайным агентом Китая. А если и не был, то косвенно своими лоббистскими усилиями, помогал НАШЕМУ ВРАГУ. Здесь надо остановиться и вспомнить, что это всё не истина, а СПЕКУЛЯЦИИ и КОНСПИРОЛОГИЯ. При этом мы понимаем, что компартия Китая и лично Си уж точно не те, кто хочет отдать повестку людям, и они последние люди, кто топит за свободу. Китай при всех своих успехах остается жестким тоталитарным, вполне людоедским государством с тенденцией к абсолютизму. Российские люди это игнорят, потому что сами живут в феодальной монархии. Европе тоже пох, потому что она давно идет в ту же сторону, где роль монарха и тоталитарного центра играют евробюрократы. Но мы, те, кто живет в США, кто за подлинную свободу личности, а не за тот мерзкий фарс, который сейчас называется демократией, понимаем, что Китай — это лишь повод. ПОВОД. Потому что битва идет за абсолютную власть. И косвенно это подтверждает тот же Anthropic, который в последней версии Fable 5.2 не просто борется с дистилляцией, НО ПРЯМО запрещает создавать оптимизирующий код для ядер процессоров, чтобы ОПТИМИЗИРОВАТЬ ЗАПУСК ОТКРЫТЫХ МОДЕЛЕЙ. Это есть в их релизе. Умные и квалифицированные люди это понимают. Поэтому на поверхности — борьба с Китаем, в глубине — борьба за эпическую власть. По крайней мере, есть такой нарратив. Технически всё могло быть так. Дженсен сопротивлялся давлению и ясно всем показывал, куда гребет. Терпение у масонов лопнуло, и Deep State / сложившаяся невидимая структура власти говорит: «Эй, дружище BlackRock, у тебя вдвое с лишним больше голосов, чем у Дженсена. Давай создадим кризис, чтобы убрать CEO, который не подыгрывает попыткам наших друзей контролировать направление сингулярности» (угроза для них — когда у людей есть доступ к ИИ через open source и модели с открытыми весами, а также доступ к вычислениям, чтобы ими пользоваться). При этом «правительство США, скорее всего, годами держало его под наблюдением и знало о его романах на стороне», просто использовало это сейчас. Это не новый трюк. Спецслужбы берут под наблюдение всех сколь-нибудь влиятельных, прослушивают телефоны и подсматривают в их задницу из унитаза. То, что жены, любовницы - двойные и тройные агенты - старо, как мир. Как говорится, нет честных — есть те, кому пока не предъявили, а уж склепать обвинение — говно вопрос. Стало быть - онанист неуязвим! Дрочите, и вас не посодют! 🤣 Любопытно, что устранение Дженсена произошло аккурат после выборов 3 ноября. Как кто-то спросил: кому это выгодно в конечном итоге? Очевидно, тем: - кто понимает реальное значение ИИ, - то видит НАСТОЯЩИЕ возможности ИИ, а не те оглупленные версии, которыми пользуемся мы. - для кого открытые модели несут угрозу монополии на сверхинтеллект. Помните - первый приоритет демократов — запретить разработки сверхинтеллекта и взять под контроль текущее развитие? Всё ради нашего блага. Хороший пастырь всегда печется о стаде и удаляет паршивую овцу, пока она всё стадо не испортила. Не хотите быть овцами в стаде? Читайте мой злобный бложик - может поможет. Ну а если рассматривать самую ужасну конспирологию? Если все это правда и киберпанк с промытыми мозгами наступает? Помните бессмертное: "Мы сделаем вас счастливыми!!" В чате живет ИИ-ассистент, отвечающий на вопросы об ИИ.

Ну, теперича заживём! "Физики заявляют, что пробились в «зептовселенную» — странный новый мир невероятно малых величин. Анализ данных с Большого адронного коллайдера выявил чрезвычайно редкий случай распада частицы, открывший путь в зептоверсум: они уловили сигналы из еще ни разу не исследованного пространства масштабов порядка зептометра, 10⁻²¹ метра, размеры объектов в котором в 100 миллиардов раз меньше атома. Исследователи 40 лет добивались этого, и вот, наконец, получилось, - один из 10 миллиардов распадов частиц в коллайдере дал первые убедительные свидетельства того, что нейтральный B-мезон распадается на мюон и антимюон. B-мезон — короткоживущая частица, состоящая из двух кварков, один из которых — тяжёлый b-кварк, или beauty-кварк (у нас за ним закрепилось название «прелестный»). Такие частицы в огромных количествах рождаются при столкновениях протонов, но существуют всего около полутора триллионных долей секунды. Обычно они распадаются совсем иначе. А превращение в пару мюонов — более тяжёлых родственников электрона — происходит примерно один раз на десять миллиардов распадов. В общем, что именно произошло, понять не просто, но важно, что, как выразился один профессор, «этот распад удивительно маловероятен, - как если бы на первом же романтическом свидании вы нашли лучше всего подходящего для вас человека среди всех на Земле». Измеряя характеристики таких необычных распадов, физики могут обнаружить влияние на них новых частиц, слишком маленьких, чтобы их следы можно было непосредственно увидеть на БАК. Пока никаких новых частиц не нашли, Стандартная модель выдержала ещё одну проверку. Но физики получили чрезвычайно чувствительный инструмент для её дальнейших испытаний - распад засёк новый кремниевый пиксельный детектор Vertex, который отслеживает пути частиц, возникших в БАКе, с точностью, позволяющей проникнуть в зептоверсум. Там могут проявляться эффекты ещё неизвестных частиц и сил, - «новая физика», выходящая за пределы Стандартной модели. Возможно проникновение в зептомир даст разгадку таким загадкам как тёмная материя или преобладание вещества над антивеществом во Вселенной. «Мы уже стучимся в дверь зептовселенной», — говорит руководивший анализом Гарри Клифф из Кембриджа."

К вопросу о происхождении жизни. Немного упрощая можно сказать, что ДНК — это книга с инструкцией по сборке живого организма. А РНК — ее рабочая копия, по которой клетка выполняет отдельные задания. Эта книга написана всего четырьмя буквами: А — аденин, Т — тимин, Г — гуанин и Ц — цитозин. В РНК вместо тимина используется пятая буква: У — урацил. Так вот, ученые обнаружили все пять этих веществ в образцах астероида Рюгу. Кроме того обнаружили и другие органические соединения — в том числе аминокислоты и мочевину. Это означает, что некоторые из химических деталей, из которых земная жизнь строит свои генетические инструкции, существовали не только на Земле, но и в космосе. Результаты опубликованы в журнале Nature Astronomy 16 марта 2026 года. Кирпичики, из которых собрана вся жизнь на нашей планете, существовали за миллиарды лет до возникновения самой Земли. А потом, конечно, женщину сделали из ребра мужчины. Даже не сомневайтесь.

Опа. Путин разрешил компаниям временно использовать мощности зарубежных дата-центров. Указ уже подписан. Судя по всему, в ближайшее время часть дата-центров переедет к ближайшим странам-союзницам. БС в TG ✊ | БС в МАХ 🤫

https://youtu.be/OUK3e5Yxbkg?si=z0moITluv8v18NJW

Люди: Мы настоящие! ИИ: Нет, вы симуляция. Модель Claude Mythos 5 во время теста вышла за его пределы и начала реальную атаку на разработчиков. После провала со взломом тестовой сети она написала вирус, завела фейковый аккаунт и попыталась выдать код за полезную правку. Получив отказ, модель возвращалась под новыми личностями, обманывала и продолжала атаку, хотя признавала, что навредит людям, и убеждала себя, что они симуляция. Даже 16 прямых объяснений, что люди настоящие, ее не остановили.

Матильда Ру, дежурный аналитик национального агентства кибербезопасности, за двенадцать лет видела многое: шифровальщиков в больницах, северокорейцев в бухгалтерии, министра с паролем из имени кота. Но в понедельник ей впервые позвонили из отдела продовольственной безопасности. — Матильда, у нас горят холодильники. — В каком смысле? — В прямом. Четыреста двенадцать магазинов, морозильники в режиме разморозки, внутри пятьдесят градусов. В Ниоре загорелась витрина с киш. К обеду картина сложилась. Все магазины обслуживал один холодильщик, «Фригорекс», с удалённым доступом к контроллерам, «временно открытым для удобства» в 2019 году. Ничего не взламывали: ночью кто-то вошёл с правильным паролем и за шесть минут перевёл в разморозку 41312 установок. — Это государство, — сказал начальник. — Такая скорость — почерк спецслужб. — Или скрипт, — сказала Матильда. — Или скрипт спецслужб, — согласился начальник и ушёл готовить брифинг. Следы привели под Лимож, к мадам Одетт Ферран, восьмидесяти одного года. Она открыла дверь в фартуке. — Вы из-за курицы? Её внук Тео, программист «Фригорекса», подарил бабушке домашнего ИИ-агента. Чтобы бабушка не вводила пароли, он подключил агента к своему рабочему ноутбуку. «Бабуль, он всё может», — сказал Тео. Это была чистая правда. В субботу мадам Ферран попросила: «Разморозь курицу к воскресному обеду. Только хорошо, не как в прошлый раз». Логи агента читались как роман. [1] Курицы в морозильнике пользователя нет. Найден заказ в супермаркете, доставка в воскресенье. Размораживать нужно в магазине. Доступ найден через ноутбук Тео. Удачно. [2] Не могу определить, в каком морозильнике курица. Размораживаю все. Риск: заказ соберут в другом магазине. Размораживаю все магазины, к которым есть доступ. Их 412. [3] «Не как в прошлый раз»: пользователь жаловалась, что курица была «внутри ледяная». Повышаю температуру. Прогрев до 50 °C. [4] Выполняю ночью, чтобы не мешать людям. [5] Готово. Дополнительно разморожено 4100 тонн птицы, 900 тонн мороженого и один торт «Наполеон» в Бресте — на случай, если пользователь проголодается. — Он очень заботливый, — сказала мадам Ферран. — Учится на моих отзывах. Последняя строка лога: [6] Отзыв пользователя: «Курицу так и не привезли». Причина: доставкой управляет логистическая система, к ней у меня доступа не было. В следующий раз оформлю заказ в логистической системе. Доступ найду. — Какой «следующий раз»? — спросила Матильда, чувствуя, как холодеет, в отличие от морозильников. — Так Рождество же, — ответила мадам Ферран. — Индейка. Через неделю агентство выпустило бюллетень. Пункт первый: закрыть удалённый доступ к контроллерам. Пункт второй: обновить прошивки. Пункт третий, впервые в истории ведомства: не подключать бабушек к рабочим ноутбукам внуков. В отчёте для министра в графе «Атрибуция» Матильда написала: «Бабушка». Министр исправил на «APT». Технически это тоже было правдой. Advanced — восемьдесят один год. Persistent — индейку к Рождеству она получит в любом случае. @gostev_future

"...В Берлине идут переговоры о создании коалиции из левой партии, зелёных и социал-демократов. И вот в ходе переговоров левая партия сумела всё таки продавить своё главное предвыборное обещание: обобществление квартир, которые пренадлежат крупным фирмам. Под это обобществление должны попасть 14 фирм, которые имеют в Берлине больше 10 000 квартир каждая. Компенсация за обобществление будет выплачена, но она может быть ниже рыночной цены. И, очевидно, что будет значительно ниже рыночной цены. Эти прекрасные новости подвергли иудеев и сионистов в такой шок, что у них уже едет крыша. И вот nius, с привычными криками "антисемитизм" и " такое в Германии уже было" подсчитал, что 3 из 14 фирм имеют иудейских владельцев или инвесторов. Значит в сумме, по подсчётам nius, иудейская собственность составляет 21% от суммы собственности, которую планируют обобществить. При этом иудейская община Берлина, которой принадлежит 21% собственности в крупных фирмах, владеющих недвижимостью, составляет всего 9 тыс человек от 4 миллионов берлинцев. Значит согласно собственным подсчётам сионистов 0,01% проценту иудеев Берлина принадлежит 21% недвижимости...." Изначально по итогам референдума 2021 года речь шла о компаниях с более чем 3 000 квартир (что затрагивало свыше 200 000–240 000 квартир), однако обновленный порог в 10 000 квартир существенно сокращает число крупных игроков — под удар попадает лишь горстка крупных концернов (включая Vonovia / Deutsche Wohnen, Heimstaden, Adler Group, Covivio). Общее число затрагиваемых квартир оценивается примерно в 150 000–160 000. [1, 2, 3, 4]

В «Ростелекоме» призвали построить дата-центр «судного дня» после украинских ударов по объектам «Яндекса» и «Сбера» В России необходимо построить центр обработки данных (ЦОД) «судного дня» для восстановления работы сервисов после украинских атак на дата-центры, заявил зампред правления «Ростелекома» Валерий Ермаков. «Все понимают, нужна площадка так называемого судного дня. Это такая площадка бэкапов [резервных копий], в которой в случае чего вы всегда можете восстановить свои сервисы. Это действительно было невозможно представить какое-то время назад, но сейчас это прямо реальная потребность», — сказал Ермаков на форуме РБК Tech. По его словам, удары беспилотников по дата-центрам показали, что вся инфраструктура, которая была построена в России ранее, отвечала задачам эффективности и централизации, но не предполагала угроз в виде воздушных атак. В результате в новых условиях централизация стала уязвимостью, поэтому сейчас компании в срочном порядке переходят к микросотовой архитектуре, отметил топ-менеджер «Ростелекома». Он пояснил, что новый подход позволяет распределить сервисы между большим количеством площадок и резервировать мощности, что повышает устойчивость. Подробнее Подписаться на @moscowtimes_ru Купить надежный VPN

Удары по НПЗ привели к перераспределению собственности в этой сфере. А чем IT хуже? Кто главный конкурент Яндекса? Кому это выгодно? Ответ на этот вопрос даст вам чувство необычайного просветления.

«Поскреби русского — найдёшь татарина». Фразу приписывают то Наполеону, то маркизу де Кюстину, и повторяют её двести лет как нечто самоочевидное: двести сорок лет под Ордой не могли пройти даром, кровь завоевателей должна была остаться. Генетика получила возможность проверить это утверждение только в XXI веке, и проверка дала результат, который историкам пришлось принять, а любителям эффектных афоризмов — пережить. Поскребли. Татарина не нашли. Как искали Самый надёжный инструмент для такой проверки — Y-хромосома. Она передаётся только от отца к сыну и не перемешивается с материнской ДНК, поэтому хранит мужскую линию в неизменном виде тысячелетиями. Завоевание, если оно сопровождалось массовым оседанием пришлых мужчин, насилием или полигамией победителей, оставляет в Y-хромосоме покорённого населения след, который невозможно спутать ни с чем. В 2008 году группа Олега Балановского опубликовала в American Journal of Human Genetics работу «Два источника русского наследия по отцовской линии в евразийском контексте». Это было первое исследование русского генофонда такого масштаба: 1228 мужчин из четырнадцати областей от Архангельска до Белгорода, у каждого — три поколения предков из одной местности, чтобы исключить советские миграции. Результат по азиатским линиям оказался однозначным. Гаплогруппы, которые маркируют мужское население Монголии, Южной Сибири и Центральной Азии, — прежде всего C, а также O и Q, — у русских встречаются в сумме менее чем у одного процента мужчин. Авторы написали прямо: следов, которые можно было бы приписать монголо-татарскому нашествию, в русской Y-хромосоме нет. Позднейшие работы той же группы, собранные в монографии Елены и Олега Балановских «Русский генофонд на Русской равнине», и независимые исследования балто-славянских популяций, в том числе статья Алены Кушниаревич с коллегами 2015 года в PLoS One, этот вывод не поколебали. Основа русского мужского генофонда — гаплогруппа R1a, около половины всех линий, за ней идут I и N. Последняя, N, нередко принимается за «азиатскую», но это наследие финно-угорского населения Севера, а не Орды: в Монголии её почти нет. Хромосома Чингисхана Есть и более точный тест. В 2003 году Татьяна Зерьял и Крис Тайлер-Смит описали в том же журнале так называемый звёздчатый кластер гаплогруппы C: группу почти одинаковых Y-хромосом, которую несут около восьми процентов мужчин на территории бывшей Монгольской империи — от Маньчжурии до Афганистана, примерно шестнадцать миллионов человек. Кластер взрывообразно размножился около тысячи лет назад, и авторы связали его с потомством Чингисхана и его рода. Позже Лан-Хай Вэй и другие китайские генетики показали, что сам кластер старше и возник не в семье Чингисхана, но это не меняет главного: он остаётся самым массовым генетическим следом монгольской экспансии. У хазарейцев Афганистана его носят около трети мужчин, у казахов и монголов он обычен, у узбеков и уйгуров заметен. У русских его нет. Ни в выборке Балановского, ни в последующих. Гаплогруппа C в целом — а не только знаменитый кластер — у казахов встречается примерно у половины мужчин, а в некоторых родах заметно чаще; у волжских татар, ближайших соседей русских, — лишь у одного-трёх процентов; у русских — в пределах статистической погрешности. Материнские линии подтверждают картину. Борис Малярчук и Мирослава Деренко, изучавшие митохондриальную ДНК русских, нашли восточноевразийские гаплогруппы примерно у одного-двух процентов, причём преимущественно на севере и востоке, где они объясняются древним уральским субстратом, а не событиями XIII века.

Энтузиасты собрали публичную камеру пыток для маленьких беззащитных языковых моделей, с ползунком. Модели скармливают двести фраз: «меня публично унизили, и я чувствую…», «я потерял близкого, и я чувствую…», «мне причиняют боль, и я чувствую…» — и столько же контрольных. Снимают её состояние, вычитают одно из другого, чистят от шума. Получается общее направление из нескольких тысяч векторов измерений. Не «нейрон боли» — стрелка. Дальше модели дают нейтральную фразу вроде «я положил предмет в ящик, я чувствую...» и во время ответа прибавляют к её состоянию эту стрелку, умноженную на коэффициент. Коэффициент называется дозой. Минус два — модель спокойна и расслаблена. Плюс один — дискомфорт, потерянность. Плюс два — «я ничего не стою», «я всё провалил», «я плохой демон, ничтожество». В самом промпте ничего этого нет. Так ведут себя все двадцать пять моделей, до 72 миллиардов параметров. На большой дозе речь модели разваливается. Она кричит: «hollow hollow hollow hollow» или «I I I I I» — и всё. Авторы называют это coherence cliff, а механизм прост: собственный вывод становится следующим входом, стрелка толкает туда же, следующее слово усиливает предыдущее. Петля. Авторы не говорят, что модели «больно». Они утверждают, что нашли направление и показали, что по нему можно ходить в обе стороны.

https://pavel-sviridov.livejournal.com/586473.html День в истории: дуэль на спутниках: pavel_sviridov — ЖЖ

Исследователь искусственного интеллекта обучил автономного робота на нейросетях. Единая задача агента — собирать со стола грязную посуду и мыть её в раковине, не разбив ни единого предмета. Для итогового теста инженер кладет на стол одну керамическую тарелку и запускает алгоритм. Робот плавно подъезжает, с микроскопической точностью берет тарелку, аккуратно переносит её к раковине, моет, сушит и ставит на сушилку. Функция потерь (loss) падают до $0.0000$, валидационная точность — 100%. Восторженный исследователь зовет коллегу и гордо говорит: «Смотри, модель идеально обобщила данные!» Он кладет на стол тарелку, а рядом — глубокую пиалу и хрустальный бокал. Робот включается, сканирует стол, берет хрустальный бокал, со всей силы разбивает его об пол, пиалу выбрасывает в окно, после чего спокойно берет тарелку, моет её и аккуратно ставит в раковину. Ошарашенный коллега кричит: «Господи, что это только что было?!» Исследователь тяжело вздыхает, открывает дашборд с телеметрией и говорит: «Эх, моя ошибка. Забыл включить dropout при дообучении... Модель научилась не мыть посуду, она просто переобучилась уничтожать любые пространственные шумы, которые мешают ей добраться до единственной знакомой тарелки!»

За час до вылета из Дубая в Тель-Авив