Горюче-сказочные материалы

Оказывается, «Секрет» два года назад выдал прям золото — песню «Это Питер, детка». Могут ведь деды!

Telegram doesn't show this post on the web. Open it in Telegram to see it.

Я уже не раз писал о том, что программный код — это уже архаизм, промежуточное звено, которое будет вытеснено нейронками, которые решают задачи непосредственно, без промежуточного артефакта-программы. Эта концепция активно продвигается ИИ-учоными (Software 2.0 Карпатого, ИИ Агенты Као) и вроде бы выглядит достоверно. Однако такой вариант грозит серьёзными опасностями при реализации, поскольку он предполагает чрезвычайно (необозримо) сложную систему для решения простой задачи. Прелесть кода в том, что он довольно детерминированный и предсказуемый. В рамках среды исполнения софтварной системы программу можно смоделировать и понять, ведь она базируется на явных алгоритмах, которые произошли из сознания человека и заточены под его ментальную модель. А вот нейронные агенты уже фактически люди — не детерминированы, требуют обучения (которое, несмотря на тысячелетия этой практики, до сих толком не формализовано, в отличие от алгоритмов), склонны к ошибкам и тонкому влиянию. Код можно защитить от взлома довольно надёжно, он по большей части туп и предсказуем, однако нейронки подвержены взломам на гораздо более тонком — психологическом — уровне. И спектр атак на нейронки (мясные или электронные) чрезвычайно широк и нарабатывался десятками тысяч лет. Код нельзя убедить, а нейронку можно, поэтому в каких-то особо критичных (или наоборот очень простых) местах традиционный код останется, а вот нейронки, скорее всего, будут во всех остальных. Так как нейронки неизбежно станут крайне дёшевыми (я верю, что будущее за специализированными нейронками), придётся смириться с озвученными выше недостатками, понятия качества трансформируется и в какой-то момент все забудут, что может быть иначе. Останутся энтузиасты-кодеры, которые будут выпускать единичные крайне эффективные решения, но это будет больше хобби, чем полноценная промышленная инженерия.

ПЕЧЕНЬКИ

Дональд Туск первым успел обвинить оппонента в работе не Кремль. Реально ставки надо было делать, кто из них успеет раньше.

Нейронки опять возродили метрику LoC (строки кода). Школьники меряются, кто больше слопа нагенерил. Со стороны это воспринимается, как в нулевые, когда школьники мерялись, кто больше приложений в Delphi насоздавал.

В узкоспецифичных областях уровень галлюцинаций нейронок запредельный. И там режим работы совсем другой: задаёшь вопрос, игнорируешь ответ и сразу идёшь по ссылкам, которые в конце ответа даются. То есть она как поисковик работает, при этом в обычной выдаче без шансов что-то найти. Иногда прям смешно получается: нужный ответ есть буквально в одном предложении в огромном PDF, но весь окружающий текст вокруг него вынуждает нейронку придумывать и галлюционировать.

Martin Fowler написал годную статью LLM Voice, которая мне помогла наконец-то оформить и свести в один текст мысли, блуждавшие несколько недель и никак не желавшие состыковаться. Речь пойдёт о границе дискомфорта от LLM-артефактов. Почему некоторые такие документы (картинки, видео) вызывают раздражение, а некоторые нет? И всё оказалось очень просто: если документ выражает завершённую и законченную работу, то он воспринимается положительно и не возникает вообще никаких вопросов, писал ли человек его сам, или же делегировал нейронке. Главное, что он закончен. Один запрос к нейронке законченный документ не выдаст, это всегда будет цепочка уточнений, возможно переходов по ссылкам и просьб исправить замечания. Над документом работал человек, документ является результатом именно его мысленного процесса и выражает оформленную человеческую мысль. Нейронка выстапила в роли инструмента, который взял на себя рутину по оформлению, поиску, возможно даже построению выводов, но вся эта работа была верифицирована человеком, который явно подтвердил: Да, это ровно то, о чём я хотел написать, здесь выражены результаты порученной мне работы. Законченный документ можно уже брать за основу другого процесса, он уже готов для использования сразу. И его законченность ощущается очень быстро на каком-то подсознательном и невербализуемом уровне. А раздражающие документы (это относится к тексту, видео, музыке) обычно создаются людьми, которые не способны верифицировать и провалидировать выданный нейронкой промежуточный результат. Более того, они его даже часто неспособны понять или хотя бы просто прочитать. Формальная визуальная/сенсорная структура артефакта выглядит для них уже настолько убедительно, что они отдают документ как готовый, совершенно искренне полагая, что это именно решение поставленной задачи.

Вот чем должны HR заниматься по стандарту.

Корейский боевик Hope (Надежда) хорош. По стилю это даже непонятно с чем сравнивать: комедийный боевик про пришельцев. Трейлер совершенно не передаёт духа фильма, это реально комедия, но как будто снятая из горячечного бредового сна. При этом комедия непростая, там очень явно накидано смысловых якорей, с некоторыми из которых я не разобрался. Наверняка для корейцев они более очевидны. Визуал феноменальный, его бы на большом экране смотреть с кинотеатровым звуком. Но и уже традиционно слитая концовка. Рекомендую. #кино

Ещё одна точка зрения, как будет проходить лопание ИИ-пузыря. Очевидно, что технологии сами по себе никуда не денутся, но денутся вкачанные в них деньги. Так как всё мощно субсидируется, и если эту финансовую подкачку прекратить, то использовать нейронки для всего подряд в тех же масштабах не получится. И вырастут цены, исчезнут бесплатные генерилки видео и картинок, миллиарды токенов на написание говнокода станут неподъёмными — и всё в таком духе. Экстенсивное развитие сменится сначала застоем, а потом слабым интенсивным.

Я старался тут без матов написать, но можете по контексту угадать, где они были. Инструменты для агентского кодинга — это что-то непотребное. Я думал, что хотя бы за несколько месяцев их допилят, однако они как родились наколеночными сырыми поделками, так и остались. Нейронки учились на говнокоде и ничего кроме говнокода в итоге не умеют: редакторы ужасные, контексты просачиваются между сессиями, изоляции между инструментами по сути нет. При этом нейронки стремительно умнеют, а инструменты с каждой версией становятся только хуже. Вторая претензия — всё меньше и меньше понятно, что же там происходит под капотом. В очередном релизе (который обычно прилетает в лучших традициях вайбкодинга пять раз в день) может прилететь какая-нибудь херотень, которая сломает что угодно. Колхозный кодинг нейронками выведен на космическую высоту. Вместо киберпанка получили кибердеревню. Разработчики как обезьяны тащат без всякой проверки и простейшей валидации скиллы, доки и скрипты. И я очень удивлён, что до сих пор это не проэксплойчено максимально болезненно. Причём со скиллами вообще всё печально. Поскольку они написаны текстом, а у айтишников-кодеров с навыками чтения и понимания текстов совсем туго становится, то там наверняка уже зашита и массово применяется (неважно даже, намеренно или нет) всякая зловредная / деструктивная хренотень. Ещё пара месяцев в таком режиме и начнётся коллапс.

История с binance показывает, что в компании абсолютно наплевательски относились к безопасности. Если финансовый вайб-хайп-стартап игнорирует выстраданные десятилетиями стандарты и практики финансовых организаций, то ему не место в этом бизнесе. И когда смотрите на вайб-хайп-стартап, всегда помните, что они все такие.

На работе тут в дискуссии родилось: PoC — Piece of Concept.

Telegram doesn't show this post on the web. Open it in Telegram to see it.

И новости из Франции: в парламент протащили для рассмотрения закон, по которому вводится налог на «производителей контента», 5,5 евроцентов за гигабайт трафика.

Пишут, что в каждой машине waymo стоит четыре карты nvidia H100, цена каждой минимум 10к баксов. В текущих реалиях звучит как приговор.

Telegram doesn't show this post on the web. Open it in Telegram to see it.

Telegram doesn't show this post on the web. Open it in Telegram to see it.