Горюче-сказочные материалы

Я уже не раз писал о том, что программный код — это уже архаизм, промежуточное звено, которое будет вытеснено нейронками, которые решают задачи непосредственно, без промежуточного артефакта-программы. Эта концепция активно продвигается ИИ-учоными (Software 2.0 Карпатого, ИИ Агенты Као) и вроде бы выглядит достоверно. Однако такой вариант грозит серьёзными опасностями при реализации, поскольку он предполагает чрезвычайно (необозримо) сложную систему для решения простой задачи. Прелесть кода в том, что он довольно детерминированный и предсказуемый. В рамках среды исполнения софтварной системы программу можно смоделировать и понять, ведь она базируется на явных алгоритмах, которые произошли из сознания человека и заточены под его ментальную модель. А вот нейронные агенты уже фактически люди — не детерминированы, требуют обучения (которое, несмотря на тысячелетия этой практики, до сих толком не формализовано, в отличие от алгоритмов), склонны к ошибкам и тонкому влиянию. Код можно защитить от взлома довольно надёжно, он по большей части туп и предсказуем, однако нейронки подвержены взломам на гораздо более тонком — психологическом — уровне. И спектр атак на нейронки (мясные или электронные) чрезвычайно широк и нарабатывался десятками тысяч лет. Код нельзя убедить, а нейронку можно, поэтому в каких-то особо критичных (или наоборот очень простых) местах традиционный код останется, а вот нейронки, скорее всего, будут во всех остальных. Так как нейронки неизбежно станут крайне дёшевыми (я верю, что будущее за специализированными нейронками), придётся смириться с озвученными выше недостатками, понятия качества трансформируется и в какой-то момент все забудут, что может быть иначе. Останутся энтузиасты-кодеры, которые будут выпускать единичные крайне эффективные решения, но это будет больше хобби, чем полноценная промышленная инженерия.