этика зловещей долины

Давненько не было нёрдовских текстов я считаю. Фармакон (φάρμακον) — можно трактовать одновременно как яд и лекарство. Бернар Стиглер использовал его для описания любой технологии: одна и та же система может разрушать внимание — и восстанавливать его. Вопрос в режиме контакта. Стандартная критика цифровых инструментов всегда об одном: они автоматизируют, притупляют, сокращают дистанцию между желанием и результатом до нуля. Отсутствие зазора и кнопка, превращённая в джина, исполняющего желания. Генеративные модели должны были стать финальной стадией этого процесса. Но происходит обратное. Человек промптирующий не похож на пользователя. Он скорее ребёнок, который бросает вещи в воду, чтобы посмотреть, какие круги пойдут. Нет гарантированного результата. Нет кнопки, которая делает ровно то, что написано. Есть формулировка — и есть ответ, который ты не контролируешь. Пальцы печатают быстрее, чем голова формулирует. Это инфраструктура азарта, в ней всё меньше и меньше утилитарности. Алхимик (как высшая ипостась ребёнка с камнями) знал рецепт, но редко предполагал результат. Промптинг устроен похожим образом: формулировка имеет значение не как команда, а как заклинание — интонация меняет исход и тут уже у нас скорее траектория броска, нежели расчёт. Andrea Ridi в эссе 2025 года назвал генеративный ИИ «герметической машиной» — системой, где скрытое знание трансмутируется в форму. По сути это буквальное описание: стерильное пространство модели — это и есть тигель, в котором значения переплавляются и трансмутируют. Отследите своё состояние, когда генерация возвращает неожиданное. Там короткий зазор до оценки — и в нём живёт дотехнологическое удовольствие от непредсказанного. Стиглер сказал бы — это фармакон в терапевтической фазе: инструмент, который восстанавливает дистанцию между тобой и результатом. Ты снова не знаешь, что будет. Вопрос — это свойство котла или его новизны. Алхимики так-то тоже привыкали к своим тиглям.