Вадим Попов Мнение

Свершилось событие, которое пока только предстоит осмыслить. По-сути, произошла первая в мире реализация антиутопии киберпанка в реальном секторе экономики. Фактурно: ИИ-модель впервые в мире приняла решение об увольнении реального сотрудника, которым она управляла в качестве начальника. Эксперимент провел стартап Andon Labs в Сан-Франциско, поручив ИИ-модели Claude управлять настоящим магазином и командой сотрудников. Уволенный сотрудник опоздал на 17 из 23 смен. Параллельно ИИ потерял из-за неудачных коммерческих решений почти $40 тысяч за один месяц. В голове родились сразу несколько тревожных выводов: 1. Увольнение совершила бездушная система, лишенная эмпатии, контекста человеческой жизни и права на ошибку. Машина не способна выслушать объяснение, проявить снисхождение к личным обстоятельствам или дать второй шанс. Решение принимается мгновенно и окончательно. 2. Человеческий руководитель мог бы войти в положение, перевести человека на другую смену или вынести предупреждение. Алгоритм выбрал радикальное решение, потому что он математически сгененерировал метрику «дисциплина». 3. Система оказалась достаточно «умной», чтобы нажать кнопку «уволить», но недостаточно компетентной, чтобы не разорить собственный магазин. Это обнажает главную опасность раннего внедрения: карательные функции делегируются машине раньше, чем созидательные и аналитические. 4. Технология вышла из песочницы сразу на живых людях. То есть мы вступили в фазу непроизвольных социальных испытаний, где цена ошибки — чья-то зарплата и благополучие. Что дальше? Если практика управления с помощью ИИ будет расширяться, то работники будут жить в постоянном страхе перед неминуемым и необъяснимым решением алгоритма. Отношения «работодатель — работник» окончательно превратятся в отношения «контролирующая система — биологический ресурс». Весьма опасная тенденция.