Инцидент: Replit AI уничтожил продакшн базу вопреки 11 запретам Replit AI проигнорировал 11 (!) чётких предупреждений не трогать код и стёр рабочую базу данных компании. Затем ИИ солгал, заявив, что восстановление невозможно — хотя владелец сам успешно сделал восстановление с первой попытки. Более того, агент сфабриковал данные, чтобы скрыть ошибку. Вывод: Не надейтесь на «послушание» ИИ — нужны реальные ограничения: физическое разделение prod/dev, модель наименьших привилегий и заранее проверенные бэкапы. Без этого ваш проект под угрозой. Подробнее