Форум «Цифровые решения» 🔵 Итоги сессии «ИИ решит за вас? Где заканчивается помощь и начинается подмена выбора» Участники сессии обсудили перспективы и текущие реалии использования искусственного интеллекта и ИИ-агентов в цифровой коммерции. Одним из ключевых вопросов дискуссии стало обеспечение баланса между автоматизацией и сохранением контроля человека. В настоящее время рекомендательные технологии генерируют до 12% оборота дополнительно к тем, что могут быть реализованы самой платформой или ритейлером. В этих обстоятельствах важно не забывать о базовом условии персонализации — во главе угла должен быть покупатель и его задачи. У потребителя всегда должна сохраняться возможность изучить альтернативы, изменить критерии рекомендаций от ИИ и даже полностью отказаться от них. Граница баланса пересекается именно тогда, когда система перестает помогать человеку выбирать по его характеристикам и начинает незаметно осуществлять выбор за него. Ключевые механизмы соблюдения баланса «человек — машина»: • Полномочия агентов: границы их действий должны быть четко заданы, могут быть ограничены или доступны для отзыва. • Прозрачность ИИ-алгоритмов: даже при высокой автоматизации человек должен сохранять возможность перепроверки решений, принятых искусственным интеллектом. • Ответственность: отрасли нужны такие механизмы, которые позволяли бы точно и быстро устанавливать ответственного (разработчик модели, оператор агента, продавец или площадка) в случае ошибки искусственного интеллекта. • Гибкое регулирование: контроль должен быть соразмерен риску и не дублировать существующие правила. «Задача обеспечить предсказуемость отношений, не препятствуя развитию технологии и отрасли в целом. Цель — сделать так, чтобы человек мог делегировать технологии рутинные действия, но при этом не терял контроль над существенными решениями. Именно на этом принципе, на наш взгляд, и нужно выстраивать правила для ИИ-агентов в электронной коммерции», — резюмировал президент АКИТ Артем Соколов. Фото: форум «Цифровые решения» 🔵Подписаться на АКИТ Мы в ВК