САМЫЛИН

Не стоит верить галлюцинациям искусственного интеллекта Искусственный интеллект все больше и глубже внедряется во все сферы жизни, в производства и промышленность, в государственное управление и менеджмент. Бизнес все больше полагается на ИИ для оптимизации процессов, экономии средств, повышения эффективности и работы с клиентами. Мы понимаем, что ИИ мощный и эффективный инструмент, но есть проблема, решить которую необходимо. Петля обратной связи ИИ - это процесс, при котором системы могут обучаться на недостоверных данных. Ошибки усиливаются каждый раз, создавая цикл. Последствия этой петли могут быть серьезными, тяжелыми, или даже непоправимыми. Например в здравоохранении предвзятая или неточная модель ИИ может привести к неправильным диагнозам, неверным рекомендациям по лечению. В бизнесе и юриспруденции ошибки в выходных данных могут повлечь финансовые потери или юридические споры. Есть еще и такое явление как галлюцинации ИИ. Когда он генерирует выходные данные, которые кажутся правдоподобными, но являются полностью ложными. Например, чат-бот ИИ может уверенно предоставить сфабрикованную информацию, такую как несуществующие сведения о компании или вымышленная статистика. Сейчас в новостных каналах пишут о таком явлении как ИИ-бумеранг. Многие западные компании вновь нанимают сотрудников на должности, сокращенные ради внедрения искусственного интеллекта. Повсеместное подключение ИИ и оголтелое сокращение сотрудников ради технологического продвижения компании на рынке, не оправдало бизнес-ожиданий. Один из американских автопроизводителей нанял или повысил в должности около 350 опытных инженеров после того, как инструменты ИИ для контроля качества не показали ожидаемых результатов. ИИ не способен критически мыслить, не может сотрудничать, креативить, понимать человеческие эмоции, а также использовать накопленные в организации опыт и знания. По мере того, как системы ИИ все шире используются для принятия решений, важно реализовать меры безопасности, такие как опора на разнообразные и высококачественные данные, включение человеческого надзора и проведение регулярных аудитов. Новые люди всегда выступают за рациональность и унификацию любого процесса. За счет автоматизации и внедрения ИИ нужно устранять дублирующие функции и повышать эффективность. При внедрении ИИ в любой отрасли необходимо уделять особое внимание информационной безопасности, а также строго следовать принципу «человек в контуре». В любой организации, на предприятии, производстве ИИ может брать на себя стандартные, шаблонные, механические и рутинные задачи, не подменять собой специалистов, экспертов и профессионалов. Окончательные решения, выводы, диагнозы, оценки должны оставаться за людьми. 🤝🏻 Самылин — подписаться