Брошка Экономики

ВТБ и МГУ разработали детекторы, которые будут выявлять галлюцинации и токсичность в работе ИИ-агентов. О решении рассказал советник первого заместителя президента-председателя правления ВТБ Сергей Путятинский на Kazan Digital Week. Один инструмент проверяет запросы пользователей на запрещённый контент и блокирует их, если обнаруживает нарушения. Второй анализирует готовые ответы нейросети, ищет в них выдуманные факты и противоречия, а затем подсвечивает проблемные фрагменты. Галлюцинации остаются одной из проблем генеративного ИИ: модель может уверенно выдавать несуществующие факты за реальные. Детекторы планируют внедрить в розничные сервисы банка, где с клиентами общаются цифровые помощники. p.s. подпишись на нас в max