Российский ИИ-стартап «Агент Атом» представил метод для проверки нейросетей на «честность». Как работает CounterMem: 🙂 Тест прост: если изменить факты в базе знаний компании, а ИИ-агент продолжит отвечать по-старому, значит, он игнорирует ваши данные. 🙂 Исследование показало, что стандартные инструменты признают нормальными 55,6% таких «слепых» ответов. 🙂 Системы с почти одинаковыми оценками качества реагировали на изменения по-разному. Код метода открыт — теперь бизнес может проверить, действительно ли его ИИ пользуется нужными знаниями 🤩