Бойлерная

В мессенджере MAX обнаружена система распознавания ключевых слов с возможностью удаленной модификации функционала. Блогер на платформе Pikabu провёл анализ архитектуры мессенджера. Исследование выявляет потенциальные риски для конфиденциальности пользователей. Они связаны с возможностью удаленного изменения функционала системы без их ведома и обновления приложения. Согласно отчёту, в мессенджере интегрирована нейросеть, которая обрабатывает аудиопоток с микрофона непосредственно в процессе звонка. Сейчас эта функция отключена на сервере, а текущая модель обучена распознавать только фразу «не слышу» ― предположительно, для определения проблем со связью. Ключевой вывод исследования заключается в архитектуре системы: менеджеры мессенджера имеют техническую возможность подменять используемую нейросеть на любую другую, меняя список распознаваемых слов, без необходимости обновления самого приложения. Для этого достаточно изменить URL-адрес модели в серверной конфигурации. Пользователи не уведомляются о возможных изменениях в функционале KWS (система выявления ключевых слов), и их согласие на расширенный анализ аудио не запрашивается. При срабатывании KWS, результаты автоматически отправляются на серверы VK. В Политике конфиденциальности и Пользовательском соглашении мессенджера отсутствуют упоминания о работе KWS или анализе аудио во время звонков. Пресс-служба MAX опровергает: «использование ИИ инструментов в МАХ направлено исключительно на повышение качества звонков. Инструмент работает обезличенно и не имеет доступа к звонкам пользователей. Публикации о том, что МАХ якобы имеет доступ к расшифровке разговоров пользователей — фейк. Все разговоры в МАХ зашифрованы, данные пользователей надежно защищены».