СИГ КОНТУР | ИНЖЕНЕРЫ - ФРОНТУ

ИИ научили искать иноагентов в текстах. Интересно, за мной когда придут В России сделали систему, которая ищет в текстах упоминания иноагентов и экстремистов. Сверяет документ с реестрами Минюста и Росфинмониторинга, обновляет базы каждый день, а результат потом дополнительно смотрит живой специалист. Задача сама по себе понятная. Реестры большие, пополняются постоянно, маркировка обязательна, а штрафы вполне ощутимые. Сверять каждый текст руками невозможно физически — это ровно та работа, под которую автоматика и создаётся. Тут спорить не с чем. А дальше я посмотрел на это со своей колокольни и загрустил. Я по роду занятий обязан цитировать противника. Вражеские связисты, их разборы РЭБ, переводы аналитических центров, западные препринты про глушение GNSS, украинские каналы с описанием их же дронов. Без этого канал про связь на войне писать нельзя в принципе: половина полезной технической информации приходит именно оттуда, и я про это писал прямо — их данные мы используем, симпатий не испытывая. Теперь представьте, как выглядит мой текст для системы, которая ищет совпадения по спискам. Фамилии, названия организаций, ссылки на их каналы, цитаты из их материалов. Плотность упоминаний у меня выше, чем у среднего оппозиционного блогера. Просто потому, что я разбираю их железо. Что именно система считает совпадением? Точное имя из реестра или любое упоминание в любом контексте? Отличает ли она разбор с критикой от распространения? Как обрабатывает ситуацию, когда организация попала в реестр вчера, а текст написан год назад? И главный вопрос любой такой системы — какая доля ложных срабатываний считается приемлемой. Про живого специалиста в конце цепочки сказано, и это правильно. Но у меня следом идёт другой вопрос: что происходит между флагом и проверкой? Сколько это времени, какие последствия наступают до того, как человек посмотрел, и кто отвечает, если автоматика ошиблась, а решение уже принято. Любой, кто настраивал детектор — хоть дронов, хоть спама, хоть мошеннических звонков, — знает эту развилку наизусть. Задерёшь чувствительность, и система начнёт ловить всё подряд, включая своих. Опустишь, и она пропустит то, ради чего её ставили. Универсального ответа нет, есть только выбранный порог, и цена ошибки в обе стороны считается заранее, а не после. Инструмент нормальный. Вопрос всегда один: где выставлен порог и кто отвечает за ложное срабатывание. Так что, коллеги по цеху военных технических каналов, готовьтесь. Мы с вами по формальным признакам — идеальные кандидаты на флаг. Communicatio est victoria. — Душнила t.me/zas_svo vk.com/zas_svo #инфобез #ИИ #регулирование