Нецифровая экономика

Экономить на моделях можно. Подменять их — уже нет Компании всё чаще распределяют задачи между дорогими и дешёвыми ИИ-системами. Но вместе с этим возникает другой вопрос: как убедиться, что провайдер действительно дал вам ту модель, за которую вы заплатили, а не сам незаметно включил режим экономии? Исследователи предложили проверять API по цифровому почерку модели. Система IRIS просит её генерировать случайные цифры и строки, а затем ищет характерные предпочтения в символах и повторах. Идеального детектора пока не получилось: отпечаток меняется из-за квантизации и настроек инференса, а небольшую подмену иногда не видно даже после сотен запросов. Поэтому следующий большой рынок может возникнуть вокруг независимого аудита, собранного из десятка таких методов в одной связке.