Гостев из будущего

Anthropic выпустила очередной отчёт об угрозах и злоупотреблениях Claude. Отчёт очень мощный и весьма интересный: если они продолжат выпускать такие регулярно, это станет одним из любимых отчетов всей индустрии. Пересказывать содержание не буду — его уже растащили везде, где только можно. Моё внимание привлекло другое: Anthropic, похоже, изобрели очередной велосипед в нашей любимой индустриальной дисциплине «как называть плохишей». Группы обозначаются кодами вроде GTG-20006, GTG-17001 или GTG-34001. GTG — Generative Threat Groups, внутренние обозначения Anthropic для акторов, злоупотребляющих ИИ. Что же означают цифры, компания публично не объясняет. Поэтому я поручил ИИ собрать все коды из отчётов, сопоставить их со странами, типом акторов и деятельностью и поискать закономерность. Первая цифра, похоже, обозначает происхождение или географический класс актора: 1 — Китай 2 — Россия 3 — Иран 5 — все остальные: от французского рекламного агентства и малийского консультанта до русскоязычных киберпреступников 8 — похоже отдельная куча для Ближнего Востока и соседних акторов: ОАЭ, Турция, Йемен, иранская оппозиционная MEK. Причём речь именно о принадлежности актора, а не о языке или географии конкретной операции. Русскоязычные киберпреступники получили пятёрку, а вероятные российские разработчики автономного роя дронов — двойку. Иранские структуры стабильно получают тройку, тогда как MEK, несмотря на иранское происхождение, попадает в восьмую категорию — то есть, похоже, учитывается не только страна, но и тип актора. Вторая цифра, судя по всему, описывает деятельность: 0 — кибер- и другие технические операции 4 — информационные операции и слежка 5 — мошенничество 6 — дистилляция моделей 7 — обычные вооружения. Последние три цифры, вероятно, порядковый номер внутри категории. Тогда GTG-17001 читается как Китай / вооружения / №001, GTG-34001 — Иран / информационные операции / №001, GTG-16001 — Китай / дистилляция / №001, GTG-20006 — Россия / кибероперации / №006. Номера идут с большими дырами: 50014, 50020, 50021, 50027, 50029; у дистилляции — 16001, 16002, 16005, 16006, 16008, 16012. Это очень похоже не на нумерацию кейсов конкретного отчёта, а на выборку из значительно большего внутреннего реестра. То есть Anthropic, судя по всему, классифицирует обнаруженных у себя злоумышленников по внутренней матрице: происхождение или тип актора → характер деятельности → порядковый номер. А опубликованные отчёты показывают нам лишь отдельные записи из значительно большего каталога GTG, который компания ведёт у себя внутри. Картина получается почти образцовая: Китай, Россия, Иран, немного Ближнего Востока — и пятёрка для всех прочих. В развитых западных странах, судя по всему, злоупотреблениями ИИ почти никто не занимается: там, видимо, все белые и пушистые. Хотя свободные цифры ещё остались — так что пространство для будущих открытий у Anthropic есть. @gostev_future