Nvidia выпустили Garak — тулзу для поиска уязвимостей в нейронках. Garak — это open-source сканер уязвимостей для больших языковых моделей (LLM), разработанный Red Team Nvidia. Он проверяет модели на уязвимости вроде prompt injection, утечку данных, халлюцинации и другие баги через модульную архитектуру плагинов. В состав входят сотни инструментов для тестирования, аудита и выявления уязвимостей ещё до релиза моделей. Подробнее #полезныеинструменты #opensource