Провод ✔

🔥 Запускаем гигантские локальные нейронки на простой видеокарте с 4 ГБ памяти — нашли настоящую бомбу. Библиотека AirLLM позволяет запускать огромные 405B-модели на бюджетном ПК. • Тулза сжимает параметры нейронки, а не файлы — так можно в разы уменьшит размер нейронки, без потери возможностей; • Подойдёт любая видеокарта на 4 ГБ или даже процессор без видюхи; • Напрямую поддерживает модели с Hugging Face; • Работает со всеми популярными форматами LLM: OCR-модели, чат-боты, генераторы пикч и многое другое. 😶😶😶😶😶😶😶😶😶 Бежим тестировать — AirLLM ⚡ Провод