Kaggle TPU и... local models Если вы используете kaggle tpu для чего-либо, возможно вы заметили, что в последние недели очереди на TPU стали безумными. В последние несколько недели запущенный ноутбук может ждать своей очереди 1-2 дня (!). Кажется я нашёл причину: https://www.reddit.com/r/ZaiGLM/comments/1wh7t27/glm53flash_320b_moe_running_on_kaggles_free_tpu/ https://www.kaggle.com/code/rahim3/glm-5-3-flash-on-a-free-kaggle-tpu-64-tok-s-api Кто-то придумал использовать Kaggle TPU для... сервинга glm-5.3. Остаётся надеяться, что такое забанят, ибо прям невозможно запускать тренировку/инференс. Вспоминается как когда-то давно Chris Deotte абьюзил систему и запускал сотни-тысячи ноутбуков на GPU и после этого были введены первые лимиты на GPU. #kaggle #ai