Анализ данных (Data analysis)

@data_analysis_ml · ai · Russian · active

Subscribers 52K Subscribers, last 30 days: 52K → 52K +0 24h
Reach per post (ERR) 11.1%5.8K avg views
Posting 5.0/day last 1 hour ago
Reactions per 1K views 31.2 ❤ 👍 🔥

OpenMythos - open-source попытка теоретически реконструировать Claude Mythos, где все архитектурные ставки расписаны прямо в README. По сути, OpenMythos это публичная гипотеза, которая ещё и запускается. Что авторы считают основой Mythos? Не глубокий стек уникальных слоёв, а Recurrent-Depth Transformer. MoE с активацией около 5% параметров, поэтому общий размер модели скорее показывает объём хранения, а не реальную стоимость вычислений. Loop-index positional embedding, чтобы каждая итерация работала как отдельная вычислительная фаза. ACT halting, чтобы модель сама решала, когда ей достаточно “думать”, причём отдельно для каждого токена. И ещё continuous latent thoughts, которые могут кодировать сразу несколько следующих шагов. По смыслу это похоже на breadth-first search внутри одного forward pass. Источники идей тоже понятны: Parcae для стабильности, Universal Transformers для halting, DeepSeek для MoE routing. GitHub: http://github.com/kyegomez/OpenMythos

Views over time

02K4K6K20 Jun 12:0412 Nov 06:464.6K20 Jun 12:04: 0 views12 Nov 06:46: 4,640 views
Snapshots we took after posting.
WhenViews
20 Jun 2026, 12:040
12 Nov 2026, 06:464.6K

Who shared this post

Posts in other channels we index that link to this one. (Forwards with a hidden source can't be traced.)

Nobody yet.