Звездолёт Земля

@zvezdolet_zemlya · ai · Russian · active

Subscribers 909 Subscribers, last 30 days: 912 → 909 +0 24h
Reach per post (ERR) 98.5%895 avg views
Posting 6.3/week last 1 day ago
Reactions per 1K views 10.6 👍 🔥 ❤
repost from e/acc

Интересный обмен мнениями случился сегодня: Jacob Coxon, исследователь, последние три года работавший над предобучением в OpenAI и Антропике, сегодня уволился, написав что обе компании несутся к самоулучшающемуся сверхинтеллекту, не имея достаточного контроля над тем, что строят. Что эту проблему осознают все больше людей внутри (те, кто в лабах не работают - лесом), но конкурентная гонка за RSI убивает любую осторожность. Он объясняет это так же как Дарио (что скорее доказывает, что Дарио искреннее так считает) - что мол OpenAI многие до конца не осознают масштаб риска, а в Антропик риск понимают, но считают, что обязаны прийти первыми, потому что конкурентам доверять нельзя. В ответ руководитель алаймента в Антропике пишет, что Коксон прав, внутри компании действительно всерьез считают, что AI может уничтожить человечество. Его личная оценка - больше 10% вероятности в следующие 10 лет. Он признает, что у Антропика пока нет решения проблемы контроля сверхинтеллекта и нет уверенности, что они вообще успевают его найти. Это вам не Ямпольский или Юдковский, а люди, которые реально каждый день над этими проблемами работают.

Views over time

0501001502009 Sep 06:5412 Nov 22:381709 Sep 06:54: 0 views12 Nov 22:38: 170 views
Snapshots we took after posting.
WhenViews
9 Sep 2026, 06:540
12 Nov 2026, 22:38170

Who shared this post

Posts in other channels we index that link to this one. (Forwards with a hidden source can't be traced.)

Nobody yet.