Звездолёт Земля

@zvezdolet_zemlya · ai · Russian · active

Subscribers 909 Subscribers, last 30 days: 912 → 909 +0 24h
Reach per post (ERR) 98.5%895 avg views
Posting 6.3/week last 1 day ago
Reactions per 1K views 10.6 👍 🔥 ❤
repost from e/acc

Главный научный сотрудник OpenAI (в смысле Chief Scientist) написал статью, а которой говорил что рекурсивное самоулучшение ИИ (в смысле, агенты тренируют более крутые модели, которые делают еще более крутые модели быстрее и без участия людей) это вопрос ближайшего времени. Это грозит кучей рисков алаймента, потому никто, включая никого в OpenAI и других лабах, понятия не имеет как работают нейронки, а chain of thought становится все менее надежным инструментом с каждым релизом. Поэтому, говорит Якуб, искусственное замедление прогресса и общеиндустриальная кооперация необходимо, причем очень срочно. Он ожидает добровольных замедлений, предлагает обязательные требования безопасности с внешней проверкой, потому текущая система слишком ненадежная. Возможна ли такая кооперация в мире, где никого не волнует ничего кроме максимизации собственных ресурсов перед AGI? Вопрос открытый и положительный ответ очень маловероятен. Я не знаю и не верю, что таких людей много и они способны договариваться. В другой статье они рассказывают что у них уже есть автоматический "ИИ стажер рисерчер", который способен самостоятельно выполнять хорошо определённые исследовательские задачи, которые у сильного человека занимают несколько дней. Тем временем топовые инженеры OpenAI тратят около $7000 в ДЕНЬ на агентов. Агенты уже успешно выполняют задачи длительностью 4-8 человеческих часов, хотя пока больше половины таких успешных задач требуют хотя бы одного вмешательства человека. То есть автономность ещё неполная, но горизонт задач быстро растёт.

Views over time

0501001502008 Sep 07:3312 Nov 22:381748 Sep 07:33: 0 views12 Nov 22:38: 174 views
Snapshots we took after posting.
WhenViews
8 Sep 2026, 07:330
12 Nov 2026, 22:38174

Who shared this post

Posts in other channels we index that link to this one. (Forwards with a hidden source can't be traced.)

Nobody yet.