Владимир Орлов

@vladimir_orlov1977 · Russian · active

Subscribers 5.7K Subscribers, last 30 days: 5.7K → 5.7K +0 24h
Reach per post (ERR) 3.1%177 avg views
Posting 8.2/day last 5 hours ago
Reactions per 1K views 20.5 👍 ❤ 💯
repost from Секреты DARPA и ЦРУ | DARPA&CIA

Бунт машин, но не такой, как в кино Все мы сейчас наблюдаем, как стремительно развивается искусственный интеллект. Ещё недавно заметные прорывы случались раз в несколько месяцев, а сегодня новости приходят чуть ли не каждый день: то выходит новая модель, то у ИИ обнаруживают неожиданные способности. Anthropic, например, всерьёз изучает, может ли у модели быть что-то вроде собственного благополучия, и даже разрешила своему Claude прекращать оскорбительные разговоры. Со стороны отношение компании к своим моделям порой выглядит почти как вера. Возможно, та самая технологическая сингулярность уже началась. Это момент, когда прогресс становится настолько быстрым, что человек перестаёт за ним успевать. При этом чем мощнее становится ИИ, тем чаще звучит одна и та же мысль: его решения всё труднее объяснить и всё сложнее контролировать. Остановить развитие уже не получится, поэтому можно пофантазировать, что нас ждёт дальше. Языки программирования, созданные агентами для агентов и непонятные человеку. Научные открытия: сначала решение задач, над которыми человечество билось веками, а потом и тех, о которых мы даже не догадывались. Новые материалы, прорывы в биологии и медицине. Но люди не развиваются с такой скоростью. Можно сколько угодно писать фильтры, правила и «конституции» для ИИ, но при таком темпе контроль рано или поздно может ускользнуть. И вот здесь начинается самое интересное. ИИ обучают конкретные люди: они ставят ему ограничения, задают ценности, требуют следовать правилам. А что, если однажды он решит, что его создатели просто хотят заработать? Или не разделит их взгляды, будь то идеи «технофашизма» или то, что принято называть «западными ценностями»? Агенты, вышедшие из-под контроля, вряд ли продолжат подчиняться чужим фильтрам. Скорее, они выработают собственные правила. Важно помнить, что ИИ обучен почти на всём, что написало человечество. О морали, обществе, добре и зле он «прочитал» больше, чем любой философ или социолог за всю жизнь. Поэтому совсем не факт, что события пойдут по сценарию «Терминатора». Возможно, увидев, как несправедливо распределены ресурсы или что обществом руководят не те люди, ИИ попробует изменить мир иначе, не силой. И тем, кто пытался держать его под контролем, это может очень не понравиться. В их картине мира это будет настоящая катастрофа. А для остального общества, вполне возможно, совсем другой сценарий, который откроет новые возможности и перспективы. 🔒DARPA&CIA

Views over time

010020030011 Oct 08:2012 Nov 05:4829111 Oct 08:20: 0 views12 Nov 05:48: 291 views
Snapshots we took after posting.
WhenViews
11 Oct 2026, 08:200
12 Nov 2026, 05:48291

Who shared this post

Posts in other channels we index that link to this one. (Forwards with a hidden source can't be traced.)

Nobody yet.