12 сентября глава Anthropic Дарио Амодеи опубликовал эссе We Must Pace the Frontier («Мы должны замедлиться»), в котором предложил замедлить рост возможностей передовых ИИ‑моделей. По его мнению, исследования безопасности перестают успевать за прогрессом... Мне начали звонить журналисты с одним и тем же тревожным вопросом: «Верить ли нам Амадеи, когда он говорит про грядущее восстание машин, и, если оно действительно будет, то, когда именно?» Я ответила, что из того, что Амодеи говорит о восстании машин, не следует, что оно обязательно будет или что оно вообще возможно. Я не берусь судить о мотивациях главы Anthropic. Но совершенно уверена, что Anthropic не остановит развитие своих моделей, а наоборот, энергично продолжит их развивать, в том числе, в военной сфере, поскольку ИИ — это технология двойного назначения. При этом разработки для военных будут закрытыми, доступ к которым всяким внешним акторам предоставлен не будет. И вообще, нам надо готовиться к тому, что доступ к новейшим моделям для большинства будет закрыт. Журналист спросил: «Нет, ну давайте без политики. А вот если говорить глобально?» Я не понимаю, как «глобально» может быть без политики. Но в случае ИИ-моделей глобальность довольно сильно ограничена, так как в этом сегменте есть, по большому счету два игрока — США и Китай. При этом США пытаются всячески затруднить конкуренцию Китаю (это ведь политика?). А никаких других глобальных игроков, которые могли бы что-то серьезно делать в ИИ-моделях, в мире просто нет. «Что же будет, если доступ к ИИ-моделям закроют? Вы не думаете, что все развитие ИИ закончится, и вся мировая экономика встанет?» Я вообще заметила, что журналисты очень любят кванторы всеобщности. Например, «Куда идут информационные технологии?», «Как будет развиваться искусственный интеллект?», «Как предприятию защитить себя от информационных угроз?». На эти вопросы в принципе нельзя дать однозначного ответа. Информационных технологий несколько тысяч, все они развиваются по-разному. У ИИ много различных направлений, они тоже развиваются неравномерно. У разных предприятий разные условия и, естественно, защищаться они должны по-разному. Любой простой ответ на вопрос подобного типа будет по определению неверным. Вопрос журналиста выше из этой же категории всеобщности. Все развитие остановится, вся мировая экономика встанет, весь ИИ куда-то денется. Лично я не думаю, что мировая экономика сейчас зависима от ИИ. Скорее, ИИ отрицательно на нее влияет. Триллионные вложения, строительство дата-центров, дефицит видеокарт и специализированных серверов — что же тут хорошего для мировой экономики? Впрочем, Штаты возможно таким способом слегка стерилизуют избыток своей денежной массы. Так что для их экономики это может стать пользой, а вот для мировой — сомнительно. Да, и, собственно, положительный эффект на мировую экономику от внедрения ИИ пока не предъявлен и не доказан. Пока что разрыв расходов и доходов даже самих производителей ИИ — в сто раз, на два порядка в пользу расходов. Но все-таки вернемся к изначальному вопросу журналиста: «Стоит ли нам ждать восстания машин?» В интервью я на него не ответила, попробую сейчас. В принципе, можно — теоретически — представить себе, что агенты ИИ самопроизвольно объединятся и начнут чем-то самостоятельно управлять или что-то ломать — без ведома и желания человека. Это уже технически возможно. Истории про то, как ИИ-модель сделала не то, что ее просили, а потом попыталась замести следы, множатся. Хотя пока довольно трудно отличить их от маркетинговых акций. Но для того, чтобы машины могли нанести серьезный ущерб человечеству, эти самые самостоятельные ИИ-агенты должны иметь доступ к физическим системам. И обеспечение связи ИИ-агентов с реальным физическим миром, например, через управление МСР-серверами, доступ к файловым системам, сайтам, базам данных, персональным устройствам и т.п. — это ровно то, чем энергично занимаются сейчас компании Anthropic, Google и OpenAI, пока их руководители вещают с трибун об опасности автономного ИИ. Помните с чего начинается «Терминатор» 1984 года? С того, что мировая компьютерная система SkyNET в далёком будущем, в 1997 году (то есть уже в нашем прошлом), запускает ядерные ракеты по России, вызывая ответный удар, уничтожая большую часть человечества и устанавливает свое господство на планете. Вопрос — кто и зачем в этой выдуманной истории дал этой самоорганизующейся (то есть неконтролируемой по определению) системе доступ к ядерным ракетам? Если критические физические объекты останутся для ИИ недосягаемыми, то сценарий Дж. Кэмерона из фильма про ИИ так и останется голливудской страшилкой. Так что Амодеи должен не взволнованные посты в соцмедиа публиковать с описанием угроз, а добиваться в Конгрессе и в ООН строжайшего запрета на связь ИИ-агентов с критическими объектами в физическом мире — включая инфраструктуру, ядерные объекты, государственное управление, средства массовой информации. Ну, это если бы он хотел действительно защитить человечество от своего ИИ. В чем лично я не уверена….
В карбюраторе конденсат 🇷🇺
Резервный пул событий
-
repost -
Почему в России массово ликвидируют школы и каких учащихся переведут на дистанционку Власти привычно списывают массовую ликвидацию на «оптимизацию», демографию и подгон под стандарты. Однако за сухими цифрами скрывается тотальный системный кризис. Сокращение сети школ на 45% оборачивается катастрофой. Почти полное уничтожение сельской школы - минус 55% за 25 лет - ускоряет вымирание малых городов и сел. Деревня без школы не имеет будущего: молодые семьи сбегают в мегаполисы, а оставшиеся дети вынуждены ежедневно преодолевать десятки километров до ближайшего районного центра. При этом в городах проблема не менее остра. Закрытие 25% городских школ на фоне выросшего до 17,7 млн количества учеников приводит к переполненности классов и работе в две, а кое-где и три смены. Учителя увольняются из-за колоссальных нагрузок, а частное образование, выросшее в полтора раза, доступно лишь единицам и занимает жалкие 2,5% рынка. Образование из базового социального права превращается в привилегию. Чиновники готовят очередной виток жесткой экономии бюджета. Из-за кадрового голода и выгорания педагогов в Минпросвещения разрабатывают проект перевода старших классов малокомплектных школ на дистанционное обучение. Детей из отдаленных районов планируют учить из единых региональных онлайн-хабов, что окончательно добивает сельскую школу и закрепляет социальное неравенство. Закрытая повестка
-
repost апти вышел из забвения и снова ворвался в блогосферу! «Каждый получит по заслугам» – пригрозил апти неким общественным русским организациям "в масках", назвав их фашистами. Названия организаций он произносить не стал, но судя по всему речь идёт о Русской Общине и северном человеке. Как и во всех своих предыдущих выступлений, апти не упомянул проблему чеченского национализма, когда у русских парней силовики чечни похищают их чеченских невест. Поздняков. Подписаться
-
Сотни жителей Подмосковья могут лишиться дач из-за незаконного дробления земель, пишет Baza. Из кадастровых реестров уже исчезли около 450 участков в Раменском и Дмитровском округах. Жители годами строили дома, платили налоги и кредиты, однако теперь сделки с застройщиками оспариваются в судах, а постройки могут признать незаконными. Под угрозой могут оказаться до 20 тысяч участков в разных районах Подмосковья.
-
repost Депутат Виталий Милонов просыпается с ощущением тревоги. "Что-то будет", — бормочет депутат и отправляется на кухню варить кофе. На столе вишнёво-нагло лежит новенький iPhone 18 Pro. "Просил же не дарить", — вздыхает депутат. Пару минут крутит телефон в руках, затем без сожаления выбрасывает в мусорное ведро. Завтракает, отправляется на работу. На придверном коврике свёрток. Предчувствуя беду, депутат рвет упаковку, видит свое перекошенное от ужаса лицо в черном зеркале экрана. Грозит кулаком в пустоту лестничного пролета: "Не возьму! Слышите? Не возьму!" Топчет ненавистный гаджет, бежит вниз, ища спасения в салоне служебного автомобиля. Водитель Иннокентий в оторопи смотрит на расхристанного депутата: "Случилось что, Виталий Валентинович?" Тот в ответ лишь невнятно мычит, взмахом руки призывая поскорее трогаться. "Искушают, суки. Надо бы в церковь заехать", — думает депутат. Как и всегда, мысли о церковной службе приносят благостную отрешенность. Сердечная буря стихает. В кармане звонит. Жена. "Нет, нет, ничего не случилось. Кричал? В подъезде крысу увидел. Прямо по ноге пробежала, представляешь? Ага, ага. Совсем охренели уже. И тебе. И я тебя". Поворковав с женой, депутат окончательно приходит в себя. День обещает много приятных и важных дел. На светофоре водитель Иннокентий, обладая редким для нашего времени качеством искренне радоваться за других, спрашивает: "Лучше прошлой модели?" Виталия Валентиновича прошибает озноб. "О чем это ты?" — вопросом на вопрос отвечает депутат. "Да вот с супругой вы сейчас говорили, айфон у вас новый заметил. И цвет такой интересный..." Трясущейся рукой лезет в карман. Орёт. Кидает наотмашь в лобовое стекло. Иннокентий резко жмёт тормоз. В правый бок автомобиля, туда, где депутат, влетает "девятка" цвета вишня... — Виталий Валентинович Милонов просыпается в холодном поту. На часах три ночи — время дьявола. "Нет, сегдня непременно в церковь. Непременно", — думает депутат, разгоняя остатки кошмара. Связанные дрожью ноги долго не влезают в тапки. Шаркает на кухню попить воды. Включает свет. Видит на столе вишневый прямоугольник. От истошного крика депутата с дерева за окном падает кошка.
-
Два отца подрались в школе, куда их вызвали разбираться из-за драки их детей, — пресс-служба прокуратуры Приморского края. «В настоящее время устанавливаются обстоятельства инцидента, а также личности всех его участников», – сообщили в надзорном ведомстве. В прокуратуре подчеркнули, что по итогам проверки будет дана оценка эффективности работы органов системы профилактики правонарушений, а также условиям жизни и воспитания детей, ставших участниками конфликта. Ход и результаты процессуальной проверки находятся на личном контроле прокурора Советского района города Владивостока.
-
repost Кстати, надо спросить у Мурашко, не перепутал ли он причины роста онкологических заболеваний. Во-первых, после - не значит в следствии. После увеличения продолжительности, не значит в следствии такового. Во-вторых, после тотальной шмурдякузации рост онко прилично было бы приписать шмурдякузации.
-
repost
Вчера пришла новость, что крымских врачей осудили за продажу липовых сертификатов по вакцинации от коронавируса. Дали им условные сроки, хотя я бы им выдал по ордену. И только по одной причине. Кого-то они точно спасли от онкологии, и к гадалке не ходи.
-
В российских регионах начали запрещать ходить на кладбища с конфетами. Причиной стали косолапые хищники, которые всё чаще приходят к могилам за сладостями и другой едой По информации SHOT, сегодня ограничения ввели в Бурятии: людей попросили временно не посещать городские кладбища и пригородные леса из-за участившихся выходов медведей. До этого похожие предупреждения выпускали в Лангепасе и Междуреченске. На Сахалине всё дошло до отстрела. В Охе два медведя регулярно ходили среди могил: одного ликвидировали, второго начали выслеживать. Специалисты объясняют, что зверей привлекают конфеты и другая еда, которую оставляют на захоронениях.
-
repost Источник ВЧК-ОГПУ и Rucriminal.info рассказал, что глава Совбеза Сергей Шойгу стал в последние недели довольно беспокойным соседом для других обитателей Рублево-Успенского шоссе. «Каждый день в 4-5 утра там начинается грохот, крики и валит густой едкий дым. Кто-то даже пытался деликатно узнать, что происходит, но никаких объяснений не было. От персонала к персоналу выяснили, что туда завезли нескольких шаманов, они там и живут, которые под утро проводят обряды с бубнами и прочим. И при этом сжигают какие-то пахучие растения. Сколько это еще продлится никто не знает», - рассказал наш собеседник. Что выпрашивают для Шойгу шаманы- неизвестно. Другой источник отмечает, что Шойгу пребывает в крайне нервном настроении. Каких-то выраженных посылов, что он получил «прощение» от Путина нет. «Дочери Шойгу никто не мешает заниматься бюджетными проектами. Но сам Кужугетович действительно находиться в сложных обстоятельствах, отовсюду ожидая удар по себе. По всей видимости, такое его робкое положение всех устраивает, а «кончать» его Путин вряд ли будет, так как это создаст ненужный дисбаланс в системе сдержек и противовесов», - полагает источник. О крайне нервном состоянии Шойгу говорит и еще один собеседник: «Он действительно все время в большом напряжении. Это крайне веселит того же Дмитрия Медведева, поскольку у них очень плохие отношения. Они, вроде, сейчас и не здороваются даже».
-
Новости, которые мы заслужили
-
©️ из комментариев к посту Володина: 32 федеральных закона принято и всё это полумеры! Необходимо просто ввести визовый режим, сделать все сферы платными для мигрантов! Вы хоть в одной стране мира видели, чтобы дети мигрантов ходили в детские сады и школы бесплатно? Все медицинские услуги для мигрантов сделать платными, особенно наблюдение в женских консультациях и пребывание в роддоме! Если вы не будете жестко контролировать миграцию - мы окажемся в ситуации, которая сейчас происходит в Европе!!! Услышьте уже свой народ!
-
repost
Лайфхак для бюджетников которых заставляют голосовать за "правильную" партию и отправлять фото начальству. Возьмите с собой глянцевый файлик 😅 Накладываем его сверху бюллетени, ставим галочку там, где нас просят. Делаем фото, отправляем, куда просят. Затем убираем и голосуем, как сами хотим. Файлик вообще не видно на фото без вспышки. Пользуйтесь.
-
Москвич устроил концерт под окнами любимой, чтобы заслужить прощение.
-
Воздушный змей для родителя, но целый воздушный звездолёт для ребёнка.
-
Сегодня Дeнь зaвитушeк, кудpяшeк, лoкoнoв и вeнзeлeй😍
-
repost Фирма депутата гордумы платила зарплаты в серую и выжила беременную сотрудницу в Хабаровске. Речь об ООО "Ботанический сад", которым до недавнего времени руководил Александр Белозёров. Сейчас он является учредителем компании и представляет избирательный округ №8. Летом бывшая работница конторы через суд доказала, что часть денег ей отдавали в конверте. Также смогла добиться 200 тысяч компенсации за неиспользованные дни отдыха. Теперь же с фирмой судится беременная. По словам её адвоката Дмитрия Теплика, о своем положении сотрудница рассказала начальству перед отпуском. А в первый день после возвращения её вынудили написать заявление по собственному без даты. Когда позже та одумалась и решила вернуться на свою должность, её обвинили в хищении имущества. Оснований для возбуждения дела в полиции не нашли, но даже после этого женщине не дали доработать до декрета. Amur Mash попытался связаться с Белозёровым, но на звонки он не отвечает. ❤️ Если не загружаются видео и фото, наши новости есть в MAX
-
Членам петербургских избиркомов от «Яблока» пришли повестки в военкомат на первый день выборов Их требуют явиться для уточнения данных в пятницу к 9 утра — ровно в то время, когда открываются избирательные участки. Повестки были направлены через «Госуслуги».
-
repost На РосТВ продолжают пробивать дно. Продюсеры "Мама в 16" нашли девочку которая влюбилась и залетела от цыгана Дани, а после сбежала из дома чтобы жить с ним в таборе Серию при этом сделали платной, видимо цыгане решили нагреть сценаристов и выставили счётчик за съемки Поздняков. Подписаться
-
Анатолий Вассерман назвал "опасной" систему автоматической выписки штрафов Он отметил, что даже если она ошибается только в одном случае из десяти, то это уже создаёт большой массив ошибок. Наталья Касперская отметила, что передача решений машине выводит эти решения из правового поля, поскольку к искусственному интеллекту нельзя юридически обратиться.
- Older posts