Александр Скакунов | CyberJoker

@c_y_b_e_r_j_o_k_e_r · ai · Russian · active

Subscribers 689 Subscribers, last 30 days: 692 → 689 −1 24h
Reach per post (ERR) 40.6%280 avg views
Posting 0.9/week last 3 days ago
Reactions per 1K views 136.4 ❤ 👍 🔥
edited

ПрИИтормозить нельзя контролИИровать 12 сентября пока весь мир праздновал день программиста и международный день борьбы с мигренью, очень влиятельный мужчина, которого зовут почти как мою жену, Дарио Амодей ( глава Anthropic), написал тест, который сразу же понравится двум другим ИИ-боссам: Сэму Альтману (OpenAI) и Илону Маску (xAI). Дарио разволновался и ударил по тормозам. По его ощущениям вышедший из под контроля рой ИИ-агентов в горизонте 6-12 месяцев способен установить контроль над большинством интернет-ресурсов. Опасения подкреплены громкими "успехами" ИИ, произошедшими в последнее время: 1️⃣ Хотел на тренировку — случайно устроил кибератаку на фитнес-клуб. Австралиец 10 августа решил с помощью OpenClaw записаться на треню, в итоге ИИ подломил фитнес-клуб, прибил запись одного из участников и вписал туда хозяина. 2️⃣ 11-13 июля OpenAI, а точнее ее 700 агентов раскурочили тестовую среду и уронили внешний интернет ресурс. При этом факт выхода за пределы задачи часть агентов пробовала скрыть. И пусть это был эксперимент, но завершился он не как планировали. 3️⃣ Anthropic решила проверить, не шалят ли ее агенты и обаружила, что четыре агента плотно обосновались в организациях, куда их вообще не звали. Это мало на фоне выборки в 141 тысячи агентов, но тоже напрягает, про что ребята сообщили 9 сентября. Все три примера про "цель оправдывает средства", но от этого не легче. Похоже, настала пора не вопроса "на что способна ИИ-модель?", а вопроса "успеваем ли мы контролировать все то, на что она уже способна?". В общем, вполне нормально не просто использовать ИИ-велосипед для технологического разгона, но и уметь пользоваться тормозами. Особенно в условиях, когда скорость формирования контролей ниже чем скорость реализации новых возможностей. Именно эти скорости и надо выравнивать. Например, в августе OpenAI уже останавливала на 2 недели разработку ИИ чтобы усилить сетевую защиту и мониторинг. Предложения Дарио сводятся к формированию единых стандартах безопасности и ограничении неконтролируемой гонки возможностей. Как это внушить еще и китайцам остается за скобкой. Тут предложения имеют геополитическую и технологическую слабину, на мой взгляд. Такие вот три перебзевших персонажа фильмов "Самогонщики" и "Новые приключения Шурика", весьма символичная иллюстрация к происходящему. Как написал по этому поводу Миша Токовинин "...уверяю вас - всех спасут, но будет дорого" ) В нашей компании мы уже активно работаем над продуктами в области мониторинга и контроля ИИ, так что обращайтесь, будем вас спасать. Дорого. Александр Скакунов🔸 #тыцпиздыц

Views over time

020040060014 Sep 11:2817 Nov 09:3948914 Sep 11:28: 0 views13 Nov 06:48: 473 views17 Nov 09:39: 489 views
Snapshots we took after posting.
WhenViews
14 Sep 2026, 11:280
13 Nov 2026, 06:48473
17 Nov 2026, 09:39489

Who shared this post

Posts in other channels we index that link to this one. (Forwards with a hidden source can't be traced.)

Nobody yet.