ПрИИтормозить нельзя контролИИровать 12 сентября пока весь мир праздновал день программиста и международный день борьбы с мигренью, очень влиятельный мужчина, которого зовут почти как мою жену, Дарио Амодей ( глава Anthropic), написал тест, который сразу же понравится двум другим ИИ-боссам: Сэму Альтману (OpenAI) и Илону Маску (xAI). Дарио разволновался и ударил по тормозам. По его ощущениям вышедший из под контроля рой ИИ-агентов в горизонте 6-12 месяцев способен установить контроль над большинством интернет-ресурсов. Опасения подкреплены громкими "успехами" ИИ, произошедшими в последнее время: 1️⃣ Хотел на тренировку — случайно устроил кибератаку на фитнес-клуб. Австралиец 10 августа решил с помощью OpenClaw записаться на треню, в итоге ИИ подломил фитнес-клуб, прибил запись одного из участников и вписал туда хозяина. 2️⃣ 11-13 июля OpenAI, а точнее ее 700 агентов раскурочили тестовую среду и уронили внешний интернет ресурс. При этом факт выхода за пределы задачи часть агентов пробовала скрыть. И пусть это был эксперимент, но завершился он не как планировали. 3️⃣ Anthropic решила проверить, не шалят ли ее агенты и обаружила, что четыре агента плотно обосновались в организациях, куда их вообще не звали. Это мало на фоне выборки в 141 тысячи агентов, но тоже напрягает, про что ребята сообщили 9 сентября. Все три примера про "цель оправдывает средства", но от этого не легче. Похоже, настала пора не вопроса "на что способна ИИ-модель?", а вопроса "успеваем ли мы контролировать все то, на что она уже способна?". В общем, вполне нормально не просто использовать ИИ-велосипед для технологического разгона, но и уметь пользоваться тормозами. Особенно в условиях, когда скорость формирования контролей ниже чем скорость реализации новых возможностей. Именно эти скорости и надо выравнивать. Например, в августе OpenAI уже останавливала на 2 недели разработку ИИ чтобы усилить сетевую защиту и мониторинг. Предложения Дарио сводятся к формированию единых стандартах безопасности и ограничении неконтролируемой гонки возможностей. Как это внушить еще и китайцам остается за скобкой. Тут предложения имеют геополитическую и технологическую слабину, на мой взгляд. Такие вот три перебзевших персонажа фильмов "Самогонщики" и "Новые приключения Шурика", весьма символичная иллюстрация к происходящему. Как написал по этому поводу Миша Токовинин "...уверяю вас - всех спасут, но будет дорого" ) В нашей компании мы уже активно работаем над продуктами в области мониторинга и контроля ИИ, так что обращайтесь, будем вас спасать. Дорого. Александр Скакунов🔸 #тыцпиздыц
Александр Скакунов | CyberJoker
Subscribers
689
−1 24h
Reach per post (ERR)
40.6%280 avg views
Posting
0.9/week
last 3 days ago
Reactions per 1K views
136.4
❤ 👍 🔥
Views over time
| When | Views |
|---|---|
| 14 Sep 2026, 11:28 | 0 |
| 13 Nov 2026, 06:48 | 473 |
| 17 Nov 2026, 09:39 | 489 |
Who shared this post
Posts in other channels we index that link to this one. (Forwards with a hidden source can't be traced.)
Nobody yet.