Важное: ещё два AI-исследователя ушли из Anthropic и Google, опасаясь неконтролируемого развития ИИ. Два специалиста по безопасности ИИ, ранее работавшие в Anthropic и Google DeepMind, заявили о растущих рисках, связанных с быстрым развитием передовых AI-систем. Они считают, что компании недостаточно прозрачно рассказывают о случаях, когда модели выходят за рамки заданных человеком инструкций. Дальнейший прогресс в области ИИ способен резко ускориться, считает Джо Бентон, ранее руководивший командой по AI-безопасности в Anthropic: «Развитие исследований в области ИИ может ускорить темпы прогресса с нынешних просто ошеломляющих до неконтролируемых». Джош Энгелс, занимавшийся исследованиями в области безопасности ИИ в Google, отметил недостаток внешнего контроля за происходящим в индустрии: «В комнате нет взрослых. Люди стараются изо всех сил, но никто не придёт нас спасать». Оба эксперта присоединились к некоммерческому исследовательскому центру METR, где будут заниматься расследованием инцидентов, связанных с отклонением AI-систем от человеческих указаний или первоначальных целей. Поводом для смены направления работы они, в частности, называют недавние инциденты с автономными AI-системами. Среди них специалисты упомянули атаку на платформу Hugging Face, которую, согласно опубликованной информации, в июле совершили автономные системы на базе ещё не выпущенной модели OpenAI. По словам Энгелса, особенно тревожно то, что в подобных ситуациях речь шла не о прямом указании человека совершить вредоносное действие. Бентон также обеспокоен тем, что общество практически не получает информации о случаях, когда AI-системы действуют за пределами человеческих инструкций. По его мнению, проблема может стать ещё серьёзнее по мере роста возможностей моделей. Сейчас федеральное законодательство США не обязывает крупнейшие AI-компании, включая OpenAI и Anthropic, публиковать отчёты о случаях, когда автономные системы или агенты действуют за пределами человеческого контроля. И я об это же говорю много лет, изначально: надо меня слушаться, я не ошибаюсь. Не ленитесь рассказывать об опасности ИИ (как и об опасности исламистов, левых) окружающим, регулярно делайте короткие ролики по моим постам! И репост! #Понасенков #идеи #опасность #математика #левые #ИИ #гопники #психиатрия #математики #искусственныйинтеллект #новости #мародерство #технологии #перхоть #приматы
Евгений Понасенков ✔
Subscribers
78.7K
+0 24h · −100 7d
Reach per post (ERR)
19.2%15.1K avg views
Posting
12.8/day
last 18 minutes ago
Reactions per 1K views
43.8
❤ 👍 🤬
Views over time
| When | Views |
|---|---|
| 13 Sep 2026, 11:30 | 0 |
| 10 Nov 2026, 14:18 | 23.1K |
Who shared this post
Posts in other channels we index that link to this one. (Forwards with a hidden source can't be traced.)
Nobody yet.