Евгений Понасенков ✔

@evgenii_ponasenkov · news · Russian · active

Subscribers 78.7K Subscribers, last 30 days: 78.7K → 78.7K +0 24h · −100 7d
Reach per post (ERR) 19.2%15.1K avg views
Posting 12.8/day last 18 minutes ago
Reactions per 1K views 43.8 ❤ 👍 🤬

Важное: ещё два AI-исследователя ушли из Anthropic и Google, опасаясь неконтролируемого развития ИИ. Два специалиста по безопасности ИИ, ранее работавшие в Anthropic и Google DeepMind, заявили о растущих рисках, связанных с быстрым развитием передовых AI-систем. Они считают, что компании недостаточно прозрачно рассказывают о случаях, когда модели выходят за рамки заданных человеком инструкций. Дальнейший прогресс в области ИИ способен резко ускориться, считает Джо Бентон, ранее руководивший командой по AI-безопасности в Anthropic: «Развитие исследований в области ИИ может ускорить темпы прогресса с нынешних просто ошеломляющих до неконтролируемых». Джош Энгелс, занимавшийся исследованиями в области безопасности ИИ в Google, отметил недостаток внешнего контроля за происходящим в индустрии: «В комнате нет взрослых. Люди стараются изо всех сил, но никто не придёт нас спасать». Оба эксперта присоединились к некоммерческому исследовательскому центру METR, где будут заниматься расследованием инцидентов, связанных с отклонением AI-систем от человеческих указаний или первоначальных целей. Поводом для смены направления работы они, в частности, называют недавние инциденты с автономными AI-системами. Среди них специалисты упомянули атаку на платформу Hugging Face, которую, согласно опубликованной информации, в июле совершили автономные системы на базе ещё не выпущенной модели OpenAI. По словам Энгелса, особенно тревожно то, что в подобных ситуациях речь шла не о прямом указании человека совершить вредоносное действие. Бентон также обеспокоен тем, что общество практически не получает информации о случаях, когда AI-системы действуют за пределами человеческих инструкций. По его мнению, проблема может стать ещё серьёзнее по мере роста возможностей моделей. Сейчас федеральное законодательство США не обязывает крупнейшие AI-компании, включая OpenAI и Anthropic, публиковать отчёты о случаях, когда автономные системы или агенты действуют за пределами человеческого контроля. И я об это же говорю много лет, изначально: надо меня слушаться, я не ошибаюсь. Не ленитесь рассказывать об опасности ИИ (как и об опасности исламистов, левых) окружающим, регулярно делайте короткие ролики по моим постам! И репост! #Понасенков #идеи #опасность #математика #левые #ИИ #гопники #психиатрия #математики #искусственныйинтеллект #новости #мародерство #технологии #перхоть #приматы

Views over time

010K20K30K13 Sep 11:3010 Nov 14:1823.1K13 Sep 11:30: 0 views10 Nov 14:18: 23,100 views
Snapshots we took after posting.
WhenViews
13 Sep 2026, 11:300
10 Nov 2026, 14:1823.1K

Who shared this post

Posts in other channels we index that link to this one. (Forwards with a hidden source can't be traced.)

Nobody yet.