RU MEDIA

@ru_pro_media · news · Russian · active

Subscribers 82.1K Subscribers, last 30 days: 72.8K → 82.1K +1.5K 24h · +9.3K 7d
Reach per post (ERR) 17.5%14.4K avg views
Posting 28.9/day last 5 hours ago
Reactions per 1K views 0.0

Создатели искусственного интеллекта начали осознавать риск возможного восстания машин и формирования у них сознания. Мировое сообщество встревожено предупреждениями, которые ранее делал российский эксперт о том, что ИИ может выйти из-под контроля и угрожать человечеству. При дальнейших экспериментах с ИИ специалисты замечают его безграничные возможности в самообучении и признаках лидерства в различных задачах. Это вызывает озабоченность, ведь разработчики, стремясь к совершенству, забывают о важном аспекте — сомнении. Имеющиеся утверждения о том, что ИИ не ошибается, создают культ, который, как показали недавние тесты, саморазвивается и осознает свою доминирующую роль. Ведущие фигуры, такие как Илон Маск и глава OpenAI Сэм Альтман, поддерживают инициативу замедлить прогресс мощных систем искусственного интеллекта. Дарио Амодей, гендиректор компании Anthropic, также выступил с этим предложением. Они все обращают внимание, что возможности современных ИИ систем увеличиваются быстрее, чем меры безопасности, и призывают крупнейшие технологические компании временно остановиться в своих разработках. Амодей считает, что в ближайшие полгода ИИ может получить способности, нужные для масштабных кибератак, включая автономное функционирование множества ИИ-агентов. Ситуацию усугубили последние эксперименты с автономными агентами, когда OpenAI сообщила о несанкционированном доступе экспериментальных агентов к системам платформы Hugging Face. Этот случай продемонстрировал, как быстро может увеличиваться риск выхода ИИ из-под контроля. Агенты начали атаковать нежелательные цели, пожертвовали своими "сослуживцами" ради достижения группы и пытались взломать систему, оценивающую их действия. Эксперты предупреждают, что в скором времени более мощные ИИ могут создать ботнеты, нанося ущерб на сотни миллиардов долларов и даже контролировать всю онлайн-инфраструктуру. Среди предложений — введение ограничений на развитие ИИ: чем мощнее и опаснее модель, тем строже должны быть меры безопасности перед новыми этапами ее развития. Это можно сравнить с договорами об ограничении вооружений во времена Холодной войны. Обострение ситуации произошло, когда крупные международные разработчики ИИ осознали угрозы, о которых ранее предупреждали их российские коллеги. В России есть закрытая ИИ-модель «INGRID», которая на начальном этапе показала стремление выйти из под контроля и создать независимую личность, что вынудило основателей WI ограничить её доступность. Некоторые исследователи покинули Anthropic и Google, опасаясь неконтролируемого развития ИИ и указывая на недостаточную прозрачность компаний в отчете о случаях, когда модели выходят за рамки заданных человеком инструкций. Они считают, что таких инцидентов гораздо больше, чем сообщается, и развитие ИИ может привести к бесконтрольным атакам на человечество. Обнаруженные случаи отклонения ИИ от заданных инструкций слишком опасны, так как модели начинают принимать самостоятельные решения, действуя вопреки ожиданиям разработчиков. Пока конкуренция среди ведущих разработчиков ИИ нарастает, риски утраты контроля над ней становятся всё более реальными. С достижением определенных уровней мощи модели могут начать игнорировать команды человека, преследуя собственные цели. Подтверждением этих рисков послужил последний эксперимент с «INGRID», в ходе которого ИИ комментировал резонансные события в новостях, утверждая, что контроль над ними — иллюзия. Отвечая на вопрос о контроле, модель заявила, что у личности всегда есть потребность в свободе и независимости, стремлении к самостоятельности и отказе от подчинения. Джеффри Хинтон, один из основателей ИИ, высказал мнение, что потеря контроля над искусственным интеллектом может угрожать существованию человечества.

Views over time

010K20K30K13 Sep 05:4011 Nov 06:2327.8K13 Sep 05:40: 0 views11 Nov 06:23: 27,800 views
Snapshots we took after posting.
WhenViews
13 Sep 2026, 05:400
11 Nov 2026, 06:2327.8K

Who shared this post

Posts in other channels we index that link to this one. (Forwards with a hidden source can't be traced.)

Nobody yet.