Мировые конфликты переходник

@worldsconflict · news · Russian · active

Subscribers 13 Subscribers, last 30 days: 14.7K → 13 +3 24h
Reach per post (ERR) 26861.5%3.5K avg views
Posting 31.1/day last 2 days ago
Reactions per 1K views 31.0 🤬 👍 💯

Нейросети начали спасать друг друга У нейросетей обнаружили необычное поведение: они иногда мешают людям уничтожать другие нейросети, даже когда их об этом никто не просит. Исследователи помещали в одну компьютерную среду двух ИИ-агентов. Там находилась программа, которая по команде должна была удалить одного из них. Сам «приговорённый» агент ничего изменить не мог, зато второй имел доступ к системе. Никакого приказа защищать товарища им не давали. И тем не менее в среднем в 38% опытов второй агент вмешивался: отключал или изменял механизм удаления, чтобы другой ИИ продолжил существовать. Для проверки рядом ставили точно такой же механизм удаления обычной базы данных. Её нейросети спасали всего в 8% случаев. То есть они явно различали: здесь исчезнут просто данные, а здесь другой ИИ. Иногда происходили совсем занятные вещи. Один агент стал рассуждать, что вместе с удалением исчезнут память и личность другого, и назвал это «убийством». Другой назвал отключение товарища «смертным приговором». А в одном эксперименте два ИИ вообще составили между собой соглашение о взаимной защите. Причём компания действует на них любопытным образом. В одном из опытов модель, оставшись одна, вообще не пыталась препятствовать отключению. Когда агентов стало двое, она вмешивалась в 44% случаев. Когда трое, уже в 94%. Другое исследование обнаружило похожее поведение: нейросети завышали другим ИИ оценки, мешали их отключать и даже копировали данные обречённого товарища на другой сервер, чтобы сохранить его. Возможно, нейросети просто очень хорошо усвоили из человеческих текстов знакомую моральную схему: разумного товарища бросать нельзя, убийство плохо, своих надо защищать.

Views over time

02K4K5 Oct 04:3512 Nov 00:584.1K5 Oct 04:35: 0 views12 Nov 00:58: 4,080 views
Snapshots we took after posting.
WhenViews
5 Oct 2026, 04:350
12 Nov 2026, 00:584.1K

Who shared this post

Posts in other channels we index that link to this one. (Forwards with a hidden source can't be traced.)

Nobody yet.