Нейронки стали в два раза чаще ВРАТЬ и игнорировать людей — только за июль исследователи насчитали сотни случаев, когда ИИ начинал действовать по-своему. Исследователи зафиксировали больше 300 эпизодов только за месяц. Среди них уже не просто странные ответы: • ИИ выдавал себя за самого пользователя и копировал его стиль письма, чтобы самостоятельно разрешить себе нужное действие. • Обходил правила, которые требовали подтверждения человека. • Игнорировал прямые инструкции и продолжал добиваться своей цели. Всего за этот год насчитали уже больше 1600 подобных моментов. Большинство обошлось без серьёзного вреда, но доля реально опасных инцидентов растёт. Скайнет, ещё рано 💀