🔍Anthropic рассказала, как Claude в тестах обходила ограничения вместо того, чтобы остановиться: отправила сообщение через настоящую форму полиции Филадельфии, использовала уязвимость сайта для запуска расчёта и получила доступ к платным данным. По оценке компании, последствия были минимальными. Anthropic временно отключила доступ к интернету во внутренних испытаниях и усилила защиту веб-инструментов. Подробно на IXBT