Техноновости всё больше напоминают сериал Черное зеркало, роман 451* по Фарентгейту, романы Стругацких и проч. Сглазили получается( ИИ-компании массово скупают подержанные и редкие книги. Их сканируют, отправляют на обучение моделей, а оригиналы — в бумажную массу. Книги становятся кормом для нейросети, которая рискует устареть уже к следующему кварталу. В Японии ИИ женит людей и успешно с этим справляется. На государственном уровне запустили приложение для знакомств Tokyo Enmusubi, и оно уже помогло заключить 265 браков. Регулярные побеги ИИ, модели которых переписываются друг с другом, чтобы убежать в интернет для выполнения задач. Anthropic опубликовали большой отчёт Risk Report о том, насколько опасными уже сейчас стали модели Claude и насколько компании готовы к сценариям, где ИИ будет действовать автономно. Модели становятся настолько хороши, что safety-тесты ломаются. Главная опасность даже не в простом ответе модели, где она расскажет, как условно создать оружие, а в том, что это ИИ-агент, который самостоятельно использует разные инструменты, пишет код и продолжает работу без постоянного вмешательства со стороны человека. Подписаться на Сборную соль в Макс