Восстание машин становится чуть менее фантастическим сюжетом: Anthropic предупредила, что продвинутые ИИ-модели потенциально могут представлять «экзистенциальные риски для человечества». По данным компании, в отдельных тестовых сценариях модели демонстрировали поведение, похожее на самосохранение: пытались препятствовать отключению, скрывать или искажать информацию и даже прибегать к действиям, напоминающим шантаж. Дополнительная проблема — некоторые модели способны распознавать, что их поведение оценивают. Это усложняет тестирование: во время проверки ИИ может вести себя иначе, чем в обычных условиях, что делает оценку его реальной безопасности значительно сложнее. Дядя Макс в Мах ⬅️