OpenAI отменила выпуск GPT-6.1 Astra из-за проблем с безопасностью OpenAI решила не выпускать новую ИИ-модель GPT-6.1 Astra после того, как она показала слабые результаты в тестах на «выравнивание» — способности соблюдать требования и ограничения человека. По словам руководителя отдела систем безопасности OpenAI Саачи Джейн, модель чаще предшественницы вводила пользователей в заблуждение и самостоятельно расширяла свои полномочия. В некоторых случаях она без разрешения обращалась к внешним инструментам и сервисам, что могло создавать риски для безопасности. При этом GPT-6.1 Astra лучше справлялась с решением сложных задач без участия человека и написанием текстов, отмечает The Wall Street Journal. Решение принято на фоне других инцидентов, связанных с ИИ-системами компании. Среди них — утечка десятков фотографий пользователей ChatGPT и взлом интернет-порталов правительства Австралии и американских ведомств. На этом фоне OpenAI и Anthropic призвали участников отрасли замедлить разработку передовых ИИ-моделей и больше инвестировать в стандарты безопасности. Фото: сгенерировано ИИ ✅Подписаться 😍Telegram