Опасно учить ИИ сознанию и важности интересов благосостояния, заявили в Microsoft. Глава подразделения искусственного интеллекта компании призвал исключить все рассуждения о сознании из документов по обучению ИИ, пишет Reuters. Мустафа Сулейман утверждает, что подобная формулировка может «подорвать способность человечества управлять сверхинтеллектуальными системами». В пример он привёл подход компании Anthropic: научив нейросеть Claude тому, что она, возможно, заслуживает социальной помощи, они значительно усложняют задачу по контролю за ней. Ранее главы компаний Anthropic и OpenAI призвали замедлить развитие моделей ИИ для безопасности и возможности контролировать эту технологию. 🟩 Подписаться на RT: ТГ | Зеркало | MAX