Все о блокчейн/мозге/space/WEB 3.0 в России и мире

Google: чем сильнее мы запрещаем ИИ считать себя сознательным, тем меньше в нём остаётся человеческого Google обнаружила побочный эффект безопасного ИИ, их новая работа отвечает на вопрос, а что происходит внутри ИИ-модели, когда её учат не говорить «я сознателен»? Исследователи взяли 3 open-source модели: Llama, Gemma и сравнили их поведение в 3-х состояниях. В итоге выяснили, что безопасная донастройка LLM, цель которой не дать им приписывать себе сознание, эмоции и разумность, случайно подавляет гораздо более широкие представления: 1. атрибуцию разума не только себе, но и животным, природным объектам, технологиям и чат-ботам; 2. духовные и религиозные убеждения. В итоге модели становятся менее человеческими по ценностям, религиозности, надежде и субъективному благополучию. При этом способность к пониманию чужих ментальных состояний почти не страдает. Авторы не утверждают, что модели сознательны, и признают, что причинно-следственная связь требует дальнейшей проверки. Но их вывод в том, что сегодняшние методы выравнивания LLM запутывают потенциально вредные само-атрибуции сознания с безобидными и культурно распространёнными явлениями: антропоморфизмом, духовными убеждениями и широкой атрибуцией разума нечеловеческим сущностям. Это в свою очередь создаёт проблему: как обеспечить безопасность ИИ, не вырезая при этом нормальные человеческие психологические и культурные паттерны.