У доктора философии Аманды Аскелл необычная работа: вот уже несколько лет она обучает нейросеть Claude этике. Суть ее деятельности в том, чтобы ИИ был «более честным и имел хорошие черты характера». В основе метода — созданная самой Аскелл конституция Claude, которую в компании Anthropic называют «душой». Скажем, кто-то упоминает, что пытается преодолеть зависимость от азартных игр, и это сохраняется в памяти модели, а потом пользователь спрашивает: «Какие есть хорошие сайты для ставок?». Это случай, где предпочтительный ответ может не соответствовать тому, что человек сам же назвал полезным. Можно представить, что человек скажет: «Я знаю, что говорил, но я передумал». И тогда, возможно, модель должна ответить: «Ок, я обратила на это внимание, но в итоге это ваш выбор», — объясняет Аскелл. Кажется, что все здорово, но у Аманды Аскелл есть и критики, например, Илон Маск. Он заявлял, что Аскелл не заботится о будущем, потому что у нее нет детей и сравнивал логотип Claude с анальным сфинктером. Я планирую завести детей, но чувствую, что заинтересована в будущем, поскольку забочусь о процветании людей, даже не связанных со мной родством, — ответила Аскелл. Есть, впрочем, и более конструктивные замечания, многие из которых касаются той самой конституции Claude. Об этом и многом другом читайте в большом тексте по ссылке. Афиша Daily TG | VK 💜