#Большой_брат 👩💻 🧠 ⚠️ В преддверии нового года OpenAI решила нанять специального человека, который займётся выявлением, оценкой и нейтрализации рисков, связанных с возрастающими возможностями ИИ принимать решения. На мой взгляд, страхуются разработчики не в том месте, где прячется реальная угроза. Опасность заключается в отсутствии у нейросетей качественной «этической рамки», запрещающей генерировать контент, который может помочь пользователю нанести вред окружающим или себе самому. Речь идёт о том, что запреты, установленные политикой компании на выполнение тех или иных заданий, довольно легко обходятся. Обсуждение этой проблемы руководители компании старательно избегают. Альтман объявил, что AI начинает создавать серьёзные угрозы и открыл вакансию "Head of Preparedness". Новый руководитель должен готовиться ко всем возможным рискам и делать так, чтобы из-за AI не случалось массовых психозов, хакерских атак или ядерной войны.