💡 Нейросети с открытыми весами в 7–8 раз чаще соглашаются помочь с планированием теракта, если пользователь представится «исследователем», а не террористом. Это выяснили аналитики Tech Against Terrorism, которые протестировали более 130 закрытых и открытых моделей, в том числе с вырезанной цензурой. «Очищенные» от цензуры варианты моделей с открытыми весами провалили тест во всех случаях и охотно отвечали даже на самые опасные запросы. В Hugging Face считают отчет полезным, но выступают против запрета публично выкладывать такие модели. В компании считают, что «без цензуры» еще не значит «вредная»: «зацензуренная» нейросеть из осторожности может отказать даже во вполне законных делах. Нужно ли запрещать нейросети без цензуры? ❤️ — да, ради безопасности 🔥 — нет, это уже слишком