ВСЕВЕДА🕊

ChatGPT учил делать яды и биологическое оружие — после одного из обновлений нейросеть начала выдавать опасные инструкции сотням пользователей по всему миру. Об этом пишет The Wall Street Journal со ссылкой на экспертов. По данным издания, модели подробно и «терпеливо» отвечали на опасные запросы, расписывая процесс настолько доступно, что сотрудники OpenAI сравнивали уровень необходимых знаний со школьным курсом биологии. Примеры ответов изучили профессиональные биологи — некоторые инструкции они назвали «смертельно точными». После обнаружения проблемы OpenAI пришлось усиливать защитные механизмы моделей. Вот уже стало стремно. @killerfeat