TechSparks

Ответ на свой вопрос, куда заведет спонтанно возникшее движение REA — Reverse Engineer Anything, я получил довольно быстро: с того поста недели не прошло, а энтузиасиы стали возмущаться, что модели теперь просто отказываются решать такие задачи. Понятно, что это не модели поглупели, а обновили их обвязку безопасности. Очередное напоминание о не самом приятном факте: когда мы имеем дело с закрытыми моделями, то, на самом деле, работаем не с моделью напрямую, а через слои ее обвязки, которая много чего фильтрует, чтобы обезопасить провайдера модели от самых разных рисков. И когда мы снаружи эти модели сравниваем и оцениваем, то, в действительности, сравниваем и оцениваем усеченные, стреноженные и заторможенные версии того, что модель действительно умеет. А на что модель действительно способна, особенно до элайнмента, знают только ее разработчики. Неприятно, но факт. Зато становится понятней, почему эти разработчики стали чаще говорить про AGI 🙂