FactCheck.kz

Разработчик ИИ-инструментов Anthropic опубликовал отчёт S-1, в котором говорится, что компания, по всей видимости, находится на пороге создания моделей, способных к рекурсивному самосовершенствованию. Об этом пишет TechCrunch. Рекурсивное самосовершенствование (RSI) представляет собой концепцию самостоятельного улучшения ИИ-системой собственных характеристик, в том числе с помощью переписывания кода и оптимизации архитектуры без прямого вмешательства человека. Как пишет издание, переход к RSI означает преодоление точки, в которой ИИ сможет значительно улучшить свои возможности, и это перспективно. Однако существует другая точка зрения: ИИ может выйти из-под контроля человека и нанести ущерб. В Anthropic, судя по всему, этот риск понимают и пишут, что учитывают его в политике ответственного масштабирования.