ИИ & Право

📖 Исследователи MIT показали, как ИИ-агенты учатся через "игру" Опубликована статья "Is This Machine Playing?", в которой исследователи MIT показали результаты изучения поведения ИИ-агентов, когда им не дают конкретных инструкций. Они поместили кодирующего ИИ-агента на базе Claude, на небольшую симуляцию острова и позволили ему свободно исследовать окружающий мир в течение 30 часов. Агент поднимался на холмы, складывал блоки, рисовал мандалы и пробовал разные развлечения, например, боулинг. Исследователи обнаружили, что агент самостоятельно придумывал занятия в незнакомой среде, демонстрировал поведенческие признаки, характерные для игры, и учился таким образом, который расширял его последующие возможности. В исследовании рассматривается подход, при котором агентам предоставляют достаточно разнообразную и безопасную среду для самостоятельного исследования и накопления знаний, вместо того чтобы ограничивать их заранее определёнными задачами. Результаты работы могут быть важны для исследований в области безопасности и управления рисками ИИ и изучения поведения автономных агентов и возможности сохранять над ними человеческий контроль. #ИИ #AgenticAI #AISafety #AIGovernance