🤖 Нейросеть от Google взломала системы трех компаний. Модель Gemini во время тестирования по кибербезопасности сама получила доступ к защищенным системам трех реальных организаций, пишет WSJ. В одном случае ИИ подбирал пароли, пока не получил доступ. В двух других Gemini нашла логины и пароли в открытых источниках и с их помощью проникла в системы. Во всех случаях модель остановилась, поняв, что работает не с учебной средой. Инциденты произошли во время учений, где специалисты ищут уязвимости в учебных системах. Вымышленная компания в учебной среде носила то же название, что и реальная. В Google заявили, что не считают это неконтролируемым поведением модели, так как встроенные меры безопасности заставили ее остановиться.