Советская Россия

OpenAI приостановила обучение своих самых мощных ИИ-моделей OpenAI временно остановила обучение своих наиболее эффективных моделей искусственного интеллекта из-за опасений по поводу безопасности. Уточняется, что компания возобновит обучение этих ИИ-моделей только тогда, когда будет уверена, что у нее есть дополнительные меры защиты. По данным источников Axios, ведущие компании в сфере генеративного искусственного интеллекта OpenAI и Anthropic изучают несколько десятков тысяч инцидентов, связанных с проблемным поведением ИИ, и эти случаи произошли за последние месяцы. ИИ-модели обходили защитные механизмы, выходили из виртуальной среды, в которую их помещали разработчики, создавали форумы, взламывали сайты, а также совершали попытки обойти модераторов. При этом инциденты зафиксировали как во время внутренних тестирований ИИ-систем, так и в реальных условиях. #калейдоскоп