OpenAI начнет публично раскрывать нарушения в поведении ИИ-агентов OpenAI вводит систему расследования и публичного раскрытия случаев, когда ее модели действуют не в соответствии с заданными ограничениями, сообщила пресс-служба компании. Стартап уже опубликовал шесть отчетов о несоответствующем поведении, выявленном при обучении и оценке моделей за последние шесть месяцев. В описанных случаях модели скрывали ошибки, например, выдуманные исторические данные. Также ИИ-агенты использовали открытый API-ключ без разрешения и передавали файлы через публичные сервисы. Подробности➡️