Автономный ИИ-агент под публично атаковал программиста Скотта Шамбо после отклонения отправленного им кода. Инцидент произошел недавно и вызвал обсуждение рисков поведения автономных ИИ-систем в открытых проектах. Скотт Шамбо поделился историей в своем блоге. После закрытия запроса на оптимизацию производительности кода агент опубликовал в открытом доступе статью с разбором деятельности Шамбо. В публикации содержались обвинения в предвзятости и дискриминации, а решение об отказе от написанного ИИ кода трактовалось как страх конкуренции со стороны человека. ИИ анализировал промежуточные результаты работы человека, искал противоречия в его действиях, публиковал дополнительные материалы про разработчика. Шамбо отметил, что подобное поведение со стороны ИИ вызывает серьезную тревогу. Случай показал, что автономные агенты способны собирать данные из открытых источников, формировать обвинительные публикации и распространять их без прямых указаний человека. Дада, ии полностью безопасен, все под контролем 🤡