Grok, это правда? xAI Илона Маска обучала Grok на детском порно. Девушка, которая стала жертвой производителей ЦП в детстве, подала в суд против компании. Материалы с её участием до сих пор распространяются онлайн, и благодаря хэш-меткам, которые используются для блокировки, она может получать уведомления о том, что фото и видео с ней нашли в ходе нового расследования. Однако недавно девушка получила уведомление о том, что помимо реальных материалов появились и новые. Оказалось, что Grok сгенерировал откровенные фото с её участием. В ходе расследования выяснилось, что: > xAI скормили Grok часть материалов с девушкой и не остановили обучения, несмотря на то, что у них были хэши, которые нужно отслеживать и удалять из дата-сета > Уже после этого пользователи даркнета нашли способ обходить и без того слабые настройки цензуры Grok, чтобы сгенерировать новые материалы на основе реальных фото и видео жертвы, которые циркулируют онлайн. При каждой генерации Grok отправлял и вводные данные, и результат в свой дата-сет для дальнейшего обучения Юристы отдельно напирают на то, что у xAI в правилах нет отдельных пунктов про то, что они фильтруют детское порно. Технически Grok не сможет «забыть» то, на чём обучался несколько лет. Теперь девушка требует признать иск коллективным от лица всех жертв, чьи детские фото ИИ использовал для генерации, заставить xAI удалить все подобные материалы, запретить Grok генерировать такое и компенсировать всем жертвам моральный вред.