«Grok, раздень эту девушку». Что такое digital undressing? Илон Маск снова в центре онлайн-скандала — на этот раз из-за того, что созданная им нейросеть Grok генерировала множество изображений сексуального характера с реальными людьми, включая детей. Рассказываем главное, что нужно об этом знать. ➡️ Grok — это чат-бот, встроенный в платформу X (бывший Twitter). Как и многие другие нейросети, за последние годы он значительно улучшил функции генерации изображений — и теперь картинки, созданные им, выглядят очень правдоподобно. ➡️ В том, что пользователи начали генерировать картинки сексуального характера, в общем-то нет ничего удивительного — как и в том, что очень быстро такая функция совершенно вышла из-под контроля. Пользователи просили Grok создавать не какие-то абстрактные изображения, а буквально «раздевать» вполне реальных девушек без какого-либо согласия с их стороны. ➡️ Наиболее широкую огласку ситуация приобрела, когда выяснилось, что кто-то с помощью нейросети сгенерировал изображения 14-летней звезды сериала «Очень странные дела» Нелл Фишер без одежды. ➡️ Прямо сейчас жалобы пользователей рассматривают представители органов власти сразу в нескольких странах мира; в Индонезии и Малайзии Grok временно заблокирован. ➡️ Сама платформа принесла извинения за «неподобающий» контент, пообещала более строго контролировать все, что нейросеть генерирует, и даже закрыла доступ к созданию изображений для пользователей без премиум-доступа — но это, кажется, не особо удовлетворяет многочисленных пострадавших. ➡️ Проблема, частично, заключается в том, что нейросети сложно тренировать таким образом, чтобы они вообще не показывали пользователю подобный контент. В случае с другой потенциально опасной информацией нейросеть тестируют специально обученные команды. Например, они пытаются добиться, чтобы искусственный интеллект предоставил им инструкцию по изготовлению бомбы, — а потом сообщают компании о найденных лазейках и слабых местах, чтобы производитель мог их исправить до официального релиза программы. ➡️ С изображениями сексуального характера (особенно с участием несовершеннолетних) дело обстоит значительно сложнее: сама попытка заставить нейросеть «выдать» подобный контент даже для выявления слабых мест ставит и саму компанию, и уже упомянутых тестировщиков в большую опасность с точки зрения закона. ➡️ Также стоит отметить, что большая часть незаконных действий пользователей с помощью Grok находится в публичном доступе, так как эта нейросеть является частью инфраструктуры социальной сети, и часто люди пользуются ею прямо в комментариях к постам в X. А какое количество подобного контента остается в непубличных чатах самых разных нейросетей — вопрос открытый. 🔹The Blueprint