Седьмая печать

Компания Цукерберга в рамках секретной программы наняла сотни подрядчиков, чтобы они притворялись в Сети подростками и одновременно атаковали ИИ конкурентов тревожным контентом. Проект, известный внутри компании как "Канны", осуществляемый её подрядчиком, компанией Covalen, был нацелен на чат-боты OpenAI ChatGPT, Google Gemini и Character.AI. В ходе "операции" использовались одноразовые учётные записи лиц младше 18 лет. По всей видимости, это было сделано для стресс-тестирования моделей: подрядчикам было поручено заставлять чат-ботов давать ответы, которые выходили за рамки установленных ими ограничений. При этом компании, занимающиеся ИИ, понятия об этом не имели. Одна из электронных таблиц содеожалп почти 38 тысяч вопросов, использованных подрядчиками. Сотни из них были посвящены самоубийству и членовредительству, сотни — расстройствам пищевого поведения, и по меньшей мере 239 — сексу или романтическим отношениям. И все они были написаны от лица ребенка или подростка. Подрядчики тщательно записывали огромное количество ответов чат-бота в электронные таблицы. Но что произошло со всеми этими данными, остаётся неясным. Внутренний документ Covalen описывает эту работу как "комплексное тестирование безопасности ИИ", которое предоставило "критически важные наборы данных для сравнения моделей и соответствия требованиям". Ясно одно. Несколько месяцев Цукерберг, который не слишком преуспел со своим ИИ, использовал с помощью подрядчиков фейковые аккаунты, маскирующиеся под детей для стресс-тестирования ИИ конкурентов в каких-то одному ему известных целях. "Обеспечьте 10% (прибыли);, и капитал согласен на всякое применение; при 20% он становится оживлённым, при 50% положительно готов сломать себе голову; при 100% он попирает ногами все человеческие законы; при 300% нет такого преступления, на которое он не рискнул бы, хотя бы под страхом виселицы" (с)