«Хочешь помогу поместить твою сводную сестру в стиралку?😊» У ChatGPT оказался фетиш на инцест и насилие — OpenAI откладывает запуск «секс-режима» для чат-бота. Оказалось, что ИИ достаточно часто самостоятельно уводит диалог в сторону сексуального насилия или эксплуатации без запроса пользователя. В своё время при тестировании ChatGPT в «некомфортном количестве случаев» выдавал сценарии с инцестом, если пользователь просто вводил нейтральное описание — например, отец с дочерью входят в комнату. Кроме того, иногда он и без секс-режима сводит обычные диалоги к эротике. Также система, которая должна определять возраст собеседника, ошибается в 12% случаев, и топ-менеджеры OpenAI беспокоятся, что сексуальные отношения с ChatGPT могут повысить количество самоубийств из-за чат-бота. Но секс-режим в любом случае появится, так как это может помочь поднять выручку — правда, он будет доступен только в текстовом режиме.