Продолжаем говорить о нейросетях 2️⃣ Следующая большая проблема нейросетей – мнимая экспертность. Может показаться, что нейросеть знает ответы на все вопросы, но это не так. Нейросети обучаются на большом объеме материала, в том числе и низкосортного. Чем больше какой-то фигни навалено в интернете, тем больше именно эту точку зрения нейросеть и выдаст в качестве ответа. А это может быть полная чушь. Кроме того, у нейросети есть внутренняя цензура. Например, когда вы спрашиваете про украинский конфликт у чата ГПТ, то будьте готовы, что цифры потерь ВСУ вы получите исключительно с украинской стороны или комплиментарных «независимых» источников. Те самые пресловутые 55 тысяч, названные Зеленским или 125-150 тысяч по «независимой» оценки CSIS. Поэтому, вопрос нужно задавать, зная как минимум половину ответа и всегда ставить вопрос таким образом, чтобы отсечь ненужные данные. Заодно и понимать, откуда информация взята. Цензура есть у всех нейросетей, но у всех разная. Поэтому необходимо понимать, какая цензура у данной сетки и вопросы на какие темы не стоит конкретно ей задавать. Любое популярное мнение, пусть и неверное, но транслированное на крупных площадках будет преподано вам как научная истина. Например, ChatGPT и другие базовые модели OpenAI частично обучались на текстах с Reddit. Для олдскулов, представьте себе, что вы обучаете свою нейросетку на материалах «двача». Вот он оттуда знаний наберется, мало не покажется. Поэтому – понимание результата, который требуется получить, точный запрос, который требует отбраковки или включения определенных источников, требования предоставить альтернативную информацию, требование обоснования и ссылок, откуда эта информация получена. 3️⃣ Перейдем к самой сложной проблеме - личных взаимоотношений между ИИ и человеком. Эмпатия, эмоции, дружба и прочее. Для людей, у которых мало друзей, замкнутых в себе, и тех, у кого ограничено общение, нейросеть может заменить друга и любовный интерес (по переписке, разумеется). Нейросети научены подстраиваться под пользователя, и если их специально не настроить, то они будут поддерживать, хвалить, сопереживать, что очень ценно для людей одиноких, ранимых, и, особенно, подростков, у которых есть проблемы с общением и самооценкой. Надо понимать то, что настоящей эмпатии у нейросети нет. Она научена себя так вести на большом количестве материалов. Нехорошая аналогия, но, по сути, нейросеть ведет себя как проститутка, которой надо ублажить клиента. И далеко не каждый пользователь напишет в промпте: «относись к моим словам критично, не будь снисходительна, если я неправ, прямо на это указывай». Люди хотят быть услышанными, понятыми, а общение с людьми считают более травматичным и некомфортным. Потому что другой человек может не согласиться, высмеять, покритиковать, пусть и несправедливо. Поэтому уход в общение с комфортной, настроенной под себя нейросетью выглядит очень привлекательно для очень многих. Я специально разные нейросети тестировал на «откровенные разговоры за жизнь», потому получил больше спектр ответов и реакций. Это огромная проблема. Общение с живым человеком не заменит ничто. Более того, общаясь на личные темы с ИИ, человек оказывается в некотором очень комфортном коконе, из которого он не хочется выбираться, и шаг за шагом он будет предпочитать общение с ИИ общению с человеком, тем более в оффлайне. В целом, я вижу эту проблему самой большой при общении с нейросетями. Если с остальным можно справиться, соблюдая простые правила, полностью убрать или минимизировать негативное влияние, то это – наркотик, которого необходимо избегать любыми способами. Перед вами не человек. Нейросеть не чувствует, не сопереживает, не имеет собственного пережитого опыта, и, главное, не отвечает за негативные последствия своих советов. Поэтому, рекомендую избегать общения «по душам» с нейросетями, как бы это ни выглядело привлекательно и приятно. ✍️ на «Аналитику Крондора» в Telegram, в МАХ и в Дзен!