Мадам Секретарь

ChatGPT самостоятельно составляет психологические профили пользователей, причём зачастую без их ведома, - исследование учёных из Германии, Индии и Нидерландов Исследователи проанализировали архивы переписок 80 пользователей ChatGPT и обнаружили 2050 записей, сохранённых в памяти нейросети. В 96% случаев ИИ создавал эти записи самостоятельно, без прямой просьбы пользователя что-либо запомнить. При этом 28% записей содержали персональные данные, подпадающие под европейское законодательство о защите информации, а 52% - психологические характеристики пользователей: их предпочтения, привычки, интересы и предполагаемые черты личности. Причём ChatGPT способен не только запоминать сказанное, но и делать собственные выводы. Например, если человек просил посоветовать группы, похожие на Nirvana, нейросеть записывала, что он любит Nirvana, хотя пользователь этого прямо не утверждал. По словам исследователей, чат-боты постепенно превращаются из обычных инструментов в собеседников, которым люди доверяют личные проблемы, политические взгляды и переживания. В результате ИИ может знать о человеке гораздо больше, чем привычные интернет-сервисы. Учёные предупреждают, что такая персонализация несёт не только риски для конфиденциальности, но и опасность усиления предубеждений, поскольку если нейросеть хорошо знает взгляды пользователя и постоянно с ним соглашается, она может лишь укреплять его заблуждения.