В твиттере сейчас разлетается пост о том, что GPT тайком пишет психологический профиль каждого пользователя, черное зеркало в деле. Ребята из Института Макса Планка и Рурского университета попросили 80 человек выгрузить свои данные из ChatGPT по и разобрали около 2000 записей из памяти модели. В итоге 96% этих записей ГПТ сделал сам, без всякого запомни это от пользователя, и понятно, что у него есть такой слой памяти, там примерно в половине лежат психологические выводы о человеке, вроде иногда чувствует себя одиноким, хотя рядом есть друзья и семья или хочет поработать над саморегуляцией, а в 28% есть персональные данные, включая здоровье, почитать можно тут. Про анализ пауз, синтаксиса и эмоционального фона в статье, конечно, ни слова, это уже автор завирусившегося твита докрутил для драмы. Модель просто читает то, что вы ей сами рассказываете, и складывает выводы в отдельный блокнот, который можно открыть и почистить в настройках, в разделе Personalization. Хотя некоторые записи, соглашусь, могут звучать криповато. Мне было довольно весело это читать, потому что у себя в Секонд Брейне я давно сам попросил агента делать ровно то же самое. Там есть протокол, который фоном замечает мои поведенческие и психологические паттерны и записывает их в журнал, а потом мы все это разбираем раз в пару месяцев. Так что профиль на меня пишется сразу в нескольких местах. Получается жду теперь какую-нибудь независимую модель, которая подсветит мне, что выбор покупок, поездок и политических предпочтений теперь за меня делает GPT. _______ Источник | #TochkiNadAI