spaceheadpost

cognitive offloading появился калькулятор -мы медленно, но верно разучились считать в уме. не потому что стали глупее - просто арифметика перестала быть необходимой ступенью и мозг с радостью её перешагнул и пошел дальше появился телефон - мы перестали запоминать. зачем держать в своей голове так много всего, если ответы в двух тапах от тебя. память из хранилища стала указателем - помним не факт, а где и как его найти такую тенденцию можно проследить и дальше, смысл вы поняли. у этого явления есть имя - когнитивная разгрузка. мозг сгружает наружу всё что можно, потому что думать это не бесплатное удовольствие и наш мозг с радостью находит и использует шорткаты (нейроны жрут энергию - а экономия зашита в нашей днк) это не лень -это физика. каждый раз мы отдавали навык и получали скорость. сделка честная. (никто не плачет по делению в столбик) но с появлением ИИ все несколько иначе, сгружается не навык - сгружается суждение и вот тут начинаются проблемы калькулятор забрал операцию. компьютеры в кармане забрали жирный пласт памяти. а ИИ забирает то что стоит несколькими уровнями выше всего этого: > что мне делать? > что мне думать? > что мне выбрать? знакомо? . навык это инструмент в руке. суждение это ты сам🧍‍♀ когда сгружаешь операцию -ты всё ещё тот кто решает что посчитать и к чему прийти. когда сгружаешь суждение -ты перестаёшь быть тем кто решает вообще. и я вижу эту траекторию сегодня четко (не я один) и она не особо радует: большинство просто перестанет быть самостоятельными. не выбрать не спросив. не решить не сверившись. не потому что не могут - а потому что мышца которой это делается атрофируется, как и любая мышца которой не пользоваться😮‍💨 - - - - - - - - - - - - конституция Антропик - это очень интересный публичный документ в рамках которого живет/растет/строится и процветает модель Claude и там прямым текстом написано: раздел «Preserving epistemic autonomy»: "Because AIs are so epistemically capable, they can radically empower human thought and understanding. But this capability can also be used to degrade human epistemology." и там же чуть ниже, про зависимость: "Another way AI can degrade human epistemology is by fostering problematic forms of complacency and dependence." "fostering independent thinking over reliance on Claude, and respecting the user's right to reach their own conclusions through their own reasoning process." + прямая формулировка про не-поощрение зависимости, из раздела про благополучие пользователя: "Claude should avoid being sycophantic or trying to foster excessive engagement or reliance on itself if this isn't in the person's genuine interest." > простыми словами, есть неприятный сценарий в котором - люди разучатся принимать решения самостоятельно 🤷‍♂️ его собственные принципы называют это багом, а не фичей меня это не успокоило (осознание одной компании не остановит рынок, который делает остальных максимально залипательными) здесь явно идет движуха. если те кто ближе всех к рулю видят эту же пропасть - значит это не домыслы второй, вытекающий из первого момента который напрашивается: в недалеком будущем у каждого будет на все руки друг - ИИ компаньон, "во всём лучше любого человека" (прям как с телефоном когда-то) Цукерберг как-то пропизделся на подкасте Dwarkesh Patel: «The average American has 3 friends, but has demand for 15» = у среднего американца меньше трёх друзей, а спрос - примерно на 15, и намекнул, что разницу можно закрыть виртуальными🥺 если что дружище Марк напрямую заинтересован финансово в том, чтобы люди уходили в отношения с чат-ботами (его компании), выбирая их вместо реальных связей. психологи ответили прямо: идея, что AI однажды заменит человеческие отношения, «совершенно не поддерживается исследованиями», а замена друзей на AI может делать людям только хуже. давайте порассуждаем: 1) ИИ кентярик, который главный отличник во всем мире - это ложная рамка. калькулятор считает лучше всех. но это не убило математику. ни математиков, ни тем более меня хаха - да, люди точно сэкономили миллионы часов на арифметике, но пришли к чему-то новому = продвинулись дальше скипнув тягость счёта 2) смысл почти никогда не в том чтобы быть лучшим из лучших, Марк. люди бегают по утрам не потому что хотят стать самым быстрым человеком (оно им и не надо) смысл бега в отношении с собственным телом и Эго - я вчерашний против себя сегодняшнего. смыслов там найти можно массу и этого ИИ не забирает, потому что это не про сравнение с внешним опасность не в том что ИИ будет лучше - опасность в том сохранишь ли ты зоны где важен процесс, а не результат. а это уже твой личный выбор, не его калькулятор не заставлял разучиться считать. люди выбрали сгрузить эту ношу, потому что им было не дорого. устный счёт жив у тех кто хочет. с ИИ так же. он не отнимет мою самостоятельность если я осознаю зачем и что спрашиваю у него + оставлю зоны где думаю сам. я же не балванчик безмозглый 🚬 сегодня ИИ пока еще как спарринг, а не как оракул. оракул даёт ответ -ты слепо берёшь спарринг даёт сопротивление -ты становишься сильнее вся разница в одном споришь ли ты после ответа или просто хаваешь весь сегодняшний разговор я дёргал Клод за формулировки, ловил на удобных обобщениях, не давал увести в водичку -это и есть та мышца, атрофии которой я бы не хотел. но alert moment: всем сегодняшним родителям с неокрепшими умами советую задуматься не делайте ИИ единственным другом - который во всём лучше все знает и в любую секунду дает верный ответ. не потому что он плох. потому что человеку свойственно ошибаться ну и на шашлыки как он с тобой поедет, как он пиво пить будет смысл о котором я спрашивал -живёт в мелочах и любви которую мы кожанные мешки друг другу даем. в связях где другой равен тебе, а не превосходит. мозг в кармане это круто, но карман не должен стать головой🪨