FSCP

У нас тут после матокалипсиса в чате продолжают хоронить человечество, поэтому сегодня пост про проблему подробнее. Человечество прям сейчас столкнулось с неожиданной проблемой. Думали, что если ИИ возьмёт на себя всю рутину — например, рисовать картинки, писать литературу, снимать фильмы и кодить — люди с радостью станут курьерами, грузчиками и менеджерами ИИ. Может, даже, каждый будет вести блог. Уже видно, что утопия немного не сбылась ) Главная проблема в том, что ИИ уничтожает интеллектуальное сообщество. У нас тут эссе про это (мысленный эксперимент, не численная научная работа), разбираем. — Сначала там мрачно: профессиональное общество деградировало. Специалисты перестали обсуждать фундаментальные вещи: все разговоры свелись к тому, как правильно писать промпты. Люди не учатся глубоко и систематически мыслить, потому что машины теперь думают за нас. — Что ещё страшнее, исчез смысл вносить вклад в общее дело. Зачем писать обучающую статью со сложным решением проблемы? Её никто не прочитает — ну, кроме ИИ. А он сожрёт и выдаст ваше решение другому человеку, даже не упомянув вас. У спеца остается только личный сад, но больше не надо идти на рынок, чтобы обмениваться идеями с другими людьми. Зрители пропали. — Та же математика — это нифига не гении-одиночки. Там нужна общая база знаний и мотивация. Мотивация бывает внутренней (потому что самому интересно) и внешней (чтобы принести пользу другим, получить признание, славу или уважение коллег). Внутренняя мотивация — просто эмоция, а эмоции быстро угасают. Нужна ещё внешняя мотивация — зрители, сообщество, тщеславие. Вы публикуете работу, кто-то опирается на неё, цитирует вас, благодарит — это подтверждает, что вы делаете что-то полезное, и дает силы работать дальше. Любому человеку нужно, чтобы его труд был кому-то нужен. — Сейчас есть области, где ИИ лучше людей. Уже точно лучше доказывает теоремы, местами лучше пишет научные статьи и учебники (привет, эксперимент Гарварда), и вклад человека становится излишним. Нет смысла писать книгу, если нейросеть напишет её лучше. В целом — проблему подняли правильную, но почему-то экстраполируют общество линейно. Во-первых, ещё долго верхние проценты специалистов любой профессии будут вытеснять всех остальных, усиливая себя через ИИ. Во-вторых, мы, земляне, можем создавать новые типы сообществ и искать другую мотивацию. Тем не менее, пара научных работ в поддержку есть. Вот препринт про то, что ИИ делает с опенсорсом. Софт пишут маленькие команды, выкладывают свой труд бесплатно, получают взамен репутацию, внимание к себе, предложения о работе, контракты на консультации и иногда пожертвования. ИИ-агенты всего этого не делают и вообще бездушные ублюдки. В краткосрочной перспективе все в выигрыше. Поначалу качество и количество софта растут. В долгосрочной перспективе — коллапс. Порог качества для публикации возрастет, разнообразие программ сократится, а качество кода упадёт. Люди будут получать меньше пользы от экосистемы. Предлагают заставить ИИ донатить при поиске и славить создателей своей обучающей выборки. Тут прикол — если дать человеку ИИ, а потом отобрать, у него люто падает мотивация и растёт скука. В процессе ещё выяснилось, что если человек работает с ИИ постоянно, депривации нет, но скука всё равно медленно растет. ИИ делает учёных успешнее {...продолжить в источнике} _______ Источник | #Fourier_series