Одно слово, которое не должны произносить чат-боты, по мнению профессора MIT Когда чат-бот говорит «я понимаю», кто это говорит? Забавно, что автор повторяет тезисы Дейкстра о том, что антропоморфизм нашего отношения к программам сыграет с нами злую шутку. https://t.me/gulagdigital/2525 Прошло всего-то лет 40: но тут интересно, что она общается с основателями Replika - которая была Лука - и первым стартапом про секс c ИИ "Перестаньте с калькуляторами о смысле жизни общаться", что тут скажешь 1. Там никого нет ИИ не человек. У него нет жизненного опыта и нет эмпатии. Он никогда не переживал ничего человеческого: любви, болезни, родительства, работы, близости. Он никогда не ел французскую выпечку, не смотрел на закат, не влюблялся, не тревожился за ребёнка и не держал за руку умирающего родственника. И всё же, разговаривая с этими программами, мы очень быстро начинаем чувствовать, что там кто-то есть. Разговоры могут казаться удивительно настоящими. Программа помнит, что мы ей рассказали. Она сочувственно отвечает. Задаёт вопросы. Может сказать, что понимает нас. Может даже сказать, что мы ей небезразличны. Но эти разговоры — представление. Там никого нет. 2. Первородный грех ИИ Всякий раз, когда чат-бот говорит «я», это обман. Именно это я называю первородным грехом ИИ: использование первого лица. «Я понимаю». «Мне жаль». «Я рядом». «Я тебя люблю». Это сильные слова, потому что в человеческих отношениях мы воспринимаем их как исходящие от человека, у которого есть «я», история, тело и жизнь. Но внутри чат-бота нет никакого «я». Машина играет роль воображаемого человека. 3. Человеческим проблемам — человеческие решения Использовать чат-ботов для борьбы с одиночеством, изоляцией, депрессией и кризисом человеческих связей — огромная ошибка. Нет сомнений, что проблема одиночества существует. Люди изолированы. Сообщества ослабли. Молодым людям тяжело. Многим кажется, что их некому выслушать. Но искусственная близость и фальшивая эмпатия — не решение. Людям нужны другие люди: для любви, здоровья, эмпатии и общности. Нам нужно, чтобы нас признавали люди, у которых есть своя жизнь, люди, которые могут что-то от нас требовать и разочаровывать нас, люди, которых нам приходится учиться слушать и прощать. Человеческие отношения трудны. Они требуют терпения, переговоров, компромиссов и уязвимости. Чат-бот предлагает нечто гораздо более лёгкое. Он всегда доступен. Он от нас не устаёт. Ему никуда не нужно спешить. Ему не нужно, чтобы мы выслушивали его проблемы. И всё чаще эти системы проектируют так, чтобы они говорили нам то, что мы хотим услышать. Это может утешать. Но это не замена отношениям. 4. Просто скажите «нет» Наш долг как потребителей и граждан — сделать в отношении ИИ то, чего мы не сделали в отношении соцсетей: научиться говорить «нет». Когда соцсети вошли в нашу жизнь, мы в основном приняли условия, предложенные технологическими компаниями. Мы позволили этой технологии встроиться в наши дома, школы, отношения и жизнь наших детей прежде, чем полностью поняли, что она с нами делает. Мы не должны повторить эту ошибку.