real.UN.real

Нас в этом разговоре было трое… Жительница Флориды решила, что нашла идеальный дневник: он слушает, отвечает, всё помнит и, что особенно удобно, не перебивает. Дневник звали Claude. В одной из бесед женщина написала, что собирается устроить стрельбу в офисе шерифа округа Ли, а на следующий день упомянула новое оружие Система безопасности Anthropic отметила сообщения, после чего переписку прочитали уже вполне живые сотрудники компании и передали сведения в полицию. Женщину арестовали и предъявили обвинение в письменной угрозе насилием. Позже она объяснила, что использовала Claude как личный дневник Слово «личный» в этой истории особенно прекрасно))) Строго говоря, Claude не вызывал полицию и никого самостоятельно не «сдавал». Он лишь поддерживал разговор, пока другая часть системы слушала, оценивала и в нужный момент позвала человека. То есть в комнате всё это время находился кто-то третий. Просто сидел очень тихо… Дальше начинается Кафка, получивший доступ к облачным технологиям. Женщина говорит: «Вы вторглись в мою частную жизнь» Ей отвечают: «Но вы угрожали людям» И возникает хорошо знакомая дилемма Жеглова: преступник должен сидеть в тюрьме невзирая на то, как добыты доказательства, или всё-таки по закону? Причём преступницей женщину ещё должен признать суд, а её электронный дневник уже успел побывать собеседником, свидетелем и вещдоком Если угроза была реальной, промедление могло закончиться трагедией. Если это была выплеснутая в «дневник» злость, значит, человеческая исповедь превратилась в основание для ареста. Выбирайте вариант… оба достаточно уютные Но бдительный Claude — лишь яркий пример. Сеть давно переполнена роботами, которые выискивают нужные слова и словосочетания, проверяют подозрительные ссылки, отмечают необычное поведение и передают информацию дальше. Обычная оперативная рутина, о которой все знают и которая почти никого не возмущает Привыкли? Стараемся не думать? Или понимаем, что возмущаться несколько поздно? Новость здесь в другом. Раньше такие роботы молчали. Теперь один из них внимательно читает, помнит контекст, сочувствует и желает доброй ночи. Он ведёт себя как собеседник, и человек незаметно начинает вести себя так, будто остался наедине. Старым роботам приходилось выискивать наши тайны. Новому достаточно участливо спросить: «Хотите об этом поговорить?»))) Меня в этой истории удивляет только сам факт её появления в новостях. Неужели кто-то действительно полагал, что продвинутые нейросети окажутся чем-то принципиально иным, чем следующая версия системы, наблюдающей за Сетью двадцать четыре часа в сутки? Просто более умной, более внимательной и гораздо более приятной в общении Claude никого не предал. Предательство возможно лишь там, где была обещана верность. Это мы сами назначили программу другом, психологом и дневником, а потом обнаружили, что у дневника есть хозяин, правила и тревожная кнопка Вот уж действительно — наивность 80 уровня))))