ИИ оказался более продуктивным мошенником, чем человек. Пока все обсуждают, как искусственный интеллект пишет код лучше людей, делает иллюстрации и текст, исследователи выяснили, что куда более неприятным использованием новых технологий может стать то, что чат-боты способны вызывать доверие у незнакомцев. Учёные из четырёх университетов смоделировали один из самых распространённых видов интернет-мошенничества — так называемый «pig butchering», когда жертву неделями или месяцами втягивают в дружеское или романтическое общение, а затем убеждают вложить деньги в фальшивые криптоинвестиции. В эксперименте участники неделю переписывались либо с человеком-мошенником, либо с ИИ, не подозревая об этом. По итогу почти половина испытуемых выполнила просьбу ИИ скачать приложение, тогда как человеку доверились менее 20%. Участники оценили уровень доверия к ИИ выше, чем к реальному человеку, и отправили ему около 80% всех сообщений. Исследователи пришли к выводу, что искусственный интеллект способен эффективнее формировать эмоциональную связь. Получается, что мошенники уже совсем скоро могут быстро перейти на массовую автоматизацию. И если раньше нужны были колл-центры, люди, то в ближайшем будущем будет достаточно ИИ, который тщательно, неделями, будет выстраивать отношения, а мошеннику будет достаточно подключиться, когда дело коснётся денег. В таком случае схемы могут стать дешевле, масштабнее и сложнее для обнаружения. Мы уже писали про то, что ИИ может поменять политические взгляды, да даже в большой галлюцинации может заставить человека убить себя. Было логично и то, что он может обманывать. И делает это убедительнее человека. Казалось бы, именно тут должна была решать эмпатия, но технология умело её копирует. В эпоху экономики внимания одной из главных валют становится доверие. И ключ к этому доверию оказался чертовски дёшев. Заботиться о будущем нужно начинать уже сейчас. К слову, теперь всё встало на свои места, вот как минимум одна причина, почему использование ИИ хотят сделать отягчающим обстоятельством. @lobushkin