OpenAI раскрыла созданный РФ фиктивный исследовательский институт, который выдавал себя за израильский и распространял антиукраинские материалы — Ynet и Fake Reporter Компания OpenAI на днях выявила и заблокировала российскую сетевую операцию влияния, в которой с помощью ChatGPT был создан фиктивный сайт исследовательского института, позиционировавшего себя как израильский. Сайт института распространял материалы и результаты фейковых исследований в поддержку России и против Украины и Евросоюза. По данным OpenAI, участники операции, предположительно находившиеся в России, использовали VPN и общались с ChatGPT на русском языке. Они просили модель создавать статьи и комментарии с пророссийскими тезисами, но формулировать их так, чтобы по тексту нельзя было определить, что за публикациями стоят русскоязычные авторы. Фиктивная организация в разное время называлась International Anti-Corruption Institute (IAAI) и International Burke Institute (IBI). Она представлялась исследовательским центром, основанным в Израиле, и имела собственный сайт с «исследованиями», списком «экспертов» и международными рейтингами. На сайте среди связанных с институтом экспертов назывались, в частности, Фрэнсис Фукуяма и Ноам Хомский. Однако проверка OpenAI показала, что 34 из 36 опубликованных там статей, приписанных различным экспертам и ученым, были скопированы из других источников. Например, один из материалов о китайско-пакистанском инфраструктурном проекте был взят из публикации Cambridge University Press, но размещен под другим авторством. Институт также создал собственный «индекс суверенитета», в котором Россия получила аномально высокие оценки, а США, Германия, Франция и другие европейские страны оказались значительно ниже. В результате была создана полноценная инфраструктура для легитимизации дезинформации: пророссийский пост мог ссылаться не на очевидно пропагандистский ресурс, а на «исследование» организации с профессионально выглядящим сайтом и внушительным списком экспертов. Сама операция, по оценке OpenAI, не получила значительного охвата. Однако компания считает показательным сам механизм: ИИ позволяет значительно быстрее и дешевле создавать статьи, комментарии и публикации, поддерживать единый набор тезисов и одновременно маскировать происхождение авторов. После расследования OpenAI заблокировала связанные с кампанией аккаунты. По данным CNBC, операцию обнаружил Бен Ниммо, возглавляющий в OpenAI направление по выявлению злоупотреблений ИИ в информационных кампаниях. Израильский исследовательский проект по борьбе с дезинформацией и подстрекательствами в сети Fake Reporter предупреждает, что подобная технология представляет особую угрозу в преддверии выборов. В организации называют нынешнюю кампанию в Кнессет первыми израильскими выборами «эпохи ИИ»: политический контент теперь можно массово и быстро адаптировать под конкретные группы населения и даже отдельных пользователей, тогда как регулирование и инструменты обнаружения дезинформации пока существенно отстают от возможностей технологии. Подписаться на канал: Первый Дан | Израиль | Новости | Мнения