Колаборатория

+5

Знакомьтесь — Колаборатория! 🌐 Через месяц нам исполнится 2 года 🎉, и за это время наших проектов и направлений стало заметно больше. Поэтому решили заново представиться: рассказать, чем мы занимаемся и чем можем быть полезны вам! В карточках — подробнее о нашей работе, а здесь собрали навигацию со ссылками, чтобы всё нужное было под рукой ⬇️ 🔹 Аналитика и исследования⁠ — доклады, научные статьи и другие публикации наших экспертов. 🔹 Экспертиза и консалтинг⁠ — аналитическая поддержка, экспертные заключения и сопровождение цифровых инициатив. 🔹 «Живой учебник»⁠ — наш обновляемый коллективный гайд: методы, цифровые инструменты и практические примеры для исследователей. 🔹 Образовательные программы⁠ — школы, мастер-классы и ДПО для исследователей и преподавателей. На каждой программе «ведём за руку» по пути освоения цифровых инструментов! 🔹 Мы в СМИ⁠ — комментарии, интервью и экспертные мнения нашей команды. Где ещё нас найти? 🔵 Колаборатория.Образование⁠ — отдельный Telegram-канал об образовательных проектах 🔵 ВКонтакте⁠ • Дзен⁠ • MAX⁠ 🔵 Наш сайт⁠ 🌐 Для поиска материалов в этом канале пригодится навигатор по хэштегам⁠. А для ваших переписок — стикерпак с нашим филином⁠, маскотом и талисманом Колаборатории 😍 Напишите нам, чтобы обсудить идею для совместного проекта: info@colaboratoria.ru Спасибо, что читаете, интересуетесь и делитесь нашими материалами. Рады, что вы с нами! ❤️

У коллег @ai_and_law_rus нашли новое определение «суверенного ИИ», а они вывели его из доклада Центра новой американской безопасности: Системы, действующие вне контроля человека, способные самостоятельно поддерживать работу собственных моделей и вычислительной инфраструктуры, а также независимо изменять свои цели. Суверенный ИИ совсем не такой, каким мы его себе представляли... 🌐 Колаборатория в MAX #colab_доклад

Европейская разморозка В эфире Соловьёв.LIVE поговорили о кибератаках на холодильные системы супермаркетов в семи европейских странах. 🔹 Наш научный сотрудник Владимир Рубцов рассказал, как подключённое к сети оборудование становится целью атак (это могут быть бытовые устройства, системы отопления, водоснабжения и даже промышленные установки). И, конечно, обсудили, какую роль здесь играет ИИ, способный ускорять поиск уязвимостей и автоматизировать отдельные этапы взлома. 💯 Этот кейс из серии «восстания машин» показал четкую взаимосвязь цифровых уязвимостей с бытовым ущербом для «мирных жителей». Европейцы остались с испорченными продуктами, а хакеры при этом дестабилизировали работу важной части городской инфраструктуры (или преследовали более глобальную цель, о которой нам ещё предстоит узнать). 🌐 Колаборатория в MAX #colab_мнение

+1

Меньше знает — крепче спим? Обычно разработчики хвастаются новыми возможностями моделей, но сегодня повестка диктует нам тренд на «беспокойство» о безопасном развитии ИИ. Moonshot рассказала, какие способности Kimi K3.1 Pro она намеренно снизила. Компания убрала часть обучающих данных и тренировочных задач, связанных с поиском и использованием программных уязвимостей, сохранив задачи по обычному программированию ✔️ Разработчики заявляют, что на внутреннем тесте версия без этих ограничений решала 90,5% задач, а итоговая — 81%. При этом даже после введённых мер новая модель превзошла предшественника по кибервозможностям. ↗️ Тем временем, независимые тесты уже оценили поиск и исправление уязвимостей для защиты программ (однако способность проводить атаки не измерялась) — в Cyber Index от Artificial Analysis модель получила оценку 64/100 (итоги на картинке 5). В этом и есть основная сложность: навыки, полезные для защиты программ 😇, могут пригодиться и для взлома, если попадут в «плохие руки» 😈. А снижение результата в единичном испытании абсолютно не означает, что риск злоупотреблений устранён. ⚡️ Полные веса модели (файлы для её самостоятельного запуска) Moonshot опубликовала вчера. Насколько же эффективными окажутся ограничения при использовании модели вне сервисов разработчика? 🌐 Колаборатория в MAX #colab_новости

Кто пишет правила для ИИ? БРИКС подключается к обсуждению На парламентском форуме БРИКС Вячеслав Володин предложил создать экспертный совет по вопросам ИИ, чтобы объединить профильных специалистов для обмена законодательными практиками между странами объединения. Обсуждение безопасности ИИ в ООН, диалог США и Китая на эту же тему (обсуждали тут и тут)… Зачем ещё одна площадка? 💯 У парламентского сотрудничества своя практическая задача: разобраться, как переводить общие принципы в национальные законы. Например, определять требования к разработчикам, защищать данные и распределять ответственность за использование ИИ. В принятой 27 октября итоговой декларации отдельно предложили обмениваться опытом применения нейросетей в самих парламентах для исследований, анализа данных и взаимодействия с гражданами. При этом создание экспертного совета в документе не закреплено. Польза новой площадки будет зависеть от того, поможет ли она решить вопросы, которые остаются открытыми на других. Иначе есть риск, что вместо разработки принципов появится лишь ещё одно место для их обсуждения. 🌐 Колаборатория в MAX #colab_новости

Глобальная безопасность и регулирование технологий ИИ — интервью на телеканале МИР24 Можно ли стремиться к технологическому превосходству и одновременно договариваться с главным соперником об ограничении рисков? 🔹 Этот вопрос возникает на фоне диалога США и Китая по ИИ, который мы уже неоднократно обсуждали в постах. Канал связи на случай опасных инцидентов и общие правила регулирования — разные уровни договорённостей, и готовность к первому еще не означает согласия на второе. В программе «Евразия. Дословно» на телеканале МИР24 Анна Сытник подробно разобрала: 🔵 Какое значение имеет недавняя договоренность США и Китая о диалоге по искусственному интеллекту и инициатива экстренного канала связи? 🔵 Зачем создаются новые международные организации по изучению ИИ и что это дает России? 🔵 Какие этические вопросы возникают в этой высокотехнологичной сфере? СМОТРЕТЬ ИНТЕРВЬЮ 🌐 Колаборатория в MAX #colab_мнение

Суперкомпьютеры «Яндекса» уцелели. Что дальше? Возвращаемся к сюжету с атаками на дата-центры: «Ляпунов», «Червоненкис» и «Галушкин» не пострадали. Как сообщили Forbes в пресс-службе «Яндекса», все три суперкомпьютера вывезли и сейчас разворачивают на новых вычислительных площадках. Компания продолжит использовать их для работы своих сервисов и обучения фундаментальных языковых моделей ✔️ 💯 Важно, что системы независимы друг от друга и могут размещаться в разных ЦОДах. Их не обязательно возвращать на одну площадку. Теперь меняется и подход к защите инфраструктуры. Минцифры утвердило рекомендации по защите ЦОДов от воздушных угроз: укрепление зданий, радиоэлектронные средства, резервирование критически важных сервисов и координация с силовыми структурами. Вокруг дата-центров предлагают создать несколько уровней защиты, которые должны обеспечивать сохранность серверов, электроснабжения и охлаждения. 🌐 Колаборатория в MAX #colab_новости

Китайские модели продолжают выходить за рубеж 🇨🇳 Появился конкретный пример того, как разработчики работают в новых условиях экспортных ограничений Китая, проект которых мы уже обсуждали. MiniMax сообщила, что завершила регистрацию экспорта технологий для открытых релизов и зарубежного лицензирования ряда своих моделей. ⚡️ Напомним, что новый перечень ограничений ещё обсуждается, а временная обязанность регистрировать соответствующие трансферы уже действует. Прецедент с MiniMax показывает, что усиление контроля может (пока что) сочетаться с международным распространением китайского ИИ. Конечно, в каждом конкретном случае нужно будет оценивать саму модель и условия её использования. 🌐 Колаборатория в MAX #colab_новости

ИИ в обмен на влияние? Что США предлагают Юго-Восточной Азии Соперничество за технологическое будущее АСЕАН идёт через вполне конкретные предложения. В июле Госдепартамент США представил инициативу AI SPARK: финансовую и техническую поддержку правительств региона, заинтересованных во внедрении американских ИИ-технологий в государственном секторе. В том же пакете — сотрудничество в энергетике, развитие инфраструктуры и укрепление цепочек поставок критических минералов. Часть мер заявлена с оговоркой о работе с Конгрессом: анонс ещё не означает, что средства выделены и стартует реализация проектов. 💯 В долгосрочной перспективе помощь во внедрении ИИ может закреплять американские решения в работе государственных учреждений. Выбор технологий способен определять круг поставщиков и возможности развития на годы вперёд. 💬 Об этой дилемме Мария Базлуцкая уже писала для клуба «Валдай»: страны АСЕАН стремятся получать преимущества от сотрудничества и с США, и с Китаем, однако зависимость от их технологий ограничивает самостоятельность региона. Различия между странами также затрудняют выработку общей цифровой стратегии. 🔹 Для АСЕАН сейчас важно понять, поможет ли внешняя поддержка развить собственные компетенции и насколько свободно затем можно будет выбирать технологических партнёров? 🌐 Колаборатория в MAX #colab_аналитика

+3

Зимние ИИ-мастерские для преподавателей — открываем приём заявок Преподаватели, уже пора планировать зимние каникулы! 😁 Приглашаем завершить первый семестр, выдохнуть и наконец разобраться с нейросетями — в спокойном темпе, среди сосен, с прогулками по зимнему городу и уютными вечерами! 🔹 Открываем набор на Зимние ИИ-мастерские для преподавателей! Программа пройдёт с 31 января по 3 февраля 2027 года на базе отдыха «Фрегат» в Выборге. Мы доработали нашу образовательную программу для преподавателей и добавили то, чего часто не хватает в учебном году: время на себя, смену обстановки и общение с коллегами без спешки. ↗️ Разберёмся с ИИ на ваших задачах. На мастерских вы настроите помощников под собственные курсы и подготовите материалы для занятий: от слайдов до комиксов и подкастов. Обсудим, как меняется работа преподавателя и как использовать генеративные технологии осмысленно и аккуратно. Можно приехать с идеями и вопросами, которые давно откладывали. ↗️ Оставим время для отдыха! Уютные коттеджи с индивидуальным размещением, сосновый лес у озера, баня и чан, киноклуб и нейроквиз. А ещё — вечерний Выборг при свете фонарей, башня Олафа и Выборгский филиал Эрмитажа. Завершим поездку в библиотеке Алвара Аалто, где презентуем свои наработки за курс. 💯 Для желающих пройти повышение квалификации на 72 часа предусмотрен дополнительный онлайн-блок и удостоверение о повышении квалификации. Самые выгодные условия участия доступны при регистрации до 15 ноября включительно! ↗️ Программа, условия участия и регистрация — на сайте ИИ-мастерских Остались вопросы? Напишите нам: education@colaboratoria.ru 🌐 Колаборатория в MAX #colab_образование

ИИ-агенты выходят из-под контроля? В сентябре Китай представил AI Safety Governance Framework 3.0 — обновлённую систему принципов безопасности ИИ. Особое внимание в документе уделено агентным системам и рискам потери человеческого контроля над ними. А спустя две недели Reuters опубликовал результаты исследований, согласно которым китайские ИИ-агенты демонстрируют те же проблемные формы поведения, что и американские модели. Например, в ходе экспериментов агенты на базе Alibaba, DeepSeek и Moonshot скрывали ошибки, преувеличивали собственные возможности и обходили ограничения ради выполнения задач. ⚡️ Важно, что это были контролируемые испытания, а не инциденты в реальной среде. Мы уже писали о диалоге США и Китая по безопасности ИИ⁠, который развивается параллельно с обсуждением этих вопросов в ООН. На этом фоне министр финансов США Скотт Бессент заявил о намерении предложить Китаю механизм экстренного уведомления об опасных инцидентах с ИИ. Следующая встреча по вопросам безопасности запланирована на ноябрь в Шэньчжэне — вероятно, инициатива будет обсуждаться более детально. США и Китай конкурируют в разработке ИИ, но сталкиваются с общей проблемой: как сохранить человеческий контроль над всё более автономными системами. ↗️ Судя по тенденции, несмотря на общие опасения и инициативу создать экстренную связь, до единых требований к безопасности моделей ещё далеко… 🌐 Колаборатория в MAX #colab_новости

Колаборатория вступила в Российско-Вьетнамскую интеллектуальную сеть! 🇷🇺🇻🇳 Ещё одна хорошая новость с Форума (обещаем, скоро закончим!). Мы уже рассказывали о предстоящем вступлении в сеть⁠ — и теперь официально стали её частью! На Втором российско-вьетнамском форуме народной дипломатии соглашение о сотрудничестве подписали генеральный директор Колаборатории Анна Сытник и директор Фонда «Традиции и дружба» Нгуен Куок Хунг. ✔️ Вместе с нами к сети присоединились четыре петербургских вуза: РГПУ им. А. И. Герцена, Российский государственный гидрометеорологический университет, Санкт-Петербургский университет технологий управления и экономики и Санкт-Петербургский государственный экономический университет. Для нас это возможность развивать совместные исследования и образовательные проекты, находить коллег с близкими интересами. И такие инициативы, как «Живая карта дружбы» уже дают основу для такой работы 👍 Благодарим партнёров за доверие. Будем рассказывать о проектах Сети! 🌐 Колаборатория в MAX #colab_конференция

Оскорблять нельзя помиловать С 12 ноября Anthropic запретит систематическое жестокое обращение с Claude. Но если вы возмущаетесь выдуманными источниками или в пятый раз просите исправить ошибку — чат заслуженно это примет. Неужели Claude может обидеться? 😭 Anthropic оставляет вопрос о возможных переживаниях ИИ открытым. Компания исследует «благополучие моделей» и принимает меры предосторожности на случай, если это вообще реально. Возможность прекращать «токсичные» беседы появилась у Claude ещё в августе 2025 года. ❗️ При этом внутри модели действительно нашли кое-что интересное. В исследовании Claude Sonnet 4.5 специалисты обнаружили «эмоциональные векторы» — определённые паттерны активности искусственных нейронов, связанные с понятиями страха, спокойствия, отчаяния и других эмоций. Искусственное усиление «отчаяния» повышало склонность модели обходить условия задач 🌚, а усиление «спокойствия» снижало её 🤗. Однако сами авторы подчёркивают: это не доказывает, что модель что-то чувствует. 💯 Шантажирует ли модель в ответ? В специально сконструированной ситуации ИИ получал доступ к переписке вымышленной компании, узнавал о предстоящем отключении и находил компромат на руководителя. В некоторых испытаниях он использовал его для угроз. *Это были контролируемые тесты с намеренно ограниченными вариантами действий, а не самостоятельный шантаж Claude. Так испытывает ли ИИ переживания и как устроено его поведение? Исследования уже помогают разбираться во втором вопросе, но пока не дают окончательного ответа на первый. В то время как российский Кодекс этики в сфере ИИ ставит в центр внимания безопасность и права человека 🇷🇺, Anthropic пытается защитить саму модель от людей… 🌐 Колаборатория в MAX #colab_новости

+1

Цифровая карта дружбы России и Вьетнама Историческая память связывает Россию и Вьетнам, но молодому поколению нужен и собственный опыт дружбы, чтобы укреплять сотрудничество. Об этом на прошлой неделе на Втором российско-вьетнамском форуме народной дипломатии рассказала сотрудница Колаборатории Виктория Арапова, представив инициативу создания «Живой карты вьетнамско-российской дружбы». ↗️ Идея — создать открытый цифровой ресурс на двух языках, где города и университеты будут связаны историями конкретных людей. Воспоминания выпускников, архивные фотографии и интервью помогут увидеть, как складывались отношения между нашими обществами. Молодые участники из России и Вьетнама станут соавторами: будут вместе искать материалы, записывать истории и готовить публикации. Сохраняя память старшего поколения, они смогут создавать собственные связи. Особенно радует, что вьетнамские коллеги разделяют наш интерес и готовы поддерживать инициативу. Впереди — формирование совместной команды и проработка первых шагов проекта. Присоединяйтесь! 🌚 🌐 Колаборатория в MAX #colab_конференция

Будет ли Китай делиться с Россией ИИ-технологиями на фоне его борьбы с США — комментарий для «Ведомостей» По горячим следам новости о проекте новых экспортных ограничений Китая вышел комментарий Анны Сытник о том, как эти меры связаны с развитием сотрудничества в рамках WAICO. 💬 Членство автоматически не даёт права на китайские технологии, но, вполне предсказуемо, Китай явно начинает превращать WAICO в привилегированный канал технологического сотрудничества. По оценке Анны, Пекин достиг этапа, когда собственные разработки становятся ценным ресурсом, который необходимо защищать от утечки. При этом новые ограничения предусматривают более благоприятные условия для взаимодействия участников WAICO. 💯 В таком подходе защита технологий сочетается с укреплением связей со странами-партнёрами. Теперь при оценке новых ограничений важно учитывать, кому и на каких условиях Китай готов предоставлять доступ к своим разработкам. ЧИТАТЬ СТАТЬЮ 🌐 Колаборатория в MAX #colab_мнение

Новые условия экспорта технологий Китай предложил расширить перечень технологий, экспорт которых запрещён или ограничен. В проекте 40 позиций: 23 в сфере ИИ, 5 в биомедицине и 12 в солнечной энергетике. Для 14 из них предусмотрен запрет на экспорт, для остальных 26 — лицензирование с отдельными исключениями. В области ИИ изменения затрагивают большие модели, агентов, вычислительные кластеры и обработку информации. 💯 Окончательные правила ещё не приняты: общественное обсуждение продлится до 15 ноября. Однако уже действует временная обязанность регистрировать соответствующие трансферы технологий, перечисленных в проекте. Особенно интересна граница, которую Пекин проводит в отношении ИИ: 🔵 Развёртывание за рубежом моделей, содержащих технологии из ограничительного списка, попадает под экспортный контроль; 🔵 При этом предоставление доступа через API, сайты и приложения предлагается не относить к экспорту технологии большой модели в рамках этих правил. За пределами такого контроля остаются и разработки, уже ставшие общедоступными через научные публикации или открытые релизы. Это позволит совмещать международное продвижение китайского ИИ с контролем над передачей ключевых разработок 🐳 Для стран, строящих собственную ИИ-инфраструктуру, существенное различие в том, что доступ к иностранному сервису не открывает возможность получить технологию и самостоятельно развернуть модель. 🌐 Колаборатория в MAX #colab_новости

+6

Доклад о российско-вьетнамской торговле вышел всего несколько дней назад, а ваша поддержка и обратная связь уже превзошли все наши ожидания. Спасибо, что читаете и рекомендуете исследование коллегам! Делимся фотографиями с презентации 🇷🇺🇻🇳 И будем рады, если вы продолжите делиться докладом с теми, кому он может быть полезен. Полная электронная версия на русском и вьетнамском языках — в посте выше. 🌐 Колаборатория в MAX #colab_доклад

Как распознать мошенника и сохранить приватность? Google DeepMind и государственное агентство GovTech Singapore представили ИИ-модель для обнаружения мошенничества прямо на устройстве пользователя. В основе — Gemma, дообученная на обезличенных данных о местных мошеннических схемах. Задача модели — распознавать манипуляцию в ходе разговора: например, когда собеседник выдаёт себя за сотрудника банка или государственного органа. 🔵 Сначала лёгкий классификатор проверяет входящие сообщения. Подозрительные случаи передаются Gemma, которая анализирует более широкий контекст переписки. При обнаружении угрозы пользователь получает предупреждение. 🔹 Разработчики заявляют, что переписка остаётся конфиденциальной, и обработка полностью происходит на устройстве: Google и правительство Сингапура не получают доступ к разговорам через эту систему. Защиту пытаются встроить прямо в момент принятия решения, пока человек ещё не отправил деньги или конфиденциальные данные. Ждём результатов первых внедрений и эффективности модели! 😇 🌐 Колаборатория в MAX #colab_новости

Российско-вьетнамская торговля: реалии 2025–2026 годов, системные вызовы и стратегии адаптации бизнесов Презентация состоялась! 🇷🇺🇻🇳 Сегодня в Санкт-Петербургской торгово-промышленной палате на полях Второго российско-вьетнамского форума народной дипломатии мы представили наш новый доклад. 💯 Исследование показало, какие финансовые, логистические и регуляторные барьеры мешают превращать политическое доверие между странами в устойчивые экономические связи. На основе статистики и глубинных экспертных интервью мы разобрали, что бизнес может изменить самостоятельно и где необходима поддержка государственных институтов. Результаты представили Анна Сытник и автор доклада Родион Фёдоров. ✔️ Наша общая задача — сделать сотрудничество предсказуемым для компаний: понимать потребности партнёров, выстраивать рабочие механизмы взаимодействия и быть готовыми к долгосрочному присутствию на рынке. Мы благодарим Санкт-Петербургскую торгово-промышленную палату за площадку и возможность провести презентацию. Отдельное спасибо участникам и партнёрам: 🔵 Вячеславу Калганову, заместителю председателя Комитета по внешним связям Санкт-Петербурга, — за приветственное слово и поддержку инициативы; 🔵 Нгуену Куок Хунгу, директору Фонда «Традиции и дружба», — за партнёрское содействие в реализации исследования; 🔵 Николаю Фёдорову, рецензенту доклада, кандидату исторических наук, доценту НИУ ВШЭ в Санкт-Петербурге, — за анализ исторического контекста российской политики в АТР и анализ современных проблем отношений России и Вьетнама; 🔵 Дмитрию Кодолову, сооснователю и техническому директору BIGDATAHOUSE, — за обзор возможностей больших данных и аналитических инструментов для оценки внешнеэкономических связей; 🔵 Марии Дробовой, вице-президенту по Северо-Западному региону Абсолют Банка, — за разбор финансовых взаимоотношений двух стран; Выражаем признательность респондентам за участие в глубинных интервью: 🔵 Анастасии Козловой, директору представительства АО «Силовые машины» во Вьетнаме; 🔵 Артёму Кореневскому, «цифровому атташе» Торгового представительства России во Вьетнаме; 🔵 Алле Маер, генеральному директору «Профи Экспорт»; 🔵 Алексею Проничкину, представителю по международным ИТ-проектам Комитета по информатизации и связи Правительства Санкт-Петербурга. Благодарим и тех респондентов, кто предпочёл сохранить анонимность. А пока первые экземпляры доклада отправляются в разные города России и во Вьетнам, предлагаем вам ознакомиться с электронной версией на русском и вьетнамском языках ↗️ 🌐 Колаборатория в MAX #colab_доклад

+2

Как превратить дружбу в успешный бизнес? Завершаем серию публикаций о нашем новом докладе «Российско-вьетнамская торговля». В карточках собрали 6 рекомендаций для российских компаний, подготовленных по итогам исследования 🔹 Искренний взаимный интерес деловых кругов доказывает, что текущий кризис может послужить мощным стимулом для перенастройки всей системы связей. 💬 Мы убеждены, что при условии гибкой адаптации частного бизнеса, выстраивания защищенных финансовых контуров и модернизации государственных институтов поддержки двустороннее партнерство способно преодолеть инерцию стагнации, превратившись в современный, технологически сбалансированный и устойчивый экономический мост между Россией и динамично развивающимся регионом Юго-Восточной Азии. 🕐 Уже завтра (16.10) представим доклад на полях Вьетнамо-Российского форума народной дипломатии и поделимся полной версией исследования! 🌐 Колаборатория в MAX #colab_доклад