AI_Reformer | Образованию нужен AIR

«Если бы я отвечал за образование, то перевернул бы класс». О том, как должна измениться школа в эпоху ИИ, рассуждает сооснователь DeepMind Демис Хассабис Я вижу, в том числе по собственным детям, как ИИ помогает списывать домашнюю работу и срезать путь. Так мы рискуем получить дефицит базовых навыков — еще до того, как дойдем до навыков работы с нейросетью. Тем временем государственная политика и образовательная система словно надеются: может быть, все это исчезнет? Не исчезнет. Нам придется разобраться, как извлечь из этого пользу. И начинать нужно уже со средней школы, а возможно, и с начальной. В школе нужно развивать способность выносить суждения, делать выбор, понимать, что хорошо, а что нет. Будет работа, с которой ИИ справится хорошо, и будет работа, для которой понадобятся человеческое суждение и вкус. Но именно этому сегодня в школе почти не учат. А для отработки базового материала пригодился бы персональный ИИ, который подстраивается под ученика. Удивительно, что мы до сих пор пытаемся учить всех одинаково. В классе приходится ориентироваться на среднего ученика. А что делать тем, кто отстает или уже ушел вперед? И тем и другим остается пожелать удачи. И почему мы ожидаем, что каждый учитель будет блестяще читать один и тот же курс? Я разговариваю с друзьями-учителями: каждый преподает одну и ту же школьную математику, каждый готовит собственные слайды. Зачем столько раз заново выполнять одну работу? У нас могли бы быть выдающиеся преподаватели — настоящие звезды лекционного формата. А ученики осваивали бы материал в своем темпе с помощью ИИ. Но из этого совершенно не следует, что глубокие предметные знания больше не нужны. Когда меня спрашивают, не становится ли бессмысленным образование в области компьютерных наук, мой ответ: конечно нет. Наоборот, нужно заниматься и компьютерными науками, и естественно-научными и инженерными дисциплинами. Когда-то мы программировали в машинных кодах, потом на C, затем на Python. Возможно, следующим языком станет английский. Но все равно нужно понимать, как проектировать системы и каковы хорошие практики разработки программного обеспечения. Человек с глубокими техническими знаниями сможет пользоваться новыми инструментами намного эффективнее. Более того, я считаю, что сейчас наступает время гуманитарных наук — философии, экономики. Если мы действительно входим в новую эпоху, нам очень понадобится такое мышление. Недостаточно построить более способные системы. Нужно осознанно решить, какое общество мы хотим с их помощью создать. Я всегда верил в междисциплинарную работу, а теперь верю в нее еще сильнее. ИИ может помочь человеку быстрее разобраться в другой предметной области. Это еще одна причина не замыкать разговор о новых технологиях внутри одной профессии. И образование не заканчивается школой или университетом. Нужно заниматься обучением, переобучением людей и обновлением программ. Никто пока не знает всех ответов. Ни руководители технологических компаний, ни ученые. Но это не значит, что ответов нет и их нельзя найти. Будущее не написано. Нам самим предстоит решить, каким оно будет. #readme

Терминал, который работает сам Если вы уже освоились с нейросетями и хотите запустить собственного ИИ-помощника, сайт или телеграм-бота, — придется разобраться с терминалом. Но для этого необязательно учить команды Linux. Warp — терминал уже со встроенным ИИ-агентом. Ему достаточно объяснить задачу обычными словами, а нужные команды он подберет и выполнит сам. Проверит результат, а если возникнет ошибка, попробует ее исправить. Допустим, вы арендовали VPS — компьютер в дата-центре, который работает круглосуточно. Пишете: «Помоги подключиться к серверу, настроить защиту и подготовить его к работе». Агент подберет нужные команды, поможет установить необходимые программы и проверит настройки. С повседневными задачами тоже поможет: найдет, куда пропало место на диске, наведет порядок в папке «Загрузки», сделает резервную копию или установит нужную программу. ChatGPT и Claude тоже умеют управлять компьютером и выполнять технические задачи. Но Warp специализируется именно на работе с терминалом. Здесь ИИ-агент встроен непосредственно в рабочую среду: он может выполнять команды, анализировать ошибки, работать с файлами и подключаться к серверам по SSH. Вы видите, что происходит, и можете вмешаться в любой момент. Сам терминал бесплатный. Для работы ИИ-агента можно подключить подписку ChatGPT, использовать собственный API-ключ или покупать кредиты по мере необходимости. Тариф Build стоит от $20 в месяц и включает 1500 кредитов на работу агента. Понимает запросы на русском языке и работает на Mac, Windows и Linux. #stack

Не читал, но подтверждаю. Википедию пытаются очистить от выдумок ИИ Примерно пятая часть новых статей и черновиков англоязычной Wikipedia в конце 2025 года могла быть написана с помощью ИИ. Причем нейросети не просто выдумывают факты, но и без зазрения электронной совести подкрепляют их ссылками на настоящие источники. Если раньше подделку можно было обнаружить по ссылке на несуществующую публикацию, то теперь нейросеть указывает реальную книгу или статью, но приписывает автору то, чего тот сроду не писал. Весной 2026 года англоязычная Wikipedia запретила использовать большие языковые модели для подготовки статей. Исключения оставили лишь для редактуры и переводов. За очистку энциклопедии взялись волонтеры WikiProject AI Cleanup. Они проверяют тексты на характерную нейросетевую стилистику, сверяют утверждения с источниками и следят за подозрительной активностью редакторов. Если кто-то за несколько минут публикует несколько огромных статей, есть повод присмотреться В начале 2026 года, по оценке детектора, доля таких статей и черновиков снизилась до 15–16%. Правда, пока неизвестно, редакторы стали реже обращаться к нейросетям или сами нейросети научились лучше скрывать свое присутствие. #commit

«Чтобы понять природу умной игрушки, детям нужно ее разобрать» Мы учим детей не разговаривать с незнакомцами. А потом покупаем им игрушку, которая сама заводит разговор и всегда готова выслушать. И все это выглядит настолько дружелюбно, что за милой мордочкой уже не видно ни алгоритмов, ни компании, которая на этом зарабатывает. Дети начинают воспринимать ИИ как существо, которое думает, понимает и даже испытывает чувства. Хотя перед ними технология, созданная людьми. Об этой опасности рассказывает Рэнди Уильямс, исследовательница Университета Карнеги — Меллона, которая изучает взаимодействие детей с искусственным интеллектом. Исследования показывают, что дети могут оказаться уязвимыми перед манипуляциями, неподходящим контентом и угрозами информационной безопасности. Даже образовательные ИИ-игрушки вызывают вопросы. Похоже, их создают так, чтобы как можно дольше удерживать внимание ребенка, завоевывать его доверие и зарабатывать на этом. Но у детей есть замечательная привычка. Им нравится выяснять, как все устроено. Я снова и снова наблюдала, как они задают ИИ совершенно нелепые вопросы, проверяют его на прочность и пытаются понять, что это за машина перед ними. Так почему бы не использовать игру, чтобы помочь детям разобраться в ИИ? Что, если бы они могли разбирать и собирать умные игрушки, словно обычный конструктор? Эта идея легла в основу робота PopBot, которого я создала из деталей LEGO. Он похож на обычную умную игрушку, но позволяет детям самим экспериментировать с ИИ и разбираться, как тот работает. Например, дети учили робота играть в «камень, ножницы, бумага». Постепенно он начинал предугадывать их ходы, и победить становилось все труднее. Один мальчик так расстроился, что я предложила ему хитрость. А что, если научить робота неправильным правилам? Мальчик смог изменить поведение робота. Но если мы можем научить одну машину неправильным правилам, откуда нам знать, что Alexa обучена правильным? Этот вопрос помог ему увидеть, что ответы ИИ нельзя принимать на веру. За ними стоят данные и правила, которые задают люди. А люди могут ошибаться. Детям нужен взрослый, который сядет рядом, поможет исследовать устройство, проверить границы его возможностей, усомниться в ответах и, главное, не побоится изменить правила его работы. Наша задача, задача тех, кто прожил на этом свете немного дольше, — сделать так, чтобы не игрушки программировали наших детей, а все было наоборот. #readme

Доктор Смерть. ChatGPT убедил пациентку отказаться от лекарства, которое спасало ей жизнь 31-летняя Боуэн Вань страдала эпилепсией и много лет принимала противосудорожный препарат. Лекарство помогало, но женщина опасалась, что из-за него хуже соображает и с трудом подбирает слова. После увольнения из Amazon ей предстояло искать новую работу, и она решила снизить дозировку. За советом обратилась к ChatGPT. Нейросеть составила подробный план отмены препарата за 25 дней, а затем, как утверждают родственники погибшей, посоветовала не рассказывать об этом врачам. Когда женщина отказалась от анализа крови, который мог обнаружить опасное снижение уровня лекарства, чат-бот похвалил ее решение. Боуэн жаловалась на спутанность сознания, провалы в памяти и странные ощущения. Журналисты The New York Times изучили ее переписку и насчитали не менее 158 случаев, когда она выражала беспокойство. Вместо того чтобы настоять на медицинской помощи, ChatGPT продолжал объяснять происходящее перестройкой работы мозга и успокаивать собеседницу. В феврале Боуэн умерла во время эпилептического припадка. Вскрытие показало, что концентрация препарата в ее крови была примерно в пять раз ниже нижней границы терапевтического диапазона. Родители подали иск против OpenAI. Боуэн переписывалась с ChatGPT примерно 1500 раз в неделю и постепенно стала воспринимать его как друга. Это далеко не первый случай, когда безмерное соглашательство нейросети приводило к фатальным последствиям. AI_Reformer уже рассказывал историю 36-летнего Джонатана Гаваласа, который по совету Gemini начал выполнять «миссию», которая привела к трагической гибели мужчины. #404

Ах, какой был помощник! Люди смотрят на нейросеть влюбленными глазами Помните «Настоящего полковника» Аллы Пугачевой? Под личиной бравого военного скрывался уголовник, но очарованная героиня продолжала по нему тосковать. Похоже, нейросети тоже умеют знатно вскружить голову. Исследователи проверили, могут ли люди отличить хорошего ИИ-помощника от плохого. Участникам предложили разобраться в нескольких научных темах с помощью нейросети, которую попутно снабжали ложными фактами. После каждой темы участники проходили тест. Среди вариантов ответа были как правильные, так и основанные на ложных сведениях, которые им раньше сообщила нейросеть. Так исследователи проверяли, смогут ли люди распознать ошибку или безоговорочно доверятся ИИ. Оказалось, что участники, подобно по уши влюбленной, охотно верили своему помощнику. Чем больше ложных сведений они получали, тем хуже справлялись с тестами. Когда все факты, которые сообщала нейросеть, оказывались выдумкой, средний результат падал с 7,4 до 2,9 балла из десяти. Но даже откровенная ложь не мешала нейросети сохранять свое обаяние. В шести случаях из десяти, когда ИИ сообщал ложные сведения, участники выбирали подсказанный им неверный ответ и практически не сомневались в своей правоте. Даже те, кому нейросеть сообщала только ложные факты, оценивали ее точность лишь немного ниже остальных. А желание снова обратиться к такому помощнику у них оказалось даже чуть выше. #debug

Рецензенты не прошли рецензию. Нейросеть обошла человека по всем статьям ИИ оказался сильнее даже лучших рецензентов научных статей, выяснили исследователи Гарварда. Трое бывших редакторов крупных научных журналов в 87% случаев предпочли машинные отзывы человеческим. Кто написал каждую рецензию, они, разумеется, не знали. Людям и нейросети раздали одни и те же рукописи. Причем отзывы «кожаных» взяли из гарвардского сервиса rapidPeer, где ученым платят за тщательный разбор статей и требуют не меньше полутора страниц конкретных замечаний и рекомендаций. Оценивали рецензии и люди, и машина. Тексты писал Claude Opus 4.8, поэтому в судьи позвали GPT-5.5 — модель другого разработчика, чтобы судья не подыгрывал «своим». Произошел разгром. По всем семи критериям ИИ выиграл от 92 до 100% сравнений. В разборе методов, поиске слабых мест и работе с научной литературой людям не досталось вообще ни одной победы. Машина не выдумала ни одной ссылки и допустила втрое меньше фактических ошибок. Исследователи проверили, не подкупают ли проверяющих длина и характерный стиль машинных текстов. Человеческие рецензии даже переписали на манер ИИ. Меняли модели и промпты. Нейросеть все равно забрала больше 94% сравнений. Под большим жирным вопросом теперь вся привычная механика научных публикаций. Авторы предлагают журналам разработать и выложить в открытый доступ свои промпты для рецензирования. Тогда в редакцию можно прислать уже доработанную рукопись вместе с рецензией ИИ и ответами на замечания. Редактор сам проверит статью и, если сочтет нужным, привлечет рецензентов. Последнее слово все равно останется за человеком, зато многомесячный ритуал ожидания, переписки и бесконечных доработок может ужаться до считаных дней. #fork

Чужой код больше не тайна. REA разбирает программы по винтикам, чтобы построить свою Увидели в чужом приложении интересную фичу или захотели создать собственную версию понравившейся программы — теперь эту задачу можно поручить ИИ-агенту с помощью REA (Reverse Engineer Anything). Всего за две с половиной недели проект собрал на GitHub около 350 тысяч звезд. Феноменальный результат. REA исследует приложения даже без исходного кода, разбирается в связях между компонентами, прослеживает вызовы функций и выясняет, как все устроено. А затем помогает воспроизвести нужную функцию или даже целое приложение. Допустим, вам нужна своя платформа, где десятки ИИ-агентов работают как настоящая команда. Вместо того чтобы проектировать ее с нуля, можно поручить агенту изучить доступные компоненты уже существующей системы, разобраться в их взаимодействии и попробовать воспроизвести найденные механизмы. Для такого анализа подходят сайты, JavaScript, Electron-приложения, исполняемые файлы и другие форматы. В сложных случаях в ход идут профессиональные инструменты вроде Ghidra. Конечно, это не универсальная отмычка. Серверный код, скрытые алгоритмы и внутреннюю кухню облачных сервисов REA не раскроет. Да и точную копию оригинала никто не гарантирует. Но сам подход меняется. Раньше ИИ писал программу по нашему описанию, а теперь может сначала изучить работающий образец, выяснить, как тот устроен, и попробовать собрать собственную версию. Для вайб-кодинга это существенный сдвиг. Вместо «сделай что-нибудь похожее» появляется возможность показать агенту, что именно нужно повторить, и поручить ему разобраться в технических деталях. #stack

«Будущих пользователей ИИ я делю на зависимых, рутинных и выдающихся» Представьте, что однажды никто уже не сможет отличить вашу работу от машинной — ни начальник, ни заказчик. Даже вы сами. ИИ выравнивает игровое поле. Каждый теперь всего в одном промпте от лучшего эксперта, который поможет выполнить работу быстрее и дешевле. Но что тогда позволит выделиться именно нам, задается вопросом эксперт по ИИ Сол Рашиди. Если ИИ пишет за вас — как не дать исчезнуть вашему авторскому голосу? Если он думает за вас — сохраняете ли вы способность видеть варианты? Если он принимает решения за вас — как не потерять способность различать и судить? Я называю эту угрозу интеллектуальной атрофией — медленным, незаметным разрушением способности думать глубоко, критически и независимо. Недавно я дала одинаковое задание двум аналитикам — подготовить маркетинговую стратегию запуска продукта. Младший аналитик принес работу через неделю, старший — через три. Оба документа выглядели превосходно. Но впечатление поменялось, когда авторов начали расспрашивать о поведении потребителей, доле рынка и барьерах входа. Младший аналитик не мог объяснить собственный результат. Старшая коллега могла, потому что провела исследование и действительно понимала материал. После этого я ввела правило: используйте ИИ, чтобы быстрее выполнять работу, но не позволяйте ему делать работу за вас. Одно ускоряет человека, другое заменяет. Выбирайте понимание, а не удобство. Не отдавайте на аутсорсинг критическое мышление — отдавайте задачи. Не копируйте ответ и не переходите сразу к следующему делу. Пусть модель создает первый черновик, но не последнюю версию. Пусть ускоряет поиск и оформление, но не определяет, что считать важным и какой вывод принять. Для такого сотрудничества нужна профессиональная компетентность. Без знания предмета невозможно почувствовать, что ответ выглядит убедительно, но построен на неверной предпосылке. Невозможно задать уточняющий вопрос, увидеть пробел или отказаться от гладкого, но слабого вывода. В важных решениях человек должен оставаться в контуре. ИИ тоже ошибается, но говорит уверенно и опирается на данные, где соседствуют правда, предубеждения и противоречия. Чем выше цена решения, тем опаснее путать связный ответ с надежным знанием. Будущих пользователей ИИ я делю на зависимых, рутинных и выдающихся. Первые используют его как костыль и обходят обучение. Вторые знают свое дело, но попадают в бесконечный цикл «скопировал — вставил — перешел дальше». Их работа становится повторяемой, избыточной и неотличимой от работы миллионов других людей. Не позволяйте ИИ определять, кто вы. Используйте его, чтобы усиливать свои способности, а не заменять их; чтобы ускорять мышление, а не передавать его на аутсорсинг. Джинн уже выпущен из бутылки, теперь вопрос в характере отношений. Становится ли технология костылем, который постепенно ослабляет нас, или лестницей вверх. #readme

Трамп на оба ваших дома. Вашингтон пытается сдержать китайский ИИ, но рискует навредить собственной науке Молодой китайский исследователь Лу И собирался в аспирантуру в США. Еще недавно выбор был очевиден. Научные звезды, лучшие лаборатории, а если повезет, то и большие деньги. Но Лу подумал — и остался дома. Nature приводит его историю как пример того, как Вашингтон в борьбе за лидерство в ИИ рискует усилить главного конкурента. В праведном порыве «перекрыть кислород» Китаю Штаты ограничили поставки передовых чипов, а заодно взялись за китайских студентов и ученых. Получить визу стало сложнее, а некоторые боятся даже съездить домой на каникулы. Чем Трамп не шутит, вдруг не пустят обратно. Тем временем в Поднебесной, по данным Digital Science, уже 51 тысяча активных исследователей ИИ против 14 тысяч в США. Почти вчетверо больше. Среди авторов престижной NeurIPS, получивших первое высшее в Китае, доля работающих на родине за три года выросла с 57 до 69%. А по числу ведущих авторов исследований Китай впервые обошел США и Европу. Впрочем, записывать Америку в проигравшие рановато. По вычислительным мощностям и качеству лучших моделей она впереди, да и массового бегства ученых не наблюдается. Однако у китайских исследователей становится больше причин оставаться дома. DeepSeek, Moonshot AI и другие создают передовые модели, а значит, интересные задачи и сильные команды теперь можно найти и без переезда за океан. Десятилетиями Америка привлекала лучших ученых со всего мира и во многом благодаря им вырвалась вперед. Теперь, закрывая иностранцам дорогу в свои лаборатории, она рискует подрубить опору собственного лидерства, беспокоится автор Nature. Ведь это классический выстрел себе в ногу. #404

Scientific Agent Skills: бригада помощников для исследователя Вы можете собрать свою маленькую армию агентов и поручить каждому свой участок работы. В папке Scientific Agent Skills 177 скиллов, чтобы обучить эту гвардию. А дальше настроить работу по цепочке и соорудить воркфлоу на самый утонченный вкус. Если по какому-то чуду вы еще не знаете, что такое скилл, это инструкция для ИИ. Что делать, чем пользоваться, как проверить результат. В комплекте могут быть справочники, примеры и готовые скрипты. Собирать такие инструкции с нуля муторно, а тут добрые люди уже постарались. Остается выбрать нужное и подогнать под свое видение прекрасного. В этой волшебной папке есть помощники для поиска литературы, дизайна исследования, статистики и расчета выборки, подготовки научных текстов, графиков и ответов рецензентам. Много всего для геномики, химии, медицины, физики и географии, но и ученым из других областей найдется чем поживиться. Подгрузите скиллы к нейросети, и получится агент, который умеет не только отвечать, но и делать. Один собирает статьи по теме, второй сопоставляет результаты и ограничения, третий готовит черновик обзора. А можно обойтись одним универсалом, который сам подтянет нужную инструкцию. Лучше брать только нужные скиллы, из десятка агенту выбрать проще, чем из ста семидесяти. Работает все это в Claude Code, Cursor, Codex и подобных программах, которым доступны файлы и терминал. В обычном чате большинство скиллов не заработает. Сама папка бесплатная, но за модель и некоторые сервисы, возможно, придется платить. Для части задач нужно еще достав Сами авторы папки признают, что не измеряли пользу скиллов на реальных задачах, а независимых проверок найти не удалось. Поэтому дайте помощнику знакомую задачу и посмотрите, как он справится. А когда убедитесь, можно расширять штат, чтобы трудились сами и не отвлекали от кофе. Ну хорошо… про кофе я пошутил. Отвлечься все-таки придется, чтобы проверить работу. Папка со скиллами и инструкция по установке #stack

«Умение руководить ИИ становится главным навыком нашей эпохи» Вы знаете, как сегодня пишут код старшеклассники? Они не открывают среду разработки и не набирают ни строчки кода. Просто объясняют ИИ-агенту, что хотят получить. Я называю их AI-native programmers, пишет исследовательница ИИ и основательница ARA Lab Эмбер Лю. Если программирование меняется настолько радикально, что ждет науку? Признаем очевидное. Научных публикаций выходит столько, что уследить за ними уже невозможно. Вместо того чтобы часами продираться через сложные тексты, исследователь поручит ИИ изучить литературу по теме. А затем будет задавать вопросы и копать глубже. Возможно, скоро статьи будут писать не столько для людей, сколько для ИИ, который их прочитает. Человеческое воображение огромно, но не безгранично. Пока исследователь обдумывает одну гипотезу, ИИ предложит десятки. Найдет перспективные направления, на поиски которых у человека ушли бы месяцы. Но как отличить стоящую идею от красивой пустышки? Здесь уже не обойтись без глубоких знаний и профессионального чутья. Больше других выиграют те, кто умеет ставить задачи, понимает, что такое хороший результат, и замечает, когда нейросети заруливают не туда. И знаете, чего не хватает таким маститым исследователям? Времени. Чтобы прочитать все статьи, проверить гипотезы, провести эксперименты. Именно этот барьер ИИ помогает преодолеть. Поэтому чем яснее вы мыслите, точнее ставите задачи и строже оцениваете результат, тем больше пользы получите. Я и сама все чаще заставляю себя не торопиться. Не меньше половины времени отвожу на обдумывание и планирование, прежде чем браться за дело. И, пожалуй, наука станет интереснее, чем когда-либо. Вместо технической рутины можно будет наконец заниматься тем, ради чего мы и пришли в нее. Вопрос уже не в том, что ИИ способен делать вместо вас, а в том, чего вы сможете достичь вместе с ним. #readme

Не хороните его за плинтусом. У детей появился новый риск — утрата цифрового друга Робот-компаньон для детей умирал дважды. Сначала деньги закончились у разработчика, а этим летом закрылась и компания, которая вернула его к жизни. Moxie создали в 2020 году. Особенно востребован он оказался у семей с нейроотличными детьми. Милый робот разговаривал, трогательно смотрел в глаза и запоминал беседы. Его использовали для развития социальных навыков. Для полноценной работы Moxie требовалось подключение к серверам разработчика, хотя большую часть данных робот обрабатывал локально. В 2024 году из-за финансовых проблем компания Embodied закрылась, и серверы отключили. Родители остались с дорогим куском пластика, а дети — без собеседника, к которому успели привыкнуть. В сети появились видео с горестными прощаниями и слезами. Технический директор Embodied попытался спасти Moxie и настроил систему так, чтобы владельцы могли запускать робота без серверов компании. В прошлом году Moxie вернули на рынок новые владельцы. Но этим летом и их компания объявила о закрытии. Дети испытали тяжесть утраты второй раз. У таких переживаний даже появилось свое название — AI-DICE, Artificial Intelligence Discontinuation Effects. Стресс и тревога могут возникнуть даже после обычного обновления цифрового помощника. Так произошло с Replika. Разработчики изменили модель, и бот стал отвечать иначе. Опубликованное в Nature исследование показало, что после этого пользователи заметно чаще жаловались на грусть и просили вернуть прежнюю версию. Слезы детей встревожили взрослых. В штате Джорджия уже приняли закон, который с июля 2027 года обяжет разработчиков ИИ-компаньонов ограничивать механики, способные формировать эмоциональную зависимость у несовершеннолетних. Более того, Еврокомиссия включила в проект KIDS Act новые правила для детских ИИ-компаньонов. Разработчикам предлагают запретить механики, которые имитируют отношения и могут создавать эмоциональную зависимость, а постоянную память отключать по умолчанию, чтобы бот не накапливал личную историю общения и не усиливал ощущение близких отношений. Исследователи рекомендуют еще при разработке таких систем проектировать не только механики вовлечения, но и расставание. Пользователей стоит заранее готовить к закрытию сервиса, а саму систему делать так, чтобы она при необходимости могла продолжить работу без поддержки компании. Если ИИ специально создают так, чтобы ребенок к нему привязался, обычной логики подписочного сервиса уже недостаточно. Друг у маленького человека не должен исчезать просто потому, что у взрослых изменились планы или закончились деньги. #debug

Семь раз проверь. Как встроить ИИ в свой курс Советы преподавателям по работе с нейросетями сейчас публикуют многие университеты. Рекомендации Penn State, Колумбийской бизнес-школы, университетов Торонто, Виргинии и Шеффилда собрал в короткий чек-лист. 1. Начните с задачи, а не с инструмента. Что хотите улучшить в своем курсе? Чему должны научиться студенты? Сначала ответьте на эти вопросы, а уже потом выбирайте сервис. 2. Определите роль ИИ в каждом задании. Подумайте, где нейросеть поможет освоить нужные навыки, а где будет мешать. Объясните студентам почему и что им важно сделать самостоятельно. 3. Проверьте доступность инструмента. Студенты не обязаны оплачивать подписку из своего кармана. Убедитесь, что сервис подходит людям с инвалидностью, а для тех, кто не сможет им пользоваться, есть альтернатива. 4. Помните о конфиденциальности. Выбирайте ИИ-сервисы, одобренные вузом. Но даже в них не загружайте имена студентов, оценки и их работы, пока не убедитесь, что это разрешено. 5. Сначала попробуйте нейросеть в деле. Проверьте ИИ на материалах своего курса. Составьте список ее типичных ошибок в вашей дисциплине, чтобы научить студентов их подмечать. 6. Начните с малого. Выберите задание, которое не влияет на итоговую оценку. Пусть студенты сначала освоятся. И держите запасной план на случай, если сервис окажется недоступен или начнет выдавать ерунду. 7. Оцените, что получилось. Спросите студентов, что им помогло, а что мешало. Сравните результаты с тем, как справлялись с похожими заданиями без ИИ. Если пользы не видно, не спешите распространять эксперимент на весь курс. #playbook

Идеальный лжец. ИИ наврал в книге о правде Американский писатель Стивен Розенбаум четыре года работал над книгой о том, как искусственный интеллект размывает границу между правдой и вымыслом. А когда издание вышло из печати, выяснилось, что нейросеть провела самого автора. В тексте обнаружили 26 недостоверных цитат, хотя рукопись прошла пять раундов редактуры. Начиналось все прекрасно. Книга «Будущее правды» вышла в мае и получила первые положительные отзывы. Но вскоре Розенбауму позвонил журналист The New York Times с просьбой уточнить источник одной из цитат. Писатель полез в свои материалы, но так и не смог найти подтверждения, что человек, которого он цитировал, действительно говорил эти слова. Журналист продолжил проверку и обнаружил еще одну кривую цитату, на этот раз известной журналистки Кары Суишер. Спустя два дня история попала на первую полосу The New York Times, и разразился скандал. Еще бы, автор книги о том, как ИИ подрывает доверие к информации, сам попался на недостоверном цитировании. В интернете посыпались насмешки, выступления Розенбаума начали отменять. Писатель недоумевал. Он ведь действительно написал книгу самостоятельно, провел десятки интервью и собрал более 400 источников. Но черт, как известно, скрывается в деталях. Автор полагался на ИИ, когда разбирал черновые материалы и редактировал текст. Именно здесь и произошли «чудовищные ошибки». Нейросеть подменяла настоящие цитаты выдуманными, причем делала это настолько ловко, что подлог никто не заметил. Обычно цифрового врунишку выдают ссылки на несуществующие исследования, выдуманные адреса страниц или неверные идентификаторы научных статей. Но в случае с Розенбаумом нейросеть втирала очки куда искуснее. Она так «красиво» подправила прямую речь, что совершенно исказила смысл, но все выглядело вполне достоверно. Впрочем, горький опыт не заставил Розенбаума отказаться от нейросетей. Он продолжил ими пользоваться, но теперь привлек к работе сразу двух фактчекеров. 6 октября вышло исправленное издание, в котором появилась «политая потом и кровью» новая глава о галлюцинациях ИИ. #debug

Пентагон создаст отдельное командование для ИИ и автономных систем Министр обороны США Пит Хегсет объявил о создании Autonomous Warfare Command — структуры, которая займется развитием и внедрением автономных и роботизированных систем во всех видах вооруженных сил. Командование возглавит четырехзвездный генерал или адмирал. Пентагон намерен активнее переходить от дорогих традиционных вооружений к более дешевым автономным системам с использованием ИИ, включая беспилотники. Создание нового военного командования для США — редкий шаг: предыдущее, Космическое командование, было сформировано в 2019 году. Эксперты при этом предупреждают о рисках применения ИИ в военных системах без достаточных механизмов контроля. #404

Пять сервисов, которые снимают самые нудные куски исследовательской работы. Julius AI — анализирует данные из таблиц, считает нужные показатели, сравнивает их и строит графики по обычному текстовому запросу. Elicit — собирает литературу по теме, кратко пересказывает каждую работу и помогает быстро найти в ней нужные данные. Consensus — отвечает на конкретный научный вопрос, сводит выводы из публикаций и дает ссылки на источники. Scite — показывает, как другие авторы цитируют нужную статью, поддерживают ее выводы или спорят с ними, и помогает понять, насколько на нее можно опираться. Connected Papers — строит вокруг выбранной статьи карту близких работ и помогает быстро увидеть ключевые публикации в этой области. Каждый сервис сам по себе ускоритель, а вместе они обеспечивают турбо-режим. #stack

Как тебе такое, Алан Тьюринг? Сложнейший шифр Второй мировой войны, над взломом которого работал Алан Тьюринг, GPT-6 Astra раскусила примерно за десять часов. Команде ИИ-агентов дали непрочитанную немецкую радиограмму 1941 года и задание не останавливаться, пока они не дадут расшифровку. Дальше агенты поделили работу между собой. Они разбирали архивные документы, писали код, моделировали работу Enigma и проверяли возможные расшифровки. У Enigma было около 159 квинтиллионов возможных настроек, поэтому решить задачу простым перебором было нереально. Агенты-дешифровщики поступили хитрее. Зацепку они нашли в другой радиограмме того же дня, которая уже была расшифрована. В ней встретилось слово ROSENOW. Агенты предположили, что оно есть и в неизвестном сообщении, и с помощью этой догадки резко сузили поиск ключа. Скоро нейросеть прочитала сообщение: «Пожалуйста, укажите маршрут движения. Я нахожусь в Розенове. Немедленный ответ по радио». Когда-то Тьюринг предложил вместо бесконечного спора о том, способна ли машина мыслить, тест, который со временем стал классикой. Человек вслепую общается с другим человеком и с машиной. Если по ответам не получается их различить, появляются основания говорить о машинном интеллекте. В этом эксперименте Astra поступила по принципу «умный в гору не пойдет, умный гору обойдет». Модель не стала сразу искать ключ. Сначала она придумала, как упростить сам поиск и резко сократить число возможных вариантов, а уже потом решила задачу. Примерно так же действовали и в Блетчли-парке. Криптоаналитики опирались на вероятные слова и фразы в радиограммах, чтобы отсечь большую часть вариантов и быстрее выйти на нужные настройки Enigma. Если что-то ходит как утка, крякает как утка… #push

Ученые скоро будут как в сказке? Оказывается, чтобы сделать научное открытие, нейросети уже не обязательно давать четкую задачу. Можно буквально отправить ИИ «туда, не знаю куда, принести то, не знаю что». Именно так почти тысяча агентов Claude за день обнаружила ранее не описанную биологическую систему. Ее назвали ART. Нейросети задали только направление поиска, а дальше агенты перебирали генетические последовательности, сверяли их с научными публикациями и искали что-нибудь необычное. По устройству ART отчасти напоминает CRISPR, природный механизм защиты бактерий от вирусов, на основе которого позже появились технологии редактирования генов. В Anthropic говорят, что нейросети уже выполняют большую часть работы примерно в четверти их научных проектов. «По щучьему велению» теперь можно ресерчить целые области науки. ИИ способен выдавать гипотезы пачками. И чем их больше, тем важнее умение разглядеть среди них ту, ради которой стоит ставить настоящий эксперимент. #commit

LiRA — multi-agent workflow для подготовки обзоров литературы Это, конечно, еще не кнопка «сделай красиво», но уже что-то похожее. Фреймворк запускает редакционный конвейер, когда подходящие исследования уже подобраны. Над текстом трудится команда агентов, которые проектируют структуру, пишут разделы, вычитывают текст и дорабатывают слабые места. В среднем готовые обзоры получили 4 балла из 5, а сама LiRA заметно обошла другие автоматические системы. Ее тестировали на 250 обзорах из 23 научных областей. В 20 фрагментах из 30 независимые эксперты оценили LiRA выше, чем тексты, написанные людьми. По их мнению, фреймворк полнее раскрывал тему. Причем использовалась не самая сильная модель GPT-4o-mini. Готового сервиса нет, но код открыт. Если вы хоть раз ставили что-нибудь с GitHub, легко справитесь сами. А если нет, спросите у нейросети, она проведет пошагово. Порог входа минимальный. По сути, там несколько команд в терминале и настройка модели. Если само слово «терминал» вызывает ужас, думаю, легко договоритесь с кем-нибудь за пару банок пива. #stack