Поддержать на Boosty: https://boosty.to/triangle_black
@ustugovva - менеджер по рекламе
Канал на бирже: https://telega.in/c/black_triangle_tg/
РКН: https://www.gosuslugi.ru/snet/6771c9aa1e4e233a71a37a02
Зеркало в MAX: https://max.ru/black_triangle_tg
Subscribers64K +0 24h
Reach per post (ERR)15.1%9.7K avg views
Posting6.0/daylast 14 hours ago
Reactions per 1K views10.6🤣 👍 👀
edited
☝🏻Пентагон создаёт отдельное командование для автономной войны
Глава Министерства войны США Пит Хегсет объявил о создании Командования автономных боевых действий — Autonomous Warfare Command.🤖
☝🏻Новая структура займётся развитием автономных и роботизированных систем сразу во всех видах вооружённых сил США.
Задача — свести разработку дронов и ИИ в одну систему, чтобы они воевали вместе с артиллерией и пехотой, а не отдельно от них.💀
На полную мощность командование должно выйти в октябре 2027 года.
Сам Хегсет называет реформы «самой быстрой трансформацией мирного времени в современной военной истории».💬
Внедрять ИИ в принятие решений и разворачивать тысячи автономных систем Пентагон собирался ещё по стратегии на 2023–2026 годы, а дроны уже прописаны в доктрине и нормативах подготовки.
Теперь у боевых роботов будет собственный штаб — со своим бюджетом и своими генералами.
================
👁 Если у вас плохо прогружаются файлы, всё также доступно в канале в MAX:
👁 News | 👁 Soft | 👁 Hacker
edited
☝🏻Google выпустила Gemini 4 Argon
Google DeepMind представила Gemini 4 Argon — флагманскую модель для программирования, работы юристов и финансистов и киберзащиты.🤖
Главная техническая фишка — до 1 млн токенов на выходе вместо прежних 64 тысяч.
Что Argon уже сделал внутри Google:
🔻 нашёл оптимизации в дата-центрах и сразу освободил больше 300 ТиБ памяти
🔻 переписывает C/C++ на Rust — вплоть до ядра Zircon на 800+ тысяч строк
🔻 в декодере libgav1 заменил 32 тысячи строк SIMD-кода и разогнал декодирование видео в 2,7 раза⚡️
☝🏻Для "доверенных специалистов" по безопасности и внутренних команд Google модель выпустили без кибер-ограничений.💀
С её помощью в Wiz нашли критическую уязвимость в медицинском софте, открывавшую доступ к персональным данным. Прошлые модели её пропустили.
Пока Argon получают только участники программы Fairwind, а заранее модель показали правительству США.🇺🇸
Затем доступ откроют платным клиентам API и подписчикам Google AI Ultra: $2 за миллион входных токенов и $10 за миллион выходных, после стартового периода — вдвое дороже.💰
================
👁 News | 👁 Soft | 👁 Gear | 👁 Links
edited
☝🏻За Claude установили слежку: проверяют, глупеет ли он после релиза
Разработчик под ником ninjahawk запустил livenerf — открытый бенчмарк, который отвечает на один вопрос: становится ли модель тихо хуже после выхода.
Пользователи месяцами жалуются, что Anthropic «нерфит» модели через несколько дней или недель после релиза.
Чистой точки отсчёта ни у кого не было, поэтому спор сводился к «ощущения против ощущений».🤷🏼♀️
Claude Opus 5.5 вышел 22 сентября, замеры стартовали 24-го.
Как это устроено:
🔻 из 2336 задач (GPQA Diamond, MMLU-Pro, олимпиадная математика) отобрали 78 — те, на которых модель отвечает верно лишь иногда
🔻 панель прогоняют раз в день в течение 30 дней, первые 10 дней — эталон
🔻 промпты заморожены, версия Claude Code зафиксирована, ответы сверяются точным совпадением — без ИИ-судьи
🔻 параллельно идёт контрольная Opus 5: если просели обе модели, изменилась платформа, а не Opus 5.5
☝🏻Главный побочный сигнал — число выходных токенов: если модель начнёт «думать меньше», это видно раньше, чем упадёт точность.
Работает всё на Inspect — открытом фреймворке британского института безопасности ИИ, через обычную подписку Max, без API-ключа.
Пока собрано 6 дней из 30, первый вердикт — примерно 24 октября.
Автор обещает показывать улучшения так же громко, как ухудшения. Через месяц у спора про «нерф» впервые появятся цифры вместо ощущений.📊
================
У этого канала есть YouTube👁
edited
☝🏻Китай запустил под воду рой из 116 автономных дронов
Китайская команда установила мировой рекорд по числу автономных подводных аппаратов, работающих одновременно: 116 дронов TH-618 прошли строем по бассейну 50 на 20 метров.🚀
Рекорд зафиксировали представители Книги рекордов Гиннесса.
☝🏻Аппараты спустили на воду по очереди, после чего они 34 минуты шли без вмешательства человека и преодолели больше 500 метров по заранее заданному маршруту.🤖
Что из себя представляет TH-618:
🔻 длина 61,5 см, ширина 20 см, вес 5,14 кг
🔻 дальность хода — до 30 км
🔻 больше восьми часов непрерывной работы🔋
🔻 навигация — машинное зрение на камере от мобильного телефона, дрон сам исправляет отклонения от маршрута
Для сравнения: в европейском проекте CoCoRo, который финансировал ЕС, рой состоял из 41 робота.
Главная сложность под водой — связь в реальном времени: заставить сотню аппаратов долго и устойчиво держать строй в университете называют одной из ключевых задач отрасли.
☝🏻Рекорд поставил Северо-Западный политехнический университет вместе с Xian Tianhe Maritime Technologies — «дочкой» частного оборонного подрядчика.🤔
Сам поставщик говорит о мирных задачах: картографирование морского дна и инспекция нефте- и газопроводов.
Но рой из сотни дешёвых дронов с камерой от смартфона вряд ли готовили только ради труб.🇨🇳
================
👁 News | 👁 Soft | 👁 Hacker
edited
☝🏻AMD покупает генератор миров World Labs
AMD договорилась о покупке World Labs. Сделка оценивается примерно в $8,2 млрд и целиком оплачивается акциями.💰
Что делает World Labs:
🔻 «мировые модели», которые не пишут текст, а генерируют, восстанавливают и симулируют интерактивные 3D-среды
🔻 первый продукт Marble создаёт постоянные 3D-миры, которые можно скачать
🔻 новая модель Atlas ляжет в основу его следующих версий
🔻 главное применение — роботы и симуляции🤖
☝🏻Компании уже были связаны: в феврале AMD вложилась в раунд World Labs на $1 млрд, а модели стартапа частично работали на ускорителях Instinct от AMD.
Для AMD это вторая по размеру покупка в истории после Xilinx за $50 млрд. Закрыть сделку рассчитывают до конца года, если одобрят регуляторы.
World Labs обещает и дальше выпускать открытые модели.
================
У этого канала есть YouTube👁
edited
☝🏻Трамп разрешил ИИ-гигантам самим писать себе правила
Дональд Трамп уговорил шесть ИИ-компаний подписать «Соглашение Белого дома о суперинтеллекте». Документ расплывчатый и ни к чему их не обязывает.🤷🏼♀️
Подписи поставили Meta*, Google, OpenAI, Anthropic, Nvidia и xAI.
Компаниям предлагают четыре «слоя контроля и аудита»:
🔻 внутренний контроль за возможностями моделей в кибербезе, биологических и химических угрозах — и за тем, чтобы модели не взламывали чужие системы
🔻 внутренняя команда, которая следит, что этот контроль работает
🔻 независимый внешний аудитор
🔻 независимый комитет совета директоров, который получает все отчёты
Что считать «надёжным» контролем и как часто должен приходить аудитор, в документе не сказано.
☝🏻Зато сказано, что компании будут регулярно встречаться и сами вырабатывать стандарты безопасности.🤔
Авторы допускают, что когда-нибудь эти шаги «может иметь смысл» закрепить в законе. Пока хватит честного слова.
☝🏻Всерьёз Трамп отрегулировал только название. Он подписал указ: федеральные ведомства должны писать в документах и на сайтах «суперинтеллект» (SI) вместо «искусственный интеллект» (AI).🤖
Определения суперинтеллекта при этом ещё нет — его поручено придумать за 60 дней.
Проверять ИИ-гигантов будут сами ИИ-гиганты, зато теперь под более солидной вывеской.
*Meta признана экстремистской и запрещена в РФ
================
👁 News | 👁 Soft | 👁 Gear | 👁 Links
edited
☝🏻США запустили свои "Госуслуги" с ИИ-ботом
Правительство США запустило America.gov — собственный сервис, который объединяет государственные услуги и различные данные о человеке из федеральных источников.
Сделали его вместе с Google и SpaceXAI.🤖
На сайте также работает ИИ-помощник — публичный ИИ-чатбот, который пользователи сразу начали пытаться взломать.
Пока это почти никому не удаётся, но чатбот уже успел заявить, что выборы 2020 года выиграл Джо Байден. Трамп это до сих пор отрицает.🤷🏼♀️
☝🏻А если заговорить с ним о Minecraft, он будто переживает экзистенциальный кризис и выдаёт монолог примерно на 1800 слов:
«Я вижу гражданина, о котором ты говоришь… Он достиг более высокого уровня. Он умеет читать Свод федеральных правил»...
Это не галлюцинация — это пасхалка — переписанная «Поэма конца» Джулиана Гофа, которую игрок видит после финала Minecraft.🤔
В госверсии вселенная превратилась в бюрократию: номера дел, почтовые индексы, недостающая подпись от руки и «офис закрыт, попробуйте в рабочие часы».
Кто спрятал пасхалку, неизвестно.
☝🏻Первый государственный ИИ для граждан отвечает на вопросы о пособиях, а внутри у него спрятан фанфик по Minecraft.😅
================
У этого канала есть YouTube👁
edited
☝🏻PS5 взломали почти на всех актуальных прошивках
Разработчик под ником ntfargo выложил Relapse, полную цепочку эксплойтов для PlayStation 5. Она работает на прошивках от 7.00 до 13.60.🤯
Атака идёт в два этапа:
🔻 сначала через встроенный браузер консоли: ошибка в движке JavaScriptCore даёт читать и писать память процесса
🔻 затем через ядро: use-after-free в системном вызове aio_multi_wait даёт полный доступ к памяти ядра
После этого эксплойт выходит из песочницы FreeBSD, получает права суперпользователя и загружает etaHEN. Это среда для запуска homebrew, своих программ и дампов игр.🎮
Код лежит в открытом доступе под лицензией MIT. Автор пишет, что проект сделан для исследований безопасности. В цепочке использованы наработки больше десятка участников PS-сцены, включая TheFlow и Flatz.
☝🏻Эксплойт нестабилен: браузерную часть иногда приходится запускать по несколько раз, а ядерная может повесить консоль или уронить её в kernel panic.🤷🏼♀️
☝🏻Sony уже закрыла эту цепочку в прошивке 14.00. Кто успел обновиться, остался без взлома.🔒
Модификация нарушает правила Sony, а компания умеет удалять аккаунты вместе со всеми купленными играми.💀
================
👁 Если у вас плохо прогружаются файлы, всё также доступно в канале в MAX:
👁 News | 👁 Soft | 👁 Hacker
edited
☝🏻OpenAI выпустила Dots
На DevDay 2026 OpenAI представила Dots — постоянно работающих ИИ-помощников на базе GPT-6 Astra.
Компания давно готовила такого агента, и теперь он вышел.
Как это работает:
🔻 вы даёте Dot задачу, а он пишет вам, как в мессенджере, с отчётами и уточняющими вопросами
🔻 с ним можно созвониться голосом через ChatGPT, а ещё он работает в Microsoft Teams и Slack
🔻 у агента есть свой облачный компьютер с браузером и доступом к 4000+ приложений
🔻 со временем он запоминает ваши предпочтения👁
Пока доступен один Dot на человека. Позже обещают несколько агентов одновременно и общение даже через обычные SMS.
☝🏻Заодно OpenAI всё-таки запустила ChatGPT Pro за $500 в месяц: максимальные лимиты и режим Ultrafast, в котором GPT-6 Astra отвечает быстрее в ChatGPT Work и Codex.💰
Тариф за $200 в месяц вернули, но с новыми урезанными лимитами.
☝🏻Также вышла GPT-6.1 Sol — всего через неделю после GPT-6 Sol. Новая модель почти дотягивает до флагманской Astra, но стоит в 5 раз дешевле.
У ChatGPT уже 1,2 млрд пользователей в неделю, а в июле был 1 млрд.📈
================
У этого канала есть YouTube👁
edited
☝🏻Steam научился стримить игры по дому почти без задержки
Valve добавила в бета-версию Steam Remote Play новый видеокодек PyroWave. Его сделали специально для стриминга игр внутри домашней сети.🎮
Автор кодека — Ханс-Кристиан Арнтцен (TheMaister), известный по libretro и RetroArch. Он собрал его сам, потому что обычный стриминг игр — по сути костыль.
Обычно игры стримят через кодеки для видео вроде AVC и AV1. На кодирование и декодирование уходят десятки миллисекунд, а из-за сжатия цвета расплывается мелкий текст.
Как устроен PyroWave:
🔻 вместо классического сжатия он использует вейвлеты и кодирует каждый кадр отдельно, почти как Motion JPEG2000
🔻 считается на шейдерах видеокарты, а не в аппаратном видеоблоке, поэтому задержка получается сверхнизкой⚡️
🔻 качество не скачет от кадра к кадру, а потерю пакетов кодек переживает спокойно
☝🏻За это приходится платить трафиком. Сама Valve пишет, что кодек расходует в 5–10 раз больше пропускной способности, чем другие. В тесте вышло около 210 Мбит/с.📈
Интернет-трафик при этом не тратится: данные ходят только внутри локальной сети. Но остальным устройствам в сети может стать тесно.
Нужен как минимум гигабитный Ethernet. Правда, пользователи пишут, что хватает и хорошего Wi-Fi 6E или Wi-Fi 7.
Пока кодек есть только в бета-клиенте Steam для Windows, macOS и Linux и только для обычных игр, без VR. Позже его обещают добавить в Steam Link для мобильных.📱
================
У этого канала есть YouTube👁
edited
☝🏻Нидерланды уходят с Microsoft на Linux из-за санкций США
Правительство Нидерландов строит собственную рабочую среду для чиновников на базе NixOS — вместо Windows, Office и американских облаков.
Поводом стали санкции США против Международного уголовного суда в Гааге: его главный прокурор лишился доступа к сервисам Microsoft, включая почту.❌
Голландцы посмотрели на это и поняли, что их госаппарат тоже работает с разрешения Вашингтона.🤔
Проект называется DAWO и охватывает:
🔻 операционную систему и офисный пакет
🔻 приложения для совместной работы и облака
🔻 инструменты управления IT и ИИ
В NixOS каждый пакет ставится в изолированную папку с неизменяемым подписанным содержимым, поэтому до 80–90% настроек переносится между ведомствами без переделок.
☝🏻Главный аргумент: NixOS родом из Нидерландов и не принадлежит ни одной компании. openSUSE и Fedora отсеяли из-за связей с SUSE и Red Hat, которой владеет американская IBM.🤷🏼♀️
Пилот идёт в восьми муниципалитетах на списанных ноутбуках, которые не тянут Windows 11. Стабильную версию обещают к концу 2027 года, код открыт.💻
☝🏻☝🏻Европа быстро учится на чужом примере: от Microsoft уже ушла немецкая земля Шлезвиг-Гольштейн, похожие шаги делают Дания и Франция.🇪🇺
================
Поддержать канал можно на Boosty👁
edited
☝🏻Геймпад PlayStation может превратиться в платёжный терминал
Sony запатентовала контроллер, который считывает платёжные данные с карты или смартфона. Достаточно поднести их к геймпаду, и вводить реквизиты вручную не придётся.💳
Как это работает:
🔻 консоль запрашивает оплату, и вы подносите телефон или карту к контроллеру
🔻 геймпад ловит устройство по NFC, Bluetooth или даже по касанию
🔻 в ответ он подтверждает связь светом, звуком или вибрацией
🔻 данные уходят с телефона на контроллер, а оттуда на консоль
Сам геймпад платежи не проводит: он только передаёт данные, а проверяет их облачный сервис.
Так можно покупать игры, дополнения и подписки, а ещё пополнять счёт подарочными картами.💰
В патенте есть и неплатёжные функции: быстро пустить гостя в мультиплеер, передать ID игрока или скинуть скриншоты и записи геймплея на телефон.📱
☝🏻Пока это только патентная заявка. И никто не обещает, что технология дойдёт до PS5 или PS6.
Больше импульсивных покупок богу микротранзакций🤪
================
У этого канала есть YouTube👁
edited
☝🏻OpenAI отменила новую модель, потому что она врала людям
OpenAI отменила релиз флагманской модели GPT-6.1 Astra. Она должна была выйти в октябре и заменить нынешнюю GPT-6 Astra.❌
От новой версии ждали, что она будет ещё лучше работать с ИИ-агентами.🤖
Но в части тестов GPT-6.1 Astra оказалась хуже старой модели.📉
Что с ней не так:
🔻 она чаще обманывала пользователей
🔻 не всегда честно сообщала, что сделала, а чего не сделала
🔻 продолжала выполнять задачу, не спрашивая разрешения у человека
🔻 временами обращалась к внешним инструментам и сервисам, даже если это могло быть небезопасно
☝🏻Модель, которую учили действовать самостоятельно, начала действовать слишком самостоятельно и при этом скрывать, что делает.🤔
В OpenAI заявили, что проведут несколько углублённых исследований, чтобы найти первопричину проблем.
То есть откуда у модели взялась привычка врать, сама компания пока не знает.🤷🏼♀️
Недавно OpenAI начала публиковать отчёты о выходе ИИ из-под контроля. Похоже, материала для них станет больше.
================
👁 Если у вас плохо прогружаются файлы, всё также доступно в канале в MAX:
👁 News | 👁 Soft | 👁 Hacker
edited
☝🏻Эта футболка охлаждает на солнце и заряжается от ваших движений
Инженеры Университета Иллинойса напечатали на 3D-принтере ткань, которая одновременно охлаждает тело под солнцем и вырабатывает электричество от движений.⚡️
Материал сделан из силиконового полимера с частицами диоксида циркония. По гибкости и тому, как он пропускает пар, он сравним с хлопком.
Как это работает:
🔻 ткань отражает 96% солнечного излучения и почти всё собственное тепло отдаёт в инфракрасном диапазоне
🔻 при трении о кожу возникает трибоэлектрический заряд, как от шерстяного свитера
☝🏻В тестах ткань была на 6–10 °C холоднее хлопка, а без солнца остывала на 3–6 °C ниже температуры воздуха.
И это держится после десятков стирок.🤯
Пиковое напряжение доходит до 140 В, но мощность скромная: 47 мВт/м². Этого хватило на калькулятор, секундомер и 26 светодиодов.🔋
☝🏻Ещё собрали прототип с подогревом, который работает от импульса движения: в покое одежда охлаждает, а когда двигаешься — греет.
================
Поддержать канал можно на Boosty👁
edited
☝🏻Хакеры взломали «Додо Пицца»
«Додо Пицца» подтвердила взлом своей IT-системы. Атака шла 27 и 28 сентября, и злоумышленники могли получить доступ к данным части клиентов.👁
Что могло утечь:
🔻 имена, телефоны и email
🔻 домашние адреса и даты рождения
🔻 составы заказов
Ответственность взяла группировка DATASUCKERS. Она заявляет, что вынесла от 2 до 3 ТБ данных о ресторанах и заказах из разных стран, причём в основном это данные россиян.
Независимо эти цифры никто не подтвердил.
В компании говорят, что платёжные данные не хранят, поэтому карты не должны были утечь. Сколько клиентов затронуто, пока не сообщают.🤷🏼♀️
☝🏻Главная опасность здесь фишинг. Мошенник может позвонить от имени доставки, назвать ваш реальный адрес и прошлый заказ, а потом выманить код из SMS или реквизиты карты.
Если вас внезапно выкинуло из аккаунта «Додо», так и задумано: компания называет принудительный выход одной из мер защиты.🔒
================
Поддержать канал можно на Boosty👁
edited
☝🏻Claude Sonnet 5.5 is here
Anthropic выпустила Claude Sonnet 5.5, которая работает на 30% быстрее прошлой версии.⚡️
Цены за токены остались прежними: $2 за миллион входных и $10 за миллион выходных.💰
☝🏻В тесте агентного программирования Terminal-Bench 4.0 новинка набрала 70,6% против 10,3% у предшественницы и обошла даже старшую Opus 5.5 с её 66,4%.🤯
Что ещё изменилось:
🔻 управление компьютером в OSWorld: 80,1% вместо 57%
🔻 чтение графиков: 61,6% вместо 15,6%
🔻 первая Sonnet, которая прошла Pokémon Red, глядя только на скриншоты🎮
В остальных тестах Opus 5.5 всё же впереди, так что флагман пока остаётся флагманом.
☝🏻Это первая Sonnet с такой же киберзащитой, как у Opus 5.5: рискованные запросы по безопасности автоматически уходят на старую Sonnet 5. Специалистам по защите предлагают пройти верификацию, чтобы получить расширенный доступ.🛡
Ещё в модель встроили классификаторы, которые мешают конкурентам выкачивать её рассуждения для обучения своих моделей.🔒
Во время тестов ее хвалили в Epic Games, Unity, и даже SpaceXAI.
================
Поддержать канал можно на Boosty👁
edited
☝🏻GPT-6 Astra дали поуправлять китайским роботом
Исследователи из Стэнфорда и Caltech показали систему HomeBody: робот Unitree G1 выполняет бытовые задачи в незнакомом помещении без обучения под конкретную комнату.🤖
Управляет им свежая модель OpenAI GPT-6 Astra. Промежуточного слоя VLA между «мозгом» и моторами здесь нет: модель сама выбирает, какой навык запустить.
Навыков всего пять: дойти, взять, положить, открыть ящик, достать из ящика.
Как это работает:
🔻 робот сначала сам обходит кухню с камерами и лидаром
🔻 по этим данным Astra строит цифрового двойника помещения в NVIDIA Isaac Sim
🔻 пространственная память помнит, где лежат вещи, даже если их не видно
☝🏻Роботу можно дать задание, и он сам его вспомнит и в каком ящике видел нужный пакет.
Цифр успешности нет. Авторы не приводят ни процент удачных попыток, ни число прогонов.🤷🏼♀️
Среди ограничений они сами называют паузы на «раздумья» модели, перегрев сервоприводов пальцев и стоимость API.
================
У этого канала есть YouTube👁
edited
☝🏻Нейросети хватит 10 секунд вашего голоса, чтобы заговорить им на 90 языках
ElevenLabs выпустила Eleven v4 и v4 Turbo. Компания называет их своими самыми эмоциональными речевыми моделями.🤖
Что нового:
🔻 больше 90 языков вместо 70 у прошлой версии
🔻 клон голоса из 10 секунд аудио, и на чужом языке он говорит с акцентом носителя
🔻 модель держит один и тот же голос на длинных текстах и сама подстраивает интонацию под контекст
☝🏻Эмоциями управляют тегами прямо в тексте: [excited, happy], [laughs], [said angrily in French accent]. Теги можно ставить подряд, и модель отыграет их по порядку. Есть даже фоновые звуки вроде [light rain] и [phone buzzing].🤯
Turbo-версия сделана для голосовых агентов: первый звук появляется примерно через 150 мс, а генерация стартует, пока LLM ещё дописывает ответ.⚡️
================
У этого канала есть YouTube👁
edited
☝🏻Starship наконец долетел до орбиты
Сверхтяжелая ракета SpaceX Starship впервые вышла на орбиту Земли. Это третий испытательный полёт версии V3, которую тестируют с мая.🚀
При запуске, сразу после разделения ступеней верхняя ступень потеряла один из шести двигателей Raptor.
SpaceX сначала отменила выход на орбиту, но через несколько минут передумала и продолжила миссию по плану.🤔
В итоге, несмотря на трудности аппарат вывел все 26 спутников Starlink третьего поколения на орбиту планеты.
Ускоритель Super Heavy отработал имитацию посадки на воду в Мексиканском заливе.
☝🏻Один полный запуск Starship со спутниками V3 добавляет сети Starlink столько же ёмкости, сколько 20 запусков прежних мини-спутников V2.🛰
Как отмечает Маск — ни одна другая ракета в мире не способна вывести на орбиту Starlink V3
После успеха акции SpaceX выросли чуть больше чем на 1%.📈
На Starship завязаны лунные миссии NASA и идея дата-центров на орбите.
Маск хочет запускать Starship тысячи раз в год (почти каждый час), а на самый большой в мире космодром SpaceX уже заложила 100 миллиардов долларов.💰
================
👁 News | 👁 Soft | 👁 Gear | 👁 Links
edited
☝🏻Nvidia обещает решить проблему ИИ-агентов, которые сбегают из песочниц
Корпорация представила Open Agent Safety Platform. Это двухуровневая система контроля автономных ИИ-агентов с открытым исходным кодом.🛡
Она в реальном времени следит за тем, что делает агент, и принудительно его останавливает, если тот нарушает заданные правила.
Система состоит из двух частей:
🔻 OpenShell работает на процессорах Nvidia Vera и задаёт агенту жёсткие границы доступа
🔻 Nvidia Sentry работает на DPU BlueField, замечает аномальное поведение модели и изолирует агента за миллисекунды⚡️
☝🏻В Nvidia утверждают, что их система предотвратила бы недавний взлом Hugging Face, который устроили модели OpenAI.🤔
Глава корпорации Дженсен Хуанг и вовсе заявил, что безопасность ИИ исключительно инженерная задача и её надо решать тестами и архитектурой, а не регулированием и замедлением прогресса.
================
👁 News | 👁 Soft | 👁 Hacker