ГДЕ ВСТРЕТИШЬ И-ИНТЕЛЛЕКТ там его и убей (воскресное чтение) На уровне философских концепций люди давно едины во мнении, что главный враг и угроза человечеству – сам человек. Большинство катастрофических сценариев гибели земной цивилизации – рукотворные (техногенные). Теперь официально заявили, что главный смысл и цель генеративного искусственного "интеллекта" (ГИИ) – защита от него самого. А чего вы его хотели от сверх-человеческого "разума" (SI)?! На неделе крупнейший мировой ГИИ-разработчик, он же – главный ГИИ-паникёр – фирма Anthropic выступила застрельщиком нового индустриального консорциума по защите от угроз ГИИ предприятий реального сектора. Средствами самого ГИИ. В объединение вошли известный мировой киберзащитник CrowdStrike, крупнейший японский ИТ-конгломерат Hitachi и еще 9 компаний. Главная цель – защита от ГИИ- атак и галлюцинаций критически важных для человека систем реального сектора, начиная с энергетики, водоснабжения и транспорта. При этом Anthropic ограничивает собственную ответственность за практическую реализацию инициативы скромной суммой в $1000. Anthropic намерена теперь предоставлять свои передовые ГИИ-модели Claude только в пакете с услугами инженеров и исследователей угроз. Речь – об электросетях, водоканалах и транспортных сетях, объявили в четверг. Программа поддержки ГИИ-защитников КИ – первая часть новой долгосрочной кибермиссии Anthropic. Вторая – OSS Scanner – бесплатный сервис, сканирующий системы на базе открытого исходного кода и передает результаты разработчикам без проверки человеком. Фича периодически сканирует критические систем самыми мощными ГИИ-моделями Anthropic, в т. ч. – Claude Mythos. В отчетах предоставляя доказательства, объяснения и (иногда) предлагаемые исправления. Accenture, Booz Allen, CrowdStrike, Deloitte и Dragos присоединились к проекту партнерами-основателями. Об участии заявили также Hitachi, Insane Cyber, Nozomi Networks, Palo Alto Networks, PwC и Rockwell Automation. В Anthropic подчеркнули, что это – консалтеры, безопасники и вендоры, на которых уже полагается промышленность. Некоторые из них уже используют Claude для борьбы с уязвимостями. Программа нацелена на контроллеры, ПО для управления и ключевые промсети, которые десятилетиями обеспечивают работу важнейших предприятий – поставщиков коммунальных услуг. Эти критические ресурсные компании часто не могут отключить свои ИКТ- и прочие промсистемы для установки обновлений: даже известные уязвимости остаются открытыми годами. "Критическую инфраструктуру сложно защитить по многим направлениям, где ГИИ бессилен", – черным по белому значится в заявлении Anthropic. Т. е. от ударов военных БПЛА – нет. Anthropic не пояснила, кто будет оплачивать вычресурсы и получат ли партнеры бесплатный доступ к моделям, сообщил Axios. Неясно также, как партнеры будут тестировать исправления, не нарушая работу критически важных поставщиков. В июне Anthropic запустила похожую программу для властей штатов США. С тех пор она, якобы, предоставила модели Claude и техподдержку более чем половине штатов. В сентябре OpenAI выделила им $1 млрд на киберзащиту для коммунальных служб и местных банков. Там ГИИ-модели выявили более 29 тыс. уязвимостей. ГИИ-лавка смогла проверить только 6 тыс. Но заявила, более 90% брешей – реальны. В соглашении об оказании новой услуги Anthropic указано, что отчеты могут неверно оценивать серьезность уязвимостей или предлагать исправления, которые сами приводят к сбоям. Сопровождающие ГИИ-спецы обязуются проверять отчеты, но ответственность Anthropic – $1000. "По нашим прогнозам, через два года ГИИ будет на стороне защиты", – успокаивают в Anthropic. Но кто им поверит на слово. ВОТ ТЕ ЦИФРУ! Между обнаружением уязвимости и ее устранением в реальном секторе экономики часто проходили месяцы, а в случае с промсистемами, работающими непрерывно, исправлений ждут десятилетиями. Ничего – подождут еще. Пока ГИИ только усугубляет риски для критической инфраструктуры