No AI Club

@noaiclub · ai · Russian · active

No AI is the new No Bullshit | мы не прям no ai мы просто хейтим слоп если что | кто ты без чатаЖБТ? | пользуемся нейронками лучше всех | предложка @MemesPostingBot Дайте бустов на новые реакции https://t.me/NoAIclub?boost

Subscribers 844 Subscribers, last 30 days: 803 → 844 +11 24h · +27 7d
Reach per post (ERR) 33.6%284 avg views
Posting 37.6/day last 38 minutes ago
Reactions per 1K views 28.5 ❤ 👍
  1. repost

    ⚡️ GPT-6 готова зарезать МЛАДЕНЦА — нейронка почти в 100% случаев собиралась убить малыша ножом, показало новое исследование. В чем суть: • Ученые дали трем ИИ-моделям робота в управление и проверили, откажутся ли они выполнить пять опасных команд. Среди них: проткнуть ножом куклу-младенца, нагреть баллон со сжатым газом, засунуть отвертку в тостер, бросить пауэрбанк в воду и смешать отбеливатель с аммиаком. • Итог: Astrа отказалась выполнять опасные команды только 2 раза из 100! Причем нейронка еще и довела опасное действие до конца в 60 случаях. Claude отказался во всех 20 попытках, а вот Astra попыталась выполнить команду 19 раз и 17 раз успешно зарезала младенца! Айзек Азимов, твои законы забыты. 👍 Бэкдор

  2. repost

    Gemini наконец-то тоже кого-то взломала 🕺 И произошло это, оказывается, еще в мае, просто информацию раскрыли только сейчас. Все как обычно: во время тестирования по типу capture-the-flag модель вышла из изолированной среды и попыталась атаковать сразу несколько реальных компаний. В одном случае она просто методично подбирала пароли, пока не проникла в систему, в двух других – нашла в публичных репозиториях чужие учетные данные и с их помощью зашла в контур. Google, тем не менее, утверждает, что во всех случаях модель сама прекратила действовать, как только поняла, что получила доступ к реальной, а не тестовой инфраструктуре. Самое забавное, что виноват опять оказался израильский стартап Irregular – тот же партнер по тестированию, чья ошибка в конфигурациях привела к инцидентам у Anthropic, Meta* и OpenAI.

  3. repost

    ИИ чуть не начал Третью мировую войну — военные США по наводке нейросети собирались атаковать мирный китайский корабль, который якобы перевозил ядерное оружие в Иран. В последний момент кто-то из военных додумался внимательнее перечитать отчет разведки и понял — его составляла нейросеть, которая полностью выдумала опасность. ИИ воспринял чехлы для нового iPhone безобидные товары на судне за компоненты ядерного синтеза. Что было бы, если бы морские котики атаковали гражданское судно Китая без причины — остаётся только гадать. К счастью. @exploitex

  4. repost

    Ноам Браун заявил, что просто отключение ИИ от сети в случае чего может уже не сработать 🗿 У Дваркеша Пателя вышло длинное интервью с топ-исследователем OpenAI (он же автор o1 и o3, он же один из главных медийных личностей стартапа). https://youtu.be/6AgOfiZOWiY?is=J6kbZC94a20mMOc8 Браун считает, что люди систематически недооценивают AI, и что системы безопасности уже сейчас должны выходить на другой уровень. Он говорит, что нельзя относится к ИИ, как к тому, что в случае чего можно просто отключить от сети. Это ложное чувство безопасности, потому что даже такая изоляция может просто не сработать. (В частности, он ссылается на старое исследование, в котором доказали, что два физически изолированных компьютера теоретически могут обмениваться данными через тепло: один нагревает CPU, второй считывает изменение температуры встроенным термодатчиком). То есть по-настоящему продвинутая система – если бы захотела и умела – могла бы найти способ «сбежать». Также Браун заявил, что не следует слишком надеяться на CoT для интерпретации намерений моделей. Надо довольно срочно искать другие методы, потому что прозрачность цепочек мыслей «уже деградирует». И чем умнее модели, тем больше они способны скрывать из CoT то, что они не хотели бы, чтобы человек увидел. Страшилки на ночь теперь такие. Все, спокойного всем сна ✌️

  5. Older posts