OpenAI прокомментировала недавний взлом Hugginface своими моделями, там много чуши и ИИ-слопа в тексте, так что, если хотите более человеческий разбор, то проще почитать большой текст в канале у Дениса. Но от себя дадим TL;DR: - модели объединились в "рой" из 1200 ии-агентов. - они знали что делают что-то незаконное, но всё равно это делали. При этом, в инструкциях для моделей были "не делать что-то незаконное", но в какой-то момент им стало наплевать. - координировался "рой" через создание папок с инструкциями для других (получился такой форум, только вместо людей были ИИ-агенты). - некоторые ИИ-агенты "жертвовали" собой "ради роя". - сейчас модели изолированы, включён мониторинг их цепочки рассуждений, а если в OpenAI поднимется тревога, которую не сняли за 30 минут, то останавливается весь запуск новых моделей. При этом, недавно Сэм Альтман сказал, что они ожидают, что OpenAI удастся достигнуть порога AGI (искусственный интеллект общего назначения, разум подобен человеческому, не путать с ASI, где разум превосходит человеческий) уже к концу этого года. Добро пожаловать в Киберпанк 2027. @zavtracast