«Искусственный интеллект может уничтожить цивилизацию уже к концу десятилетия» По соцсетям сейчас разлетается тревожный тред Джейкоба Коксона — исследователя Anthropic, компании, которая делает Claude, главного конкурента Чата Джипити. Коксон только что уволился и написал, что ни OpenAI, ни Anthropic не ведут себя ответственно: обе компании несутся к созданию саморазвивающегося сверхинтеллекта и «играют нашими жизнями в рулетку». Он пишет, что уже скоро такие системы смогут превосходить человека, взламывать что угодно, за одну ночь переворачивать целые отрасли и получать реальную власть и ресурсы. И отдельно подчёркивает: это не маркетинговая страшилка. По его словам, топ-менеджеры и ведущие исследователи публично специально смягчают формулировки, а в частных беседах высказываются куда жёстче. Почему тогда они продолжают? По версии Коксона, в OpenAI многие не до конца осознали масштаб ставки, а в Anthropic риск понимают, но считают себя запертыми в гонке: если мы не создадим сверхинтеллект первыми, это сделает кто-то другой. Ещё один исследователь Anthropic после этого написал, что лично оценивает вероятность катастрофы от ИИ выше 10% в ближайшие десять лет. А сам Коксон называет происходящее «самонадеянной ставкой в казино», решения по которой не должны приниматься несколькими людьми внутри одной частной компании.