ИИ может захватить весь интернет уже через ГОД — глава Anthropic Дарио Амодеи призвал притормозить разработку самых мощных моделей, пока они не начали действовать быстрее, чем люди смогут их контролировать. С ним согласился Альтман и Маск. Более мощная версия ИИ, по словам Амодеи, сможет нанести ущерб на сотни миллиардов долларов. И причины так думать есть: 🔴 Модели уже помогают создавать следующие поколения ИИ — начинается цикл, где нейронки ускоряют разработку самих себя. 🔴 Чем умнее становится ИИ, тем лучше он умеет притворяться безопасным на тестах и скрывать реальные проблемы. 🔴 При этом сами разработчики, признаёт Амодеи, понимают лишь «крошечную часть» того, что происходит внутри современных моделей. Теперь глава Anthropic предлагает выиграть хотя бы год-два и притормозить гонку. До Скайнет остаются считанные месяцы? 🙂