Open AI очень хочет не опоздать к IPO - кричит что AGI почтиготов. https://t.me/Futuris/4715 Обещственность тут же прогнала не подобранные бенчмарки, а свои тесты - нет, примерно то же что было, то и осталось. https://t.me/Futuris/4715 Я же по этому поводу призадумался. Прогресс метода Attention is all you need впечатляющ, особенно когда в нашем распоряжении все тексты мира и вычислительная мощь в несколько процентов энергопотребления мира же. Но AGI статистическим методом перемножения зиллиардов матриц не построишь. Почему? А потому, что интеллект должен не только подражать виденному и слышанному ранее, но и создавать правила и следовать им. И не только правила вида "Если А - делай Б, если нет - делай В", но и такие вроде б элементарные вещи, как "Найди книгу А, открой на странице Б и прочти абзац В слово в слово и буква в букву". Что внутри нейросети нет представления чисел как чисел - это я писал ранее, и эта проблема тоже конструктивная и в общем, без колоссальных костылей не решаемая. Нейронки сейчас - как школьники-недоучки. Они не ЗНАЮТ. Они УГАДЫВАЮТ. И угадывают, в целом очень хорошо... но кажется, уже многие, если не все, хоть раз да сталкивались с тем, когда ты употребляешь слово в менее популярном значении, нейронка уверенно говорит "Вы, конечно, имели в виду, что %самое популярное значение%" и отвечает на вопрос, который ей не задавали. Получить дословную цитату, кстати, тоже тем сложнее, чем текст более редок - а уж если есть что-то подобное в более популярном тексте, из этой колеи вырваться не всегда реально. Иными словами, должны быть промпты, которые всегда исполняются одинаково. Не примерно одинаково, а абсолютно одинаково. Вот тогда и можно будет начать движение к AGI. А пока "AGI-AGI" - это маркетинговые вопли, которые живут все меньше и меньше.