Progresspunks

Автор AI Snake Oil (я постил саммари) Arvind Narayanan из Princeton выступал с keynote на ICML в Сеуле, 57 легких слайдов: - Щас его фокус рисеча - на оценке агентов - Он апологет AI as a normal technology - что у инновации есть изобретение, затем продуктизация, и далее десяток-другой лет диффузия по цивилизации. И тогда парадокс: по мере развития AI число ролей для людей вырастет, а не отберет работы - LLM собрали ВСЕ знание людей мира, но не породили креатива. А крове креативности есть еще куча барьеров.. - Агенты ненадежны, поэтому автоматизация и буксует. Нужны коллаборации агентов чтобы это сдвинуть - Лабы не засолвят экономику или влияния на рынки труда, их milestones/бенчмарки/цели не имеют отношения к внедрениям - Работа программистов уже полвека автоматизируется, щас очередной сдвиг, вот и выросла роль evals/evaluations - Нас ждет co-superintelligence (условно: крановщик на кране), а не просто AGI через самоулучшение (оч скептичен. RL работает только где крайне узкие/точные критерии проверки)