ElKornacio

почему Сэм Альтман не сможет вылечить себе рак? по следам прошлого поста складывается ощущение что "можно швырнуть много миллионов долларов в компьют, поднять 100000 агентов и они решат любую задачу" или "AGI сводит решение любых задач к вопросу доступности компьюта и цены". я вот лежал-размышлял на тему "если завтра у Сэма Альтмана обнаружат рак - сможет ли он поднять 100.000 агентов чтобы они за неделю нашли лекарство?", и простой ответ - нет. представьте, что вы ищете ответ на какой-то вопрос про реальность, к примеру "какая комбинация молекул в пробирке вылечит рак такого типа". и вот есть спектр, где с одной стороны: - полное отсутствие интеллекта aka полный перебор всех существующих вариантов классические "бесконечные мартышки перебирающие кнопки в попытке написать Войну и Мир". отсутствие оптимизации перебора вообще. а с другой: - абсолютный интеллект aka сразу выбор правильного варианта интеллект имеющий полную всеобъемлющую модель реальности решает оптимизационную задачу у себя "в голове" и сразу даёт верное решение. и вот между этих двух крайностей и существуют разные уровни интеллекта. - автослесарю без биохимических знаний надо будет перебрать миллиарды комбинаций молекул в поисках лекарства от рака - студент-биохимик будет перебирать на порядки меньше, потому что сможет откинуть ворох совершенно нереалистичных веток - PhD биохимик со специализаций по онкологии будет перебирать ещё меньше, сразу пойдёт по реалистичным веткам думаю, суть вы уловили. каждая итерация развития ИИ - это улучшение картины реальности в "его голове", и сужение кол-ва веток перебора. gpt-4, наверное, смог бы решить математическую проблему тысячелетия, если поднять, ну, 100-200 триллионов агентов, может быть на пару порядков больше. увы, на Земле нет столько компьюта. а вот gpt-6 (ну или какой там у них внутренний вариант) - смог сделать это в формате 10.000 агентов за несколько дней. а в будущем какой-нибудь gpt-8, наверное, вывезет и на 50-100 агентах за пару часов (если представить, что в трейн не подлили предыдущие результаты). так че по раку? беда в том, что у перебора, помимо, собственно, кол-ва вариантов, есть другая сторона - а сколько стоит (времени/денег) проверить один вариант. и тут кроется ответ на вопрос, почему ИИ так бодро тащит задачи программирования и математики: эти задачи формально верифицируемы, алгоритмически. то есть, когда у вас есть вариант решения, вам нужны литерали миллисекунды чтобы его проверить. эти задачи не требуют проверки в физической реальности. ИИ может перебирать варианты и оптимизировать решение буквально по ходу дела. но вы можете представить себе затраты на тестирование одного варианта лекарства? даже in vitro - сколько времени займёт изготовление тестового образца и проверка? 10.000 агентов тут не дадут никакого выигрыша, хоть залей весь компьют мира. думаю, в ближайшие 3-4 года, одной из растущих сфер будут fully automated лабы as a service. этакая изолированная среда в физической реальности, где агент может проводить эксперименты - как для RL, так и для фактического решения настоящих задач. P.S. если что - про рак, это просто умозрительный пример проверки гипотез в физическом мире.