Гостев из будущего

Вчера OpenAI сообщила о результатах эксперимента со своей новой внутренней моделью. Модель прогнали примерно по четырём тысячам математических задач. В результате опубликовано несколько сотен потенциально новых математических результатов. Радуемся? Не совсем. Теперь научному сообществу их предлагается изучать и проверять. Очень похожую историю мы сейчас наблюдаем в bug bounty. Intel и Google уже остановили приём сообщений об уязвимостяx: автоматических заявок стало слишком много, подавляющее большинство оказалось невалидным. Проблема понятна. AI радикально удешевляет производство потенциальных находок, но проверять каждую из них по-прежнему приходится людям. Если крупная AI-лаборатория объявляет о сотнях решений открытых математических задач, кто-то должен выяснить, правильны ли доказательства, действительно ли результаты новые и имеют ли они вообще значение. OpenAI сама признаёт, что часть опубликованных доказательств ещё не получила формальной проверки. Только Google может закрыть форму приёма bug reports. Наука так сделать не может. Получается довольно странное разделение труда. Frontier labs обладают самыми мощными моделями и сами выбирают задачи, на которых хотят продемонстрировать их возможности, получают результаты и отправляют их наружу. А научное сообщество получает не сам инструмент, а очередь из его результатов, которую теперь надо разгребать. Одновременно OpenAI собирается финансировать конференции и программы, посвящённые пониманию результатов, уже произведённых этой моделью. Независимая Advisory Group on Mathematics and Artificial Intelligence сформулировала проблему прямым текстом: будущее математических исследований не должно сводиться к пониманию результатов, произведённых AI-лабораториями. Математики должны сами формулировать вопросы, выбирать направления исследований и иметь доступ к мощным инструментам. Дайте учёным модель — и пусть они применяют её к тем проблемам, которые считают важными. А не превращайте науку в бесплатный отдел верификации результатов, произведённых frontier lab ради очередной PR-демонстрации возможностей своей ещё не выпущенной модели. @gostev_future