FT: Когда ИИ присваивает себе научное открытие: новый спор вокруг Claude Вычислительный биолог из Копенгагенского университета Марио Родригес Местре и его коллеги узнали, что вскоре выйдет научная статья с результатами, очень похожими на их собственные. Они ожидали, что их опередила другая академическая лаборатория, но выяснилось, что результат представил Anthropic - как самостоятельное открытие ИИ. Учёные Anthropic заявили, что ИИ-агент Claude самостоятельно обнаружил новый тип фермента и связанные с ним молекулы, по совпадению те же, которые Местре изучал с помощью Claude. Этот случай последовал за спором вокруг работы OpenAI над математической задачей Навье-Стокса: математик Тристан Бакмастер заявил, что расчёты OpenAI поразительно напоминали подход, над которым он и коллеги работали с использованием инструментов компании. Можно назвать подобные ситуации моментами WTAF (What The AI Found): учёные испытывают шок и подозрение, когда видят собственную работу, отражённую в результатах ИИ или даже приписанную ему. Подобные ситуации поднимают вопросы о том, кому принадлежат научные данные, что считать самостоятельным открытием ИИ, если учёные предоставляют ему неопубликованные идеи, и как определять авторство результатов. Местре изучает обратные транскриптазы - ферменты, с помощью которых бактерии обнаруживают атакующие их вирусы. Он использовал Claude для написания кода и подготовки неопубликованной работы. Местре считает, что Anthropic недостаточно доказала самостоятельность открытия: в некоторых обнаруженных Claude системах были те же необычные гены из тех же фагов, которые ранее идентифицировала его группа. При этом Местре признаёт, что совпадение может быть случайным: доказательств прямого использования его неопубликованной работы у него нет, и с Anthropic он не общался. Местре призывает установить более чёткие правила для определения происхождения и авторства результатов исследований с помощью ИИ. Заявления о самостоятельных открытиях должны сопровождаться документацией о доступной ИИ информации, использованных инструментах, указаниях людей и учёте предыдущих исследований. Сам он теперь отходит от Claude и разрабатывает альтернативные ИИ-инструменты для биологов. Anthropic заявила FT, что не знает опубликованных ранее работ с таким же открытием, а вклад Claude заключался в обнаружении того, что обратная транскриптаза является частью более крупной системы. Проблема может затронуть и других учёных: внешние эксперты загружают конфиденциальные заявки на научные гранты в ИИ-модели для оценки и ранжирования. Крупные британские фонды, включая Wellcome, теперь это запрещают, но есть подозрения, что практика сохраняется. Раскрытие новой идеи до того, как исследователь успеет заявить на неё права, теоретически создаёт для ИИ-компаний возможность узнать её и опередить автора. Вопрос авторства особенно сложен, когда многие исследователи работают над одной задачей одновременно. В Королевской шведской академии наук сообщили, что самостоятельные открытия ИИ пока практически не участвуют в обсуждении Нобелевских премий: награды в основном относятся к исследованиям до эпохи ИИ, а правила предусматривают награждение людей. Учитывая, что весь ИИ обучается на основе накопленного человечеством массива знаний и создаётся с его использованием, именно так всё и должно оставаться. https://perforum.io/news/t/ai-and-daily-life