Александр Никифоров, директор EdTech-компании «Лань» - разработчика нейросети «ЛаньGPT» для телеграм-канала «Наука и университеты» о проблемах использования ИИ в исследованиях и образовании Искусственный интеллект все активнее входит в практику работы с информацией как незаменимый инструмент в поиске источников, подборе данных для аналитических записок, отчетов или исследований. Но вместе с новыми возможностями возникают и новые риски. Сегодня из-за распространения ИИ мы сталкиваемся с взрывным ростом на первый взгляд убедительных, но не всегда достоверных текстов. Нейросеть может быстро собрать связный ответ практически по любой теме, однако это не означает, что в основе лежат корректные источники. Для аргументации того или иного тезиса искусственный разум может приписать эксперту высказывания, которые ему не принадлежат, а то и просто выдумать «цитату» под задачу. А ведь это очень принципиальный вопрос: в любой работе важен не только результат, но и каким способом он получен, на какие материалы опирается автор, можно ли проверить ссылки и выводы. Вторая проблема – размывание границы между помощью и подменой самостоятельного труда. Одно дело, если человек использует ИИ как инструмент для поиска, структурирования материала или создания первого черновика. Если же нейросеть фактически пишет вместо него работу, получается не ускорение и углубление процесса, а просто его имитация. Особенно заметно это в гуманитарных сферах, где «гладкий» текст сам по себе уже не доказывает глубину знаний, умение рассуждать и аргументировать. Особо остро стоит проблема применения искусственного интеллекта в высшем образовании: какие сервисы можно использовать, какие данные в них заложены, как проверяются источники, наконец, как преподавателю отличить добросовестную самостоятельную работу студента от сгенерированной. В академической среде критически важно, чтобы цифровой помощник не подменял исследование компиляцией и позволял проверить происхождение выводов. Именно поэтому, помимо универсальных нейросетей «на все случаи жизни», для выполнения определенных образовательных задач необходимы модели, работающие на верифицированной базе данных. Вероятно, в этом направлении будет развиваться применение ИИ в высшем образовании в обозримом будущем. "Наука и университеты" в MAX