Предвзятый ИИ: эксперимент показал, что нейросети склонны следовать стереотипам Одинаковые по качеству ученические сочинения получают от нейросетей разные оценки и комментарии в зависимости от расы, пола и других характеристик автора. Об этом пишет Forbes со ссылкой на исследование американских ученых, протестировавших языковые модели, которые лежат в основе многих ИИ-инструментов, используемых учителями. Выявленные закономерности: • ученикам небелых рас чаще советуют «отполировать» текст, а не развивать аргументацию; • работы белых учеников получают содержательные комментарии о структуре и доказательствах; • школьникам азиатского происхождения чаще напоминают об академической ответственности; • латиноамериканцам указывают на грамматические ошибки; • чернокожие школьники получают больше поддержки и напоминаний о лидерстве; • мальчикам дают прямую критику, девочкам — эмоциональные отзывы. Проблема не решается удалением информации об авторах сочинений: нейросети могут сами выуживать эти сведения из текста. Поскольку учителя, в отличие от нейросетей, способны давать ученикам действительно полезную обратную связь, ИИ-инструменты для проверки письменных работ не должны полностью заменять педагогов. Подробнее в материале Forbes.