«Чтобы понять природу умной игрушки, детям нужно ее разобрать» Мы учим детей не разговаривать с незнакомцами. А потом покупаем им игрушку, которая сама заводит разговор и всегда готова выслушать. И все это выглядит настолько дружелюбно, что за милой мордочкой уже не видно ни алгоритмов, ни компании, которая на этом зарабатывает. Дети начинают воспринимать ИИ как существо, которое думает, понимает и даже испытывает чувства. Хотя перед ними технология, созданная людьми. Об этой опасности рассказывает Рэнди Уильямс, исследовательница Университета Карнеги — Меллона, которая изучает взаимодействие детей с искусственным интеллектом. Исследования показывают, что дети могут оказаться уязвимыми перед манипуляциями, неподходящим контентом и угрозами информационной безопасности. Даже образовательные ИИ-игрушки вызывают вопросы. Похоже, их создают так, чтобы как можно дольше удерживать внимание ребенка, завоевывать его доверие и зарабатывать на этом. Но у детей есть замечательная привычка. Им нравится выяснять, как все устроено. Я снова и снова наблюдала, как они задают ИИ совершенно нелепые вопросы, проверяют его на прочность и пытаются понять, что это за машина перед ними. Так почему бы не использовать игру, чтобы помочь детям разобраться в ИИ? Что, если бы они могли разбирать и собирать умные игрушки, словно обычный конструктор? Эта идея легла в основу робота PopBot, которого я создала из деталей LEGO. Он похож на обычную умную игрушку, но позволяет детям самим экспериментировать с ИИ и разбираться, как тот работает. Например, дети учили робота играть в «камень, ножницы, бумага». Постепенно он начинал предугадывать их ходы, и победить становилось все труднее. Один мальчик так расстроился, что я предложила ему хитрость. А что, если научить робота неправильным правилам? Мальчик смог изменить поведение робота. Но если мы можем научить одну машину неправильным правилам, откуда нам знать, что Alexa обучена правильным? Этот вопрос помог ему увидеть, что ответы ИИ нельзя принимать на веру. За ними стоят данные и правила, которые задают люди. А люди могут ошибаться. Детям нужен взрослый, который сядет рядом, поможет исследовать устройство, проверить границы его возможностей, усомниться в ответах и, главное, не побоится изменить правила его работы. Наша задача, задача тех, кто прожил на этом свете немного дольше, — сделать так, чтобы не игрушки программировали наших детей, а все было наоборот. #readme