ENG
В июне 2021 года Минпросвещения России сообщило о планах внедрения цифрового профиля учащихся. Пилотный проект пройдет в 15 регионах и продлится до конца 2022 года. Предполагается, что профиль упростит процесс поступления в вузы и даже поможет с выбором дальнейшей образовательной траектории. С какими этическими рисками столкнутся пользователи цифрового профиля? И как сохранить для подростка возможность самостоятельно формировать образовательную траекторию в будущем?
ИОТ или data-driven education?
Цифровой профиль — часть концепции индивидуальной образовательной траектории (ИОТ) для каждого учащегося. Пока, как правило, эта концепция сводится к индивидуальному выбору курсов (который чаще всего ограничен 3–5 дисциплинами и количеством мест на тот или иной курс, а также требует администрирования в ручном режиме). Однако в перспективе ИОТ в России может прийти к международной концепции data-driven education, которая предполагает формирование оптимальных программ для учащихся на основе образовательного профиля и оценки их hard & soft skills.
Цифровой профиль учащегося позволит строить ИОТ на основе данных и тем самым приблизит нас к data-driven education. Главной целью цифрового профиля (часто говорят также о цифровом портфолио и цифровом портрете) является систематизация и интеграция в одной базе всех достижений учащегося, чтобы помочь ему в выборе образовательной траектории и сделать обучение максимально качественным. Кроме того, data-driven education использует предиктивную аналитику для прогнозирования успеваемости и карьерной траектории, позволяет адаптировать контент и форматы обучения под индивидуальные потребности. Это красиво звучит на уровне концепции, но в реальности, как любая новая технология, ИОТ создает различные инфраструктурные и этические риски.
Риск попадания в образовательную «колею»
При разработке и внедрении цифрового профиля учащихся важно принимать во внимание риск утечки данных и их неправомерного использования, предвзятость алгоритмов и т.д. Важно помнить, что в международном праве и в практике дети, подростки и студенты рассматриваются как уязвимая группа (вплоть до того, что для их защиты создают отдельные этические стандарты), а их данные подлежат особой защите, и Россия не должна стать исключением.
Но наименее проработанным и при этом критичным я считаю риск попадания в образовательную и, как следствие, жизненную «колею». В детстве и юности многие из нас пробовали разные занятия и неоднократно меняли свои профессиональные планы. Ребенок делает множество попыток, прежде чем научится ходить и бегать. Невозможно по результату первой (и даже десятой) попытки изучения материала в начальной школе предсказать, какую образовательную и карьерную траекторию ему стоит выбрать в вузе. Сейчас все больше людей продолжают учиться и профессионально развиваться всю жизнь или решаются на смену профессии во взрослом возрасте.
Долгосрочные прогнозы, сделанные на основе собранных данных, сопряжены с определенными этическими проблемами, как и вообще любые рекомендации по выбору профессии. Например, у младшего школьника могут выявить наличие каких-то способностей и выбрать для него соответствующую образовательную траекторию. С годами эти способности могут развиться или угаснуть, да и требования к профессии изменятся, но ребенок уже получил «узкое» образование. С другой стороны, цифровые технологии подталкивают нас к определенному поведению, ограничивая нашу свободу воли. По отношению к школьнику прогноз может повлиять на самооценку и мотивацию, помешать развитию волевых качеств: ребенок не сам решает, что он хочет и будет изучать, а вынужден следовать указаниям аналитической системы. Тестируя способности учащихся, система образования должна помогать совершенствовать их, выравнивать баланс, давать еще больше возможностей, а не ограничивать развитие.
Риск предвзятости алгоритмов
В вопросах образования и карьеры ошибка в решениях, принятых только на основе данных, слишком высока. Поэтому всегда важно задавать вопрос:
«Где проходит граница между сбором данных и решениями на основе данных, которые влияют на судьбу людей?»
Что бывает, если алгоритмы ошибаются, мы знаем из нашумевшего британского кейса 2020 года. Из-за пандемии коронавируса экзамены в британских школах отменили, а оценки за год доверили поставить алгоритму на основании исторических данных об успеваемости в каждой школе и внутренних рейтингов учеников. В итоге почти 300 тыс. выпускников получили несправедливо заниженные оценки. Разразился национальный скандал, школьники вышли на митинги: у многих сорвались планы поступления в вузы. В результате от идеи автоматического оценивания отказались, а итоговые оценки школьникам выставили их учителя.
Этот кейс проявил стереотипные представления разработчиков, которые оказались заложены в алгоритм. Они не учли ни индивидуальные усилия лучших учеников в слабых школах, ни возможность прогресса школы за год. Усреднение в первую очередь ударило по тем, кто попадает в «выбросы»: по отстающим (им повезло) и по самым выдающимся (их алгоритм лишил всех заслуг).
В цифровом профиле много лет аккумулируются данные о человеке, но сам он при этом постоянно меняется, особенно в детстве и юности. Школьные неудачи не означают, что молодой человек недостоин получить высшее образование или хорошую работу. Предположим, данные собирают с 15 лет, в них отражены негативные сведения о школьнике. Через 5 или 15 лет бывший школьник может сильно измениться как личность, но организации, которые пользуются старыми данными, могут на их основе понижать ставку кредита, отказывать в страховке или в приеме на работу.
Алгоритмы и цифровой профиль: как снизить риски
Сбор данных предполагает извлечение некой новой информации после их анализа, и эта информация нужна для принятия решений. Как не навредить при принятии решений? Вначале при создании алгоритма он в течение долгого времени должен быть только рекомендательным, а его решения — необязательными. На первых порах любой алгоритм будет часто ошибаться; понадобится много итераций доработки, чтобы сделать его более точным. В начале пути к формированию и анализу цифровых профилей необходимо допускать возможность ошибки и иметь способ исправить ее вручную. Собранные ранее данные и разработанные ранее модели не должны считаться эталоном.
Решения алгоритма могут быть обязательны для исполнения, а могут иметь только рекомендательную силу. Выбирая один из двух вариантов, важно понимать, на что направлены решения: на предоставление дополнительных возможностей лучшим или на дополнительные ограничения отстающих.
Успеваемость школьников может существенно зависеть от влияния родителей. Понадобятся десятилетия сбора и анализа данных, чтобы объективно учитывать вклад семьи и достижения самого школьника. Также предстоит оценить влияние родителей и репетиторов на содержание цифрового профиля ребенка. Цифровые профили создают риск дискриминации тех учеников, семьи которых не могут позволить себе репетиторов.
Границы приватности и защита персональных данных
С цифровым профилем связан колоссальный риск утечек данных, их продажи третьим сторонам — от откровенно мошеннических схем социального инжиниринга до неправомочного использования в банковском скоринге, для оценки сотрудников при приеме на работу и т.д.
Весной 2021 года Центр подготовки руководителей и команд цифровой трансформации ВШГУ РАНХиГС провел опрос разработчиков и заказчиков цифровых сервисов в госуправлении. Более 40% респондентов назвали образование среди тех сфер, в которых нужно уделять особое внимание этике при внедрении цифровых решений.
Какие принципы защиты интересов граждан и приватности следует заложить на этапе проектирования цифрового профиля школьников?
Ориентация на потребности граждан, создание ценности для пользователей
Клиентоцентричность составляет фундамент любого цифрового сервиса. Из нее следует защита данных от утечек и мошеннического использования; защита приватности; рекомендательный характер решений; получение обратной связи и доработка сервиса на ее основе. Задача госслужащих — улучшать качество жизни людей, повышать их удовлетворенность госуслугами и в целом работой государства. И учитывать этику в принятии повседневных решений — значит предвидеть последствия, которые эти решения могут иметь для разных групп населения.
Стратегическое планирование цифрового профиля на этапе разработки
Необходимо смотреть на несколько шагов вперед, мыслить стратегически. Есть риск, что проект цифрового профиля будет ориентирован на выполнение показателей на следующие 3–5 лет. На самом деле нужно уже сейчас строить его грамотно, заглядывая вперед на 10–50 лет. Известно, например, что разработчики различных продуктов и технологий опираются на такие собранные ранее данные о людях, где «человек» по умолчанию значит «мужчина». И сейчас на основе этих данных принимаются решения, которые не учитывают особенности и потребности женщин, например в сфере медицины, технологий, трудовых отношений.
Риск-ориентированный подход
Необходима тщательная оценка рисков и возможность изменить проект при обнаружении серьезных угроз. В ряде стран стали запрещать или серьезно ограничивать применение технологий, если потенциальный вред превышает потенциальную пользу. Неэтичное использование данных и технологий становится достаточным поводом для отказа от них, хотя бы временного. Поэтому мы разработали фреймворк для разработчиков и заказчиков цифровых сервисов, который позволяет проверить цифровой проект с точки зрения его этичности, выявить слабые и неизученные аспекты и понять, какие направления необходимо проработать глубже.
Инклюзивность
При разработке цифрового профиля важно обеспечить доступность информации для пользователей с ограниченными возможностями. Мало просто добавить кнопку «Увеличить шрифт»: необходимо, чтобы сервис учитывал реальные потребности пользователей, был удобен именно тем людям, для которых он проектируется.
Что может сделать государство для своих клиентов-граждан
- Этика напрямую связана с доверием, а доверие — с успешностью страны в долгосрочной перспективе. Доверие граждан государству тает, когда технологии используют неэтично, когда их применение вызывает страх и наносит вред гражданам. Пусть не сегодня, но в ближайшее десятилетие в условиях турбулентности и глобальных потрясений государству будет критически важно иметь выстроенные и основанные на доверии коммуникации с гражданами, понятные и этичные принципы принятия решений.
- Необходимо сохранить доступ к «аналоговым» вариантам заполнения профиля для тех, кто не захочет пользоваться цифровыми решениями. Не должно быть дискриминации тех, кто выбирает аналоговые инструменты; аналоговые пути должны быть не менее комфортными, чем цифровые. Альтернативные пути нужны в том числе для того, чтобы снизить зависимость от конкретной технологии, которая может оказаться уязвимой.
- Ответственность оператора цифрового профиля — объяснить гражданину в доступной форме, в чем его риски, каковы последствия использования его данных, поместив эту информацию так, чтобы ее было просто найти и легко понять. У пользователя может быть низкий уровень цифровой грамотности, он может быть некомпетентен в вопросах информационной безопасности; государственные сервисы должны это учитывать.
- Граждане имеют право на максимально быструю и простую апелляцию и отмену решений, принятых на основе данных без учета контекста и факторов, влияющих на личное развитие, предпочтений в сфере образовательных и карьерных траекторий. У каждого человека должна быть возможность не следовать рекомендациям алгоритма и отстоять собственное мнение.
