Основатель
September 14, 2026
26 min read
Прежде чем образовательное учреждение задекларирует использование искусственного интеллекта, оно должно ответить на более требовательный вопрос: зачем эта система должна применяться, кого и как она затронет и при каких условиях её вообще не следует использовать? Эта статья, развивая пространство управления, открытое YAZEK, предлагает «Оценку воздействия искусственного интеллекта в образовании» — кратко, EYZED. EYZED — это процедура принятия решений, которая в рамках единого жизненного цикла рассматривает педагогическую необходимость, права ребёнка, персональные данные, валидность измерения, равенство, человеческий надзор и риски поставщика и которую учреждения могут адаптировать к собственному набору политик.
Примечание о концептуальном статусе: EYZED — это предложение модели, разработанное в данной статье; это не официальная система, опубликованная Министерством национального образования (Millî Eğitim Bakanlığı, MEB), и не самостоятельная обязанность, определённая в законодательстве. Она не заменяет YAZEK, процедуры KVKK или другие законные и административные обязанности. Она спроектирована как институциональный слой оценки, который работает до них и в связи с ними.
Представим школу, которая хочет использовать систему на основе искусственного интеллекта, чтобы раньше поддерживать учеников, находящихся в группе риска по посещаемости или академической неуспеваемости. Система анализирует записи о посещаемости, результаты экзаменов, активность на онлайн-платформе и данные о прошлой поддержке и выдаёт для каждого ученика уровень риска. Согласно презентации поставщика, точность модели составляет 91 процент. Цель безусловно легитимна: достичь ученика до того, как он будет потерян.
Модель отправляет уведомление в службу психолого-педагогического сопровождения по ученику, отмеченному как «высокий риск». Пока нет ни оценки, ни дисциплинарного взыскания, ни решения об исключении из реестра. Тем не менее ярлык меняет ожидания учителей; ученика направляют в группу с более низкой успеваемостью, вместо отдельных занятий включают в программу восполнения, и на встречах он постоянно сталкивается с предположением о «рисковом ученике». Даже если система ошиблась, это предположение со временем может породить собственный результат.
В этой ситуации 91 процент — лишь начало вопросов, на которые нужно ответить. Для какого исхода и на какой группе учеников измерялась точность? Одинакова ли образовательная цена ложноположительной и ложноотрицательной ошибки? Необходимо ли для этой цели использовать записи психолого-педагогического сопровождения? Может ли ученик знать, с какими данными его классифицировали? Когда ярлык теряет силу? Действительно ли учитель свободен отклонить рекомендацию системы? Будет ли предупреждение использовано для поддержки или со временем превратится в индикатор, сужающий возможности ученика?
Каждый из этих вопросов относится к своей дисциплине; однако решение едино: должна ли система использоваться в этой школе, для этой группы учеников, с этой целью и при этих гарантиях? Недостающее звено в управлении искусственным интеллектом в образовании — именно это интегрированное решение.
Политический документ MEB на 2025–2029 годы вывел на повестку образовательной системы высокозначимые области применения: аналитику обучения, отслеживание развития, раннее предупреждение, распознавание паттернов, поддержку принятия решений и автоматизированную оценку экзаменов.[1] YAZEK, открытый для использования 2 февраля 2026 года, привязал приложения, связанные с взаимодействием с учениками, обработкой данных учеников, оценкой и аттестацией и поддержкой решений, к режиму декларации и мониторинга.[2]
Функция YAZEK важна: она делает разрозненные применения видимыми, фиксирует ответственность и создаёт институциональный канал для процессов по этическим нарушениям. Однако YAZEK — не система предварительного разрешения. Согласно актуальным разъяснениям, учитель после подачи декларации может начать применение без ожидания отдельного одобрения совета; школьная команда по этике искусственного интеллекта — не орган утверждения, а подразделение консультирования и мониторинга. При явном риске она может предупредить, что приложение не следует запускать или его следует остановить.[2]
Здесь речь идёт не о недостатке, а о разных функциях двух инструментов. Декларация — это видимая запись планируемого использования; оценка воздействия — обоснованное досье о том, как было принято решение об этом использовании. YAZEK институционализирует вопрос «что вы планируете делать?», тогда как EYZED стремится ответить на вопросы «почему, на каком основании, в каких пределах и по каким критериям отказа?»
Этическое руководство MEB также создаёт сильную основу в этом направлении. Руководство предусматривает, что использование искусственного интеллекта должно обосновываться доказательной образовательной пользой, а не временной модой или технологической популярностью; что до внедрения проводятся тесты точности и надёжности; что критические решения остаются под человеческим надзором; и что создаются механизмы обжалования для учеников и родителей в случае несправедливых результатов.[3] EYZED не повторяет эти принципы по одному, а превращает их в процесс принятия решений, дающий результаты до начала применения.
Это предложение также согласуется с практическим направлением, ранее заданным министерством. Yapay Zekâ Etiği Tavsiyeleri (Рекомендации по этике искусственного интеллекта) YEĞİTEK рекомендуют до использования новой системы искусственного интеллекта оценить её академическое, психологическое и социальное воздействие на учеников, а также регулярно наблюдать последствия для мотивации, уверенности в себе, социальных отношений и психологического состояния.[13] Недостаёт не принципа, а метода, который свяжет эти экспертизы в едином досье и привяжет их к решению.
EYZED — это институциональная процедура, в которой образовательное учреждение рассматривает планируемое к разработке, закупке или использованию приложение искусственного интеллекта в конкретном контексте; определяет ожидаемую пользу и возможный вред; проверяет доказательства; фиксирует меры предосторожности, ответственных лиц и условия мониторинга; и в итоге выдаёт обоснованное решение об использовании.
Каждое досье EYZED должно ответить на три основных вопроса:
Следует ли нам использовать? Реальна ли определённая образовательная потребность и необходим ли для её удовлетворения искусственный интеллект?
Если используем — как именно? В каких пределах должны удерживаться цель, данные, группа пользователей, влияние на решение и срок?
Когда следует остановиться? Какая ошибка, вред, изменение или нехватка доказательств требует повторного рассмотрения системы или вывода её из эксплуатации?
В этом смысле EYZED — больше, чем реестр рисков. Она задаёт не только вопрос «что может пойти не так?», но и исследует, реализовалась ли ожидаемая образовательная польза, можно ли достичь того же результата менее интрузивным способом и не ведёт ли выделение ресурсов на технологию к отказу от более эффективной образовательной меры. Неэффективная система расходует не только бюджет закупки; она также поглощает время учителей, внимание ученика и способность учреждения к улучшению.
EYZED также не является новым названием оценки воздействия на защиту данных. Руководство Управления по защите персональных данных (Kişisel Verileri Koruma Kurumu) от ноября 2025 года прямо указывает, что Закон № 6698 не устанавливает общую оценку воздействия на защиту данных в качестве обязательной. Вместе с тем для обработок генеративного искусственного интеллекта, способных порождать значимые последствия для лиц, такая оценка характеризуется как полезная, а выявление и управление рисками на протяжении жизненного цикла — как надлежащая практика.[4] Оценка защиты данных — одна из обязательных связей EYZED, но EYZED выходит за её пределы и охватывает качество обучения, развитие ребёнка, равенство возможностей, процедуру принятия решений и непрерывность образования.
Аналогично тест кибербезопасности показывает устойчивость системы к атакам, проверка поставщика — адекватность провайдера, педагогический пилот — эффект обучения. Ни одно из этих мероприятий само по себе не несёт всё решение. Подлинная ценность EYZED — в объединении фрагментированных оценок вокруг общего сценария использования и общей записи решения.
Пробел готовности образовательных учреждений к валидации инструментов и подход, рекомендованный в руководстве UNESCO по генеративному искусственному интеллекту — человекоцентрированная, соответствующая возрасту этическая валидация и педагогический дизайн — также поддерживают эту потребность в интеграции.[8]
Одна и та же модель может быть низкозначимой, когда учитель готовит черновик рабочего листа без данных учеников, и высокозначимой, когда она оценивает тексты учеников или формирует выводы об их психологическом состоянии. Поэтому вопрос «какой инструмент искусственного интеллекта мы используем?» недостаточен для оценки воздействия.
Единицей рассмотрения EYZED является следующее сочетание:
Образовательная потребность + цель + затронутая группа + входные данные + выход модели + влияние на решение + условия использования + срок
Поэтому оценка должна начинаться с краткого паспорта сценария использования. В паспорте как минимум должны быть указаны решаемая проблема, владелец использования, целевой результат обучения или управления, лица, затронутые прямо и косвенно, вводимые и производимые данные, какое решение и каким образом затронет выход системы, является ли использование обязательным, информация о поставщике и модели/версии, срок пилота и альтернатива без искусственного интеллекта.
Эта запись обеспечивает не только бюрократический порядок. Она превращает расплывчатые обещания в проверяемые утверждения. Когда вместо «мы обеспечим персонализированное обучение» говорят «мы будем рекомендовать дополнительные упражнения с одобрения учителя на основе паттернов ошибок по конкретным математическим результатам обучения у учеников восьмого класса», потребность в данных, критерий успеха, цена ошибки и человеческий надзор становятся предметом обсуждения.
Первое «ворота» смотрят не на технологию, а на потребность. Учреждение должно изложить педагогическую или административную проблему, которую оно пытается решить, почему существующий метод оказался недостаточным и какой конкретный вклад ожидается от искусственного интеллекта. Затем задаётся контрфактический вопрос: можно ли в разумной мере достичь того же результата более простым правилом, учебным дизайном, поддержкой персонала или инструментом, не обрабатывающим персональные данные?
Этот подход можно назвать принципом педагогической необходимости. Принцип не превращает искусственный интеллект в крайнее средство; он делает образовательное обоснование выбора технологии доказуемым. Особенно когда речь идёт о данных учеников и высокозначимых решениях, между удобством, предлагаемым поставщиком, и вмешательством, которому будет подвергнут ученик, должна существовать соразмерная связь.
Цифровой образовательный обзор OECD 2026 года конкретизирует важность этого различия: универсальный генеративный искусственный интеллект может улучшить результат выполнения задания учеником; однако при отсутствии педагогической цели и направления этот рост производительности может не перейти в подлинный образовательный результат. Передача когнитивной задачи инструменту может также ослабить долгосрочное приобретение навыков.[7] Следовательно, вопрос успеха EYZED должен быть не «был ли создан лучший текст?», а «может ли ученик лучше думать, объяснять или применять знания без инструмента?»
Если педагогическую необходимость показать нельзя, оценка может завершиться здесь. То, что систему можно законно создать и технически запустить, не означает, что её следует использовать в образовательном учреждении; это не противостояние инновациям, а дисциплина цели.
Конвенция о правах ребёнка делает высший интерес ребёнка одним из основных соображений в делах, затрагивающих детей; право ребёнка свободно выражать своё мнение и учитывать это мнение с должным весом в соответствии с возрастом и зрелостью — отдельное право.[6] Эту рамку нельзя исчерпать формулой «родитель дал согласие». Информирование родителей или согласие, полученное при юридической необходимости, может быть важным; но оно не заменяет конкретной оценки высшего интереса ребёнка и его участия.
Руководство UNICEF 2025 года «Дети и искусственный интеллект» строит детоцентричный подход на трёх осях: защита от вреда, принесение пользы ребёнку и включение ребёнка в процесс. Руководство также указывает, что детство нельзя рассматривать как единый профиль пользователя; что правила должны адаптироваться к этапам развития; и что для масштабных, недостаточно проверенных образовательных технологий рекомендуется оценка воздействия на права ребёнка и исследование эффективности.[5]
Поэтому EYZED рассматривает не только физическую безопасность, но совместно когнитивное развитие, автономию, эмоциональное благополучие, человеческие отношения, пространство для игры и отдыха, неприкосновенность частной жизни и будущие возможности. Например, обучающий ассистент, постоянно дающий рекомендации, может ослабить способность ученика выстраивать собственную стратегию, даже если предлагает верный контент. То, что чат-бот вежлив и бегло говорит, не устраняет риск, что ребёнок воспримет его как человека или разовьёт эмоциональную зависимость.
Участие — это не показать детям готовую систему и спросить «вам понравилось?». При высокозначимом использовании на этапе проектирования следует безопасными и соответствующими возрасту методами получить мнения учеников разного возраста и с разными особенностями инвалидности, языковыми и социально-экономическими условиями. Учреждение должно фиксировать, какое мнение как изменило дизайн. Результат участия — не принятие каждого требования, а реальный вес жизненного опыта детей в досье решения.
Система искусственного интеллекта обрабатывает не только введённые в неё данные; она формирует новые выводы о вероятности успеха ученика, уровне внимания, сферах интереса, поведенческих паттернах или состоянии риска. Точные или неточные, когда эти выводы связываются с учеником, они могут влиять на его образовательную жизнь. Поэтому EYZED включает в карту данных не только входы, но и ярлыки, оценки, сводки и прогнозы, производимые моделью.
Для каждого элемента данных должны быть определены цель, правовое основание, необходимость, источник, право доступа, срок хранения, цепочка передачи, точность и способ удаления. «Чтобы система работала лучше» — не общая цель. Запись психолого-педагогической беседы может технически способствовать прогнозу риска прогулов; но этот вклад сам по себе не делает обработку таких данных для этой цели необходимой и законной. Особенно в отношении специальных категорий данных, свободного текста и информации о третьих лицах категорию данных и цель использования следует проверять отдельно.
Здесь второе оригинальное политическое предложение EYZED — срок годности образовательных выводов. Выход модели о том, что ученик «с низкой мотивацией», «высокого риска» или «подходит для определённой области» не должен превращаться в бессрочную институциональную реальность. Срок действия вывода, условия обновления, кто может его видеть и из каких систем будет удалён прежний ярлык, должны быть определены заранее. UNICEF также подчёркивает, что данные, собранные в детстве, следует хранить как можно короче и не отслеживать ребёнка до взрослой жизни.[5]
Этот «срок годности» — не самостоятельное право, признанное под таким названием в действующем праве. Это предлагаемое правило управления, чтобы не застывать ребёнка в прошлом паттерне, обеспечивать точность данных и ограничение хранения и оставлять пространство для образовательного развития.
Техническая точность и педагогическая валидность — не одно и то же. Система автоматической оценки может с высокой долей совпадать с человеческими оценщиками; однако она может систематически занижать ответы творческих учеников, говорящих на диалектах или имеющих особые образовательные потребности. Модель раннего предупреждения может успешно прогнозировать прогулы; но не может объяснить, почему нужна поддержка. Чат-бот может дать верный ответ; но без нужды подменить процесс мышления ученика.
На этом «вороте» учреждение сначала определяет критерий успеха. Критерий должен быть локальными показателями, согласованными с образовательной целью, а не общей точностью поставщика. Для обучения — перенос без инструмента, устойчивость, концептуальное понимание и мышление высокого порядка; для поддержки решений — доли ложноположительных и ложноотрицательных результатов, своевременность вмешательства и качество решения; для генерации контента — фактическая точность, соответствие возрасту и согласованность с учебной программой.
Тестирование должно проводиться на локальной и достаточной выборке, сходной с целевой группой, и включать содержательное сравнение с человеческим применением или существующим методом. Рамочная программа управления рисками искусственного интеллекта NIST также указывает, что риск искусственного интеллекта меняется в зависимости от контекста использования, что лабораторные измерения могут расходиться с реальными результатами применения и что системам, поддерживающим или заменяющим человеческую деятельность, нужна сравнительная база.[9]
Цену ошибки следует рассматривать отдельно. Неверная рекомендация в рабочем листе и неверная классификация, влияющая на доступ ученика к программе, нельзя терпеть с одинаковой мерой. По мере усиления воздействия должны расти глубина тестирования, человеческая проверка и стандарт доказательств. При недостаточности доказательств решение — не записать неопределённость как низкий риск, а сузить охват, провести контролируемый пилот или отложить использование.
При высокой общей точности модели она может постоянно чаще ошибаться в отношении отдельных групп учеников. Различия в языке, инвалидности, социально-экономическом положении, географических условиях и цифровом доступе могут влиять на результат на каждом уровне системы — от представленности данных до дизайна интерфейса. Более того, дискриминация возникает не только при явном включении охраняемого признака в модель. Почтовый индекс, тип устройства, время онлайн или паттерн прогулов в некоторых условиях могут стать косвенными индикаторами.
EYZED должна делать видимыми доли ошибок в разных группах, уровни доступа к пользе и распределение нагрузки. Доступность — не техническая функция, добавленная впоследствии, а часть решения об использовании. Следует оценить с самого начала, является ли голосовой интерфейс альтернативой для ученика с нарушением слуха, когнитивную доступность сложного текста, необходимость платных устройств и наличие офлайн-вариантов.
При таком тестировании не следует создавать новую правовую проблему: сбор чувствительных данных для анализа равенства также требует отдельного правового основания, необходимости, безопасности и ограничений доступа. Решение — не игнорировать охраняемые признаки, а выстраивать измерение совместно с проектированием защиты данных. Если выявлено различие, сужение цели использования или полный отказ от системы в отдельных областях решений — такие же законные исходы, как и настройка модели.
Этическое руководство MEB требует, чтобы при критических решениях, затрагивающих академическое будущее или образовательные права ученика, искусственный интеллект не был единственным определяющим фактором, чтобы человек мог исправить выход и чтобы существовал механизм обжалования для ученика и родителя.[3] Статья 11 KVKK также предоставляет право возражать против результата, вредного для лица, возникшего исключительно в результате анализа персональных данных автоматизированными системами. Руководство Управления не ограничивает это право лишь несогласием с исходом, а толкует его как гарантию, позволяющую требовать повторной оценки оснований решения.[4]
Опираясь на эти источники, EYZED предлагает гарантию второго взгляда человека. Эта формулировка — не заявление о новом праве, регулируемом под таким названием в действующем законодательстве. Для институциональной политики она означает следующий стандарт: ученик или родитель должен иметь возможность потребовать, чтобы значимый результат, на который повлиял искусственный интеллект, был повторно рассмотрен другим уполномоченным лицом — без автоматической привязки к первому выходу и с учётом соответствующей дополнительной информации и разъяснений.
Первичное одобрение человеком и второй взгляд — не одно и то же. На первом этапе уполномоченный должен понять рекомендацию системы, сопоставить её с независимыми источниками и иметь полномочия и время отклонить или изменить её. На этапе обжалования по возможности другой оценщик должен заново рассмотреть и результат, и актуальность использованных данных, и роль модели. Вместо того чтобы загружать ученика техническими деталями модели, следует понятно объяснить, какие данные имели значение, в какой мере система повлияла на исход, на каком основании человек принял решение и как подать заявление.
Человеческий надзор, предусмотренный Регламентом ЕС об искусственном интеллекте (AB Yapay Zekâ Tüzüğü) для высокорисковых систем, также предполагает, что контролирующий понимает границы системы, замечает склонность к излишнему доверию автоматизации, может игнорировать или перевернуть выход и при необходимости остановить систему.[10] Это регулирование нельзя считать непосредственно применимым к каждому школьному использованию в Турции; однако это сильный сравнительный ориентир, показывающий, почему формула «человек в контуре» не означает лишь подпись или кнопку одобрения.
Разработчиком закупаемой системы может быть другая компания; но ответственность образовательного учреждения в собственном контексте использования не снимается. Если поставщик говорит «данные в безопасности», «модель беспристрастна» или «оптимизирована для образования», EYZED спрашивает, каким документом, тестом и договорным положением эти утверждения можно проверить.
Рассмотрение должно охватывать информацию о модели и версии, предполагаемое и запрещённое использование, локальные доказательства производительности, варианты хранения данных и обучения модели, субподрядчиков, управление инцидентами безопасности, контроль возраста и безопасности контента, журналы, уведомления об изменениях и возможность выхода из сервиса. Договор, не позволяющий учреждению провести собственный тест, получить необходимые журналы или заранее узнать о существенном изменении, — не только коммерческий, но и управленческий недостаток.
То, что поставщик не может объяснить, для учреждения — не «нулевой риск», а неподтверждённый риск. Особенно в областях профилирования учеников, оценки и аттестации, биометрических признаков или психологических выводов неопределённость не снижает потребность в высоких гарантиях. Если поставщик не предоставляет необходимых доказательств, учреждение должно отключить функцию, сузить охват данных и воздействия, обратиться к альтернативному поставщику или не использовать систему.
Система искусственного интеллекта может сохранять то же название, меняя при этом базовую модель, политику данных, настройки безопасности или поведение выхода. Группа учеников, цель урока или вес выхода системы в решении также могут со временем расширяться. Поэтому первоначальная оценка не может быть бессрочным свидетельством о пригодности.
Рамочная программа NIST распространяет управление рисками на жизненный цикл через функции управления, картирования контекста, измерения и управления.[9] Регулирование ЕС рассматривает управление рисками для высокорисковых систем как непрерывный и итеративный процесс, а Рамочная конвенция Совета Европы предусматривает итеративную оценку фактических и потенциальных последствий для прав человека и принятие необходимых мер по их снижению.[10][11] Алгоритмическая оценка воздействия, разработанная Канадой для государственных учреждений, основывается на проведении оценки в начале проектирования и до выхода в производство, а также на обновлении при изменении функции или охвата использования.[12] Это нельзя представлять как непосредственно турецкое образовательное законодательство; однако общее направление очевидно: изменившаяся система — система, подлежащая повторной оценке.
В досье EYZED поэтому заранее должны быть записаны отслеживаемые показатели, частота проверки, ответственное лицо и пороги остановки. Изменение модели/версии, новая категория данных, новая целевая группа, расширение цели использования, неожиданное групповое различие, рост обжалований, серьёзный неверный выход, инцидент безопасности или существенное изменение условий поставщика — триггеры повторной оценки.
Здесь третий оригинальный принцип — обратимость. Учреждение должно проектировать не только возможность отключить систему, но и по возможности отменить её последствия: можно ли исправить ошибочный ярлык и ограничить к нему доступ? Можно ли пересмотреть направление, основанное на этом ярлыке? Можно ли удалить данные и резервные копии? Может ли ученик вернуться к альтернативному пути обучения? При смене поставщика можно ли перенести записи? Чем труднее отменить решение, тем сильнее должны быть предварительные доказательства и человеческие гарантии.
Соблазнительно свести оценку воздействия к одному арифметическому баллу; но это может вводить в заблуждение. Педагогическая польза не компенсирует отсутствие правового основания. Высокая техническая точность не устраняет отсутствие эффективного пути обжалования. Множество показателей низкого риска не может «усреднить» красную линию в отношении безопасности ребёнка до приемлемости.
Поэтому EYZED должна использовать «ворота» решения раньше, чем баллы. Воздействие можно классифицировать с учётом тяжести и длительности результата, уязвимости затронутых лиц, масштаба использования, характера данных, автономности системы, обратимости ошибки и способности учреждения к надзору.
Облегчённая запись достаточна, когда нет взаимодействия с учеником и данных учеников и выход не определяет образовательное решение; минимальный процесс — паспорт сценария использования с правилами о конфиденциальной информации и точности выхода, вероятный исход — использование с фиксированным охватом. Стандартная оценка применяется при взаимодействии с учеником или ограниченных данных, когда использование под надзором учителя, низкозначимо и легко обратимо; ожидается пропорциональное рассмотрение восьми «ворот», предклассовое тестирование, информирование и мониторинг, исход — пригодное или условное использование. Усиленная оценка требуется при профилировании, специальных категориях данных, оценке, направлении, большом масштабе, обязательном использовании или выходе, влияющем на будущее ученика; нужны междисциплинарный совет, участие ребёнка/родителя, локальная валидация, тест на дискриминацию, детальная проверка данных и поставщика, ограниченный пилот и решение высшего руководства, исход — условный пилот, перепроектирование или отказ от использования. Красная линия открывается, когда нельзя установить правовую основу, высокозначимый результат оставлен исключительно системе, цель не объяснима, серьёзный вред неуправляем или поставщик не предоставляет критических данных или информации о производительности; при устранимом недостатке — возврат к проектированию, при неустранимом — остановка оценки, исход — неиспользование или прекращение существующего использования.
Эти пути — не официальные классы риска YAZEK; это предложение внутренней политики. Необходимость декларации YAZEK определяется отдельно по актуальным критериям MEB. Например, взаимодействие с учеником, обработка данных или поддержка решений в приложении на пути стандартной или усиленной оценки, как правило, также ставит вопрос о декларации YAZEK. Напротив, некоторые подготовительные использования, не требующие декларации, могут всё же подпадать под облегчённую запись из-за конфиденциальной информации или контента, защищённого авторским правом.
Приведённые ниже «ворота» можно использовать не вместо длинного досье оценки, а как политическое приложение, показывающее, где искать какие доказательства.
1. Педагогическая необходимость спрашивает, для какой образовательной потребности и почему используется искусственный интеллект; ожидаемые доказательства — определение проблемы, анализ альтернатив и измеримое утверждение о пользе; предупреждающий признак — решение выбрано раньше проблемы. 2. Права ребёнка и участие спрашивают, как учитываются высший интерес, развитие и мнение ребёнка; доказательства — анализ возраста/развития, оценка благополучия и запись участия; предупреждающий признак — предположение об однотипном «ученике» и сведение участия к презентации или опросу удовлетворённости. 3. Данные и выводы спрашивают, законны, необходимы и ограничены по сроку ли входные и производные данные; доказательства — карта потока данных, правовое основание, план хранения-удаления и передачи; предупреждающий признак — неясная цель, бессрочный профиль и неизвестное обучение модели или цепочка субобработчиков. 4. Педагогическая валидность спрашивает, оценивает ли система правильное, в правильной группе, по правильной мере; доказательства — локальный тест, сравнение с существующим методом, анализ ошибок и эффективности; предупреждающий признак — опора только на общую точность поставщика.
5. Равенство и доступность спрашивают, как распределяются польза и ошибка между группами; доказательства — производительность подгрупп, доступность и тест альтернативного доступа; предупреждающий признак — средний результат скрывает групповой вред и нет пути для ученика без цифрового доступа. 6. Решение человека и обжалование спрашивают, может ли человек понять, отклонить и пересмотреть выход; доказательства — поток полномочий, запись решения, разъяснение и процедура второго взгляда; предупреждающий признак — формальное одобрение человеком и повторение того же автоматического результата при обжаловании. 7. Поставщик и технические доказательства спрашивают, может ли учреждение проверить обещания и управлять изменениями; доказательства — отчёт о тестировании, запись версий, положения об аудите и изменениях, план безопасности/выхода; предупреждающий признак — критическая информация полностью закрыта как «коммерческая тайна» и обновления не сообщаются. 8. Жизненный цикл и выход спрашивают, как будет отслеживаться успех, когда пересмотрят или остановят; доказательства — план пилота, показатели, пороги, повторная оценка и запись удаления/возврата; предупреждающий признак — бессрочная пригодность и отсутствие возможности закрыть и исправить ошибочный результат.
Когда система раннего предупреждения из начала проходит через EYZED, сначала сужается цель: система будет использоваться не для «определения ученика, который потерпит неудачу», а для указания потребности в поддержке, которую можно передать дополнительной человеческой оценке. Важен даже язык использования: «рисковый ученик» — постоянная идентичность, «сигнал поддержки для рассмотрения» — временное процедурное предложение.
При проверке педагогической необходимости учреждение сравнивает простое правило, основанное только на пороге прогулов, с вкладом модели. Если модель не даёт содержательного преимущества раннего выявления, сложное профилирование не нужно. Если даёт — исследуется, какими данными достигнут этот вклад. Если свободный текст из психолого-педагогических бесед даёт небольшой прирост производительности, но серьёзно повышает риски конфиденциальности и неверной интерпретации, эти данные исключаются из модели.
Проверка прав ребёнка запрещает использовать маркировку для санкций, понижения уровня или исключения из занятий. Соответствующие возрасту беседы с учениками и родителями могут выявить тревогу учеников из-за «незнания, почему их выбрали» и учителей — из-за опасения, что к ним теперь будут относиться иначе. На этой основе перепроектируются информационный текст, права доступа и правила использования в классе.
При педагогическом тестировании и тестировании на равенство исследуются не только общая точность, но и доли ложных предупреждений для девочек и мальчиков, разных классов, учеников с особыми потребностями и разных условий доступа. Обработка персональных данных, необходимых для оценки, также подлежит отдельному правовому и безопасностному проектированию. В малых группах обеспечивается, чтобы результаты не сообщались способом, раскрывающим личность.
На этапе человеческого надзора каждое предупреждение рассматривает педагог-психолог, знающий ученика, с актуальной информацией. Оценка системы сама по себе не превращается в широкодоступный постоянный ярлык. Учитель может отклонить рекомендацию; если принимает — фиксирует основания. Ученик и родитель могут заявить, что данные, положенные в основу оценки, неверны или устарели, и потребовать повторного рассмотрения у другого уполномоченного лица.
Наконец система не разворачивается бессрочно на всей школе. Пилот проводится в определённых классах, ограниченно одним семестром и только для целей направления поддержки. Эффективность отслеживается не числом предупреждений, а своевременным и адекватным доступом к поддержке, долей ложной маркировки, обжалований и исправлений и обратной связью учеников о благополучии. Решается, что каждое предупреждение утрачивает силу, если через, например, тридцать дней не обновлено актуальными данными. Выявленное групповое различие, инцидент безопасности или изменение модели — автоматические основания для повторной оценки.
Итог этого досье — не общий сертификат «система безопасна». Возникает более ограниченное и честное решение:
Условно пригодна при указанном наборе данных, целевой группе, цели поддержки, версии модели, сроке пилота, человеческой проверке и порогах остановки. Если изменится любое из этих условий, решение утрачивает силу.
Правовая и политическая ценность оценки воздействия именно в этой ограниченности. Учреждение фиксирует не только то, чему разрешает, но и то, чему не разрешает.
Для работы EYZED не обязательно создавать новый и многочисленный совет. Главная потребность — связать существующие функции в одну цепочку решений. Владелец использования описывает образовательную потребность и сценарий; педагогический эксперт проверяет утверждение об обучении и валидность измерения; правовая/KVKK функция оценивает воздействие на данные и права; ИТ и информационная безопасность изучают технические доказательства; психолого-педагогическое сопровождение или специалист по развитию ребёнка рассматривает измерение благополучия; отдел закупок привязывает условия поставщика к решению. При высокозначимом использовании лицо, запросившее или разработавшее систему, не должно единолично принимать окончательное решение о пригодности.
Минимальная институциональная память каждого досье может состоять из:
паспорта сценария использования и записи охвата/версии;
анализа педагогической необходимости и альтернатив;
оценки затронутых лиц и прав ребёнка и записи участия;
карты потока данных, правовых оснований, плана хранения и передачи;
локальных тестов педагогической валидности, ошибок, равенства и доступности;
потока человеческих решений, разъяснения, обжалования и процедуры второго взгляда;
доказательств поставщика, договорных контролей, плана безопасности и непрерывности деятельности;
решения, условий, владельца остаточного риска и срока одобрения;
показателей мониторинга, журнала изменений, повторной оценки и записи выхода.
Это досье не должно конкурировать с другими процессами; оно должно их питать. Практичная последовательность такова:
Идея и потребность → быстрое сканирование воздействия → при необходимости полный EYZED → меры проектирования/договора → ограниченный пилот → при необходимости декларация YAZEK → контролируемое использование → мониторинг и повторная оценка → выход
Таким образом форма YAZEK перестаёт быть отдельным документом, заполняемым в последний момент, и становится видимой записью цели, инструмента, целевой аудитории, данных и мер, уже проверенных в досье EYZED. Реестр защиты данных, политика хранения-удаления, договор закупки, инцидент информационной безопасности и процедура оценки также могут быть связаны одним идентификатором сценария использования.
Пропорциональность особенно важна для небольших учреждений. Для низкозначимого использования без данных учеников может хватить двухстраничного паспорта. Для системы, классифицирующей учеников, влияющей на оценки, обрабатывающей специальные категории данных или используемой обязательно в большом масштабе, аргумент «у нас нет времени» не должен сокращать оценку; напротив, он должен ставить вопрос об отложении использования. Использование технологии в масштабе, который учреждение не может контролировать, означает передачу дефицита возможностей как риска ученику.
Если модель, подобная EYZED, будет принята на уровне учреждения, отрасли или государственной политики, четыре выбора окажутся определяющими.
Во-первых, оценка должна начинаться рано. Рассмотрение после закупки продукта, переноса данных и подключения учителей к системе превращается не в принятие решения, а в обоснование уже принятого. Право, педагогика и права ребёнка должны быть за столом до закупки.
Во-вторых, процесс должен быть многоуровневым. Не каждое использование искусственного интеллекта должно порождать одинаковую нагрузку досье; но и исключения, делающие высокое воздействие лёгким, создавать не следует. Критерии перехода между быстрым сканированием, стандартным рассмотрением и усиленной оценкой должны быть явно прописаны в политическом тексте.
В-третьих, оценка должна быть открыта для обжалования и обучения. Ученики, родители и учителя — не только лица, о которых принимают решения, но и носители информации о реальном эффекте системы. Записи обращений и инцидентов не следует закрывать как защитное досье; они должны возвращаться к улучшению модели, образования и политики.
В-четвёртых, учреждения должны заранее объявить свои красные линии. В ситуациях, когда нельзя установить правовое основание обработки данных, высокозначимое решение основано исключительно на выходе искусственного интеллекта, дизайн манипулирует ребёнком, эффективная человеческая проверка невозможна, серьёзный групповой вред неустраним или критическая информация поставщика не подтверждена, «неиспользование» должно быть реальным политическим выбором. Если оценка воздействия станет лишь более упорядоченным способом сказать «да» использованию, она утратит свою основную функцию.
Первый период искусственного интеллекта в образовании был периодом открытия того, что могут делать инструменты. Новый период, начавшийся с YAZEK, требует, чтобы использования стали видимыми, прослеживаемыми и ответственными. Следующий порог требует ещё более высокой институциональной зрелости: учреждение должно показать не только то, что оно использует искусственный интеллект, но и почему использует, какие доказательства сочло достаточными, какой риск не приняло и при каком условии откажется.
EYZED — предложенный для этой цели мост. С одной стороны — режим этической декларации и мониторинга YAZEK; с другой — защита персональных данных, права ребёнка, педагогическое качество, измерительная наука, кибербезопасность и управление закупками. Мост несёт не новую форму, а обоснованное институциональное решение.
Самой содержательной работой, которую можно начать сегодня, может быть не написание длинного политического текста. Учреждение может выбрать три разных сценария искусственного интеллекта, которые оно всё ещё использует, и провести пилотный EYZED с такими вопросами: какую потребность удовлетворяет это использование? Какие видимые и невидимые последствия оно порождает для ученика? Какие доказательства у нас есть? Какое решение необратимо? Кто может посмотреть второй раз? Что заставит нас остановить систему?
Ответы на эти вопросы сами сделают видимым набор политик, который нужен учреждению. Образовательное учреждение будущего — не то, которое больше всех использует искусственный интеллект. Это учреждение, которое знает, какой искусственный интеллект и где остановить, не сводя ученика к точке данных или постоянному прогнозу.
