Основатель
September 14, 2026
23 min read
То, что оценка на экране отображается под именем учителя, не доказывает, что её действительно поставил учитель. Если искусственный интеллект разобрал ответ, фактически взвесил критерии, предложил балл, а сотни результатов были утверждены одной операцией, настоящий правовой вопрос таков: человек лишь одолжил решению своё имя или он действительно сформировал его, объяснил и при необходимости изменил?
Открытый ответ ученика на экзамене оценивается системой с поддержкой искусственного интеллекта. Система предлагает 72 балла. В напряжённую экзаменационную неделю учитель проверяет результаты массово и утверждает предложенные баллы. Ученик спрашивает, почему использованный им метод был признан недостаточным. У учреждения есть только итоговый балл; выход модели на момент оценки не сохранён, версия использованного ключа оценивания не определена, какие элементы учитель рассмотрел отдельно — не зафиксировано. При повторном запуске модели на том же ответе она выдаёт 78 баллов.
В этом примере проблема не только в том, «ошибся ли искусственный интеллект». Сначала нужно ответить на три вопроса:
Кому юридически и институционально будет приписана оценка, сформировавшая балл?
Какое обоснование будет дано ученику, показывающее, почему его собственный ответ привёл к этому результату?
Как обжалование превратится в подлинное повторное рассмотрение, а не в простое воспроизведение результата той же системы?
Yapay Zekâ Uygulamaları Etik Beyan Sistemi (YAZEK) — Система этической декларации применения искусственного интеллекта Министерства национального образования (Millî Eğitim Bakanlığı, MEB), открытая для использования 2 февраля 2026 года, вывела применение искусственного интеллекта в образовании за рамки простого выбора технического инструмента в сферу институциональной ответственности, учёта и надзора.[1] Важнейшее сообщение системы и сопутствующего Руководства по этике применения искусственного интеллекта в образовании в отношении оценивания ясно: искусственный интеллект может помогать; но окончательная ответственность за такие результаты, как переход в следующий класс, оценки, дисциплина и подобные итоги, лежит на учителях и администраторах. Человек должен иметь возможность исправить выход; процесс принятия решения должен фиксироваться и подвергаться надзору; для субъекта данных должна существовать процедура обжалования.[2]
Однако фраза «окончательная ответственность лежит на человеке» не оживает от добавления кнопки подтверждения на экране. Эта фраза становится правовой гарантией только когда способ использования оценочных полномочий, обоснование, представленное ученику, след решения и путь исправления проектируются вместе. Соответствие при оценивании с искусственным интеллектом поэтому возникает не из того, что технический отдел тестирует модель; оно возникает из того, что измерение и оценка, право образования, защита персональных данных, права ребёнка, доступность, закупки и внутренние процедуры обжалования сходятся в одной архитектуре.
Эта статья не возвращается к формированию профиля ученика искусственным интеллектом или пересмотру договоров с поставщиками. Фокус уже, но последствия прямее: когда искусственный интеллект вносит вклад в образовательное решение, как будет доказан человеческий надзор, на каких уровнях будет построено обоснование и какой процедурой обжалование станет эффективным.
Оценка одновременно несёт как минимум три различных качества.
Во-первых, оценка — это утверждение об измерении и оценивании. Поскольку она говорит о том, в какой мере ученик достиг определённого результата обучения, она проверяется критериями педагогической науки: валидность, надёжность, объективность, применимость. Положения MEB о письменных и практических экзаменах также предусматривают, что инструменты оценивания проверяют компетенции учебной программы, результаты показываются ученику, даётся обратная связь при неполном усвоении и для определённых экзаменов действует путь обжалования.[3] Использование искусственного интеллекта не снимает этих обязанностей по измерению; напротив, оно усиливает необходимость сделать видимым, по какому критерию и на каком основании сформирован балл.
Во-вторых, оценка — это институциональное использование власти. Она может влиять на переход по курсу, выпуск, стипендии, уровневую группировку, зачисление в программу или дисциплинарный процесс. Правовой режим решения может различаться в государственной школе, частной школе, университете или курсах; но общее — итог принимается уполномоченным лицом или органом от имени учреждения. Модель поставщика услуг или внешняя платформа не могут сами по себе перехватить полномочие учителя или уполномоченного органа оценивать.
В-третьих, оценка — результат обработки персональных данных, относящихся к определённому или определяемому ученику. Текст ответа, аудиозапись, поведенческие данные, балл, обратная связь и выведенные из них показатели могут включать режим персональных данных. Поэтому законность, конкретная и законная цель, минимизация данных, точность, срок хранения, безопасность, информирование и права субъекта данных должны соблюдаться не только при обучении модели, но и при создании, записи, передаче и исправлении балла.[4]
Эти три грани не заменяют друг друга. Статистически согласованная модель не легитимирует неуполномоченный процесс принятия решения. Подпись уполномоченного учителя не делает недействительный инструмент оценивания научно надёжным с педагогической точки зрения. Текст информирования, соответствующий защите персональных данных, не даёт ученику академический путь обжалования для исправления неверной оценки. Надёжное проектирование соответствия рассматривает все три вместе.
Хотя человеческая ответственность, прослеживаемость и обжалование в документах YAZEK выражены отдельно, для оценивания это части одной процедурной цепи:
Человеческая ответственность требует, чтобы уполномоченное лицо могло понять и изменить выход модели;
Прослеживаемость требует возможности впоследствии показать, на каких данных, критериях, выходе модели и человеческом вмешательстве основывалась оценка;
Обжалование требует, чтобы неверный или несправедливый итог был эффективно пересмотрен и исправлен внутри учреждения.
Если один из этих элементов отсутствует, остальные в значительной мере перестают работать. Без записи нельзя доказать, что именно контролировал человек. Если ученику не дано понятное обоснование, становится неясно, против чего обжаловать. Без уполномоченного и независимого повторного рассмотрения обоснование остаётся лишь односторонним уведомлением. Если человек только утверждает результат модели, наличие человеческого имени в записях не доказывает, что решение по существу принято человеком.
Поэтому этическая декларация в YAZEK — не конец процесса, а его начало. Соответствие заявленному принципу в повседневной практике должно быть видно в должностных инструкциях, экранных полномочиях, рабочем процессе оценивания, политике учёта и файле обжалования. Подлинным доказательством соответствия служит не фраза «есть человеческий надзор», а след решения, способный показать, как этот надзор осуществлялся в отношении конкретного ученика.
Вводить в заблуждение рассматривать оценивание с поддержкой искусственного интеллекта как одну категорию. Система может только отмечать орфографические ошибки; группировать ответы перед учителем; предлагать черновую обратную связь или баллы по рубрике; автоматически передавать балл в информационную систему ученика. Правовая ценность человеческого вмешательства определяется не названием инструмента, а тем, в какой мере оно фактически направило итог.
В вспомогательном инструменте система редактирует текст, группирует похожие ответы или отмечает определённые моменты; учитель напрямую оценивает фактический ответ и критерий. В рекомендательной системе формируются черновые баллы или обратная связь; учитель должен независимо оценить рекомендацию и иметь полномочие и достаточное время для её изменения. В де-факто определяющей системе баллы по умолчанию принимаются массово или отклонение становится исключением; номинального утверждения недостаточно — нужны подлинное рассмотрение и след вмешательства по каждому ученику, а не выборочная проверка. При полностью автоматизированном решении итог применяется напрямую без содержательной человеческой оценки; правовое основание использования оценивается отдельно, при неблагоприятных исходах вступают в силу права субъекта данных, включая KVKK ст. 11/1-g.
Статья 11(1)(g) Закона № 6698 о защите персональных данных (Kişisel Verilerin Korunması Kanunu, KVKK) предоставляет право возражать против результата, возникшего в ущерб лицу в результате анализа обрабатываемых данных исключительно автоматизированными системами. Нельзя сказать, что эта норма автоматически применяется к каждой оценке с поддержкой искусственного интеллекта: условия автоматизированного анализа, исключительной автоматизации и неблагоприятного исхода должны оцениваться в конкретном случае по отдельности. При подлинном и эффективном рассмотрении учителем процесс в целом может не считаться автоматизированным. Вместе с тем нельзя заранее полагать, что формальный щелчок в каждом случае создаёт «человеческое решение».[5]
В решении Суда Европейского союза по делу SCHUFA, где балл играет определяющую роль в решении третьего лица, само производство балла было рассмотрено как процесс, который может нести характер автоматизированного решения.[6] Это решение не является прямо обязательным для турецкого права и не касается школьного оценивания. Тем не менее оно содержит важное сравнительное предупреждение: правовая квалификация должна смотреть не на то, чьё имя на финальном экране процесса, а на то, в какой мере балл фактически определил последующее решение.
Образовательные учреждения поэтому не должны полагаться только на условие использования с формулировкой «окончательное решение за учителем». Следующие обстоятельства должны рассматриваться вместе:
Видит ли учитель оригинальный ответ ученика или только сводку модели?
Представлены ли критерии оценивания и ограничения модели в понятной форме?
Усиливает ли интерфейс предвзятость автоматизации, делая предложенный балл значением по умолчанию?
Есть ли у учителя достаточно времени на рассмотрение каждого ученика?
Влечёт ли отход от системы дополнительное утверждение, объяснение или давление по показателям?
Когда учитель меняет балл, отражается ли изменение в системе итогов?
Может ли учреждение отслеживать расхождения между рекомендацией модели и итоговой оценкой и человеческое вмешательство?
Ответ на эти вопросы показывает, является ли искусственный интеллект инструментом, рекомендацией или де-факто субъектом решения.
Человеческий надзор ранее обсуждался в образовательных технологиях по осям «знание, полномочие и обоснование».[7] В оценивании следующий необходимый шаг — превратить это понятие в доказуемый стандарт решения. В этой статье это можно назвать обоснованным человеческим принятием на себя. Это выражение — не вновь определённое в законе право и не официальный термин YAZEK; это политический критерий, делающий применимыми существующие обязанности в сфере образования, защиты данных и институциональной подотчётности.
Для обоснованного человеческого принятия на себя уполномоченный оценщик должен:
иметь доступ к фактическому ответу ученика, действующему критерию оценивания и необходимому контексту;
знать, какую функцию выполнял искусственный интеллект и его основные типы ошибок;
иметь подлинное полномочие и достаточное время принять, отклонить или изменить рекомендацию;
иметь возможность сформировать собственную академическую оценку независимо от результата модели;
иметь возможность объяснить причину итога, специфичную для ученика;
иметь возможность в надлежащей мере зафиксировать вмешательство или причину принятия рекомендации.
Цель здесь не в том, чтобы заставлять учителя писать длинное правовое заключение на каждый балл. Цель — сделать ответ «система так выдала» невозможным, когда итог оспаривается. Учитель или орган должен сформировать собственное профессиональное суждение; учреждение должно обеспечить условия труда, в которых это суждение действительно может быть применено.
Этот критерий также предотвращает одностороннее возложение ответственности на учителя. Недостаточное обучение, избыточная нагрузка, интерфейс, допускающий только массовое утверждение, несохранённые выходы модели или нераскрытые поставщиком изменения версий — вопросы институционального проектирования и организации. Принцип «окончательная ответственность на учителе» не может использоваться как отказ от ответственности, устраняющий институциональную ответственность.
Когда ученик спрашивает «почему я получил 72?», три различные потребности в объяснении могут смешиваться.
Первая — системное объяснение того, как система работает в целом: в каких курсах и заданиях используется искусственный интеллект, какие данные обрабатывает, предлагает ли баллы или только даёт обратную связь, какие ограничения известны и какова роль человека?
Вторая — обоснование решения в отношении конкретного ученика: по какому результату обучения и критерию оценивания оценён этот ответ, какой элемент признан достаточным или недостаточным, в какой мере искусственный интеллект внёс вклад в итог и какую оценку сделал уполномоченный человек?
Третья — технический и институциональный файл рассмотрения, который может открываться только уполномоченным надзорным органам: здесь находятся детали — использованная модель и версия, записи ввода-вывода, результаты тестов, пороговые значения, журналы доступа, изменения и человеческое вмешательство.
Эти уровни различаются по цели и уровню доступа.
Предварительное информирование направлено ученику и родителю; минимальное содержание охватывает задачу искусственного интеллекта, категории данных, роль человека, основные ограничения и путь обращения. Индивидуальное обоснование для ученика адресовано адресату итога; оно должно включать применённую рубрику, соответствующие элементы ответа, причины балла, вклад искусственного интеллекта, субъекта окончательного решения и процедуру обжалования. Надзорный файл предназначен для уполномоченного учителя, органа обжалования, оператора данных и при необходимости надзорного или судебного органа; в нём хранятся фактическая работа, версия рубрики, фактически использованные ввод и вывод, информация о модели/версии/времени, действия человека, а также записи тестов и инцидентов.
Содержательное обоснование не означает передачу ученику всей математической структуры модели или исходного кода. В деле Dun & Bradstreet Austria Суд Европейского союза подчеркнул, что информация о логике автоматизированного решения должна быть пригодна для того, чтобы субъект данных понял решение и возразил против него — краткой и понятной — и что передача только сложной формулы может не служить этой цели.[8] Решение снова не является прямо обязательным для турецкого права образования. Тем не менее оно даёт полезное различие для проектирования обоснования: техническая объяснимость и обоснование конкретного решения — не одно и то же.
Индивидуальное обоснование для ученика должно как минимум отвечать:
Какой вопрос, результат обучения и версия рубрики применялись?
Какой конкретный элемент в ответе ученика принёс или лишил баллов?
Какую функцию выполнял искусственный интеллект: классификация, отметка ошибок, черновой балл, обнаружение сходства или обратная связь?
Совпадала ли рекомендация искусственного интеллекта с итоговой оценкой; внёс ли человек исправление?
Какое уполномоченное лицо или подразделение приняло окончательное решение?
В какой срок и по какому каналу ученик может запросить повторное рассмотрение?
Коммерческая тайна, безопасность системы и данные третьих лиц, разумеется, должны защищаться. Но эти интересы не могут стать общим основанием для отсутствия какого-либо конкретного объяснения. Конфликтующие интересы можно сбалансировать, дав ученику функциональное объяснение и сохраняя более чувствительные технические материалы в надзорном файле с ограниченным доступом. Для эффективного обжалования ученику не нужно знать скрытую цепочку рассуждений модели; ему нужно знать, по какому критерию его собственный ответ был связан с этим итогом.
Генеративные системы искусственного интеллекта могут давать разные выходы на один и тот же ввод в разное время. Модель или системная инструкция может измениться; поставщик может сделать тихое обновление; настройки вроде температуры или внешние источники данных могут влиять на результат. Поэтому повторный запуск модели при обжаловании не доказывает, как сформировалось первое решение.
Первой задачей обжалования должен быть не повторный вызов модели, а заморозка происхождения решения. Пропорциональный след решения должен связывать:
оригинальную работу, сданную учеником, и время сдачи;
вопрос, результат обучения, ключ ответов или версию рубрики, действовавшие в тот момент;
содержание, фактически переданное искусственному интеллекту, и выход, фактически произведённый системой;
информацию о модели, поставщике, версии, конфигурации и времени в доступной мере;
какие экраны видел учитель, какие изменения внёс и когда утвердил итог;
балл, краткое обоснование и информацию об обращении, сообщённые ученику;
решение по обжалованию и отражение исправления во всех связанных системах.
Здесь «хранить всё бессрочно» — не правильный ответ. Объём записи должен определяться целью и уровнем риска; данные учеников не должны дублироваться без необходимости; права доступа должны ограничиваться; срок хранения должен определяться с учётом экзаменационных и обжаловательных периодов, правовых обязанностей учреждения и возможных споров. Не менее важны целостность следа решения, временная метка, безопасность доступа и процедура удаления.
Регламент Европейского союза об искусственном интеллекте в своей сфере применения также связывает человеческий надзор в системах высокого риска со способностью понимать возможности и ограничения системы, замечать предвзятость автоматизации, интерпретировать выход, отменять, обращать или останавливать систему. Доступ к образовательным учреждениям, оценка результатов обучения и мониторинг запрещённого поведения на экзаменах в определённых условиях отнесены к сферам использования высокого риска.[9] Нельзя предполагать, что регламент будет прямо применяться к каждому образовательному учреждению и каждому использованию в Турции; национальный и материальный охват должны рассматриваться отдельно. Тем не менее он даёт сильный сравнительный ориентир соответствия для совместного проектирования учёта и человеческого вмешательства.
Когда ученик обжалует оценку с поддержкой искусственного интеллекта, самое простое техническое решение — снова отправить ответ в ту же модель и получить второй балл. Это может быть полезно как тест согласованности; но само по себе это не повторное рассмотрение. Второй выход, связанный с той же формой ошибки, той же предвзятостью или тем же неверным толкованием рубрики, не может считаться независимой проверкой первого решения.
Эффективный процесс обжалования должен включать восемь этапов:
Доступное обращение: ученик и, где уместно, родитель должны иметь возможность обратиться по короткому, понятному, соответствующему возрасту каналу без избыточных формальных требований.
Сохранение дела: оригинальная работа, рубрика, первый выход модели и записи действий человека должны храниться в неизменяемой форме.
Объём обращения: ученика не следует принуждать говорить только «модель ошиблась»; он должен иметь возможность заявить об академической оценке, использованном критерии, точности данных, дискриминационном эффекте, проблеме доступности или процедурном недостатке.
Независимый первый взгляд: особенно при решениях с высоким воздействием второй оценщик по возможности должен оценить оригинальный ответ по рубрике до того, как увидит балл искусственного интеллекта. Это снижает эффект якорения от первого числа.
Сравнение и расследование: независимая оценка должна сравниваться с первым итогом; при существенном расхождении следует изучить рубрику, выход модели, контекстную информацию и записи.
Подлинное полномочие изменить: орган обжалования должен иметь возможность изменить оценку, отменить действие или распорядиться о новой оценке. Поддержка поставщика может быть получена; окончательное рассмотрение не может быть передано поставщику.
Обоснованный итог: ученику должно быть сообщено, как оценено каждое заявление, изменился ли итог и при необходимости следующий путь обращения.
Распространение исправления: изменение не должно оставаться только в журнале оценок; профиль успеваемости, стипендия, уровень, индикатор риска, переход или системы уведомлений, питаемые этой оценкой, также должны быть исправлены.
Документы MEB по измерению и оценке дают важную внутреннюю основу для этой архитектуры. Письменные и практические экзамены предусматривают показ экзаменационных работ ученику, ограниченный по сроку путь обжалования результатов и обратную связь. Кроме того, открытые вопросы в общих письменных экзаменах, проводимых в электронной форме или с оцифровкой листов ответов, оцениваются двумя независимыми оценщиками; при невозможности устранить разногласие предусмотрено обращение к старшему оценщику.[10]
Это правило двойного оценивания — не общее правовое правило, автоматически применимое на каждом учительском экзамене или при каждом использовании искусственного интеллекта. Но оно делает видимой важную процедурную идею: в открытой образовательной оценке надёжность может создаваться не только из должности первого оценщика, но и из сравнения независимых взглядов и механизма разрешения разногласий. Та же идея может быть перенесена в институциональную политику пропорционально риску для решений с высоким воздействием с поддержкой искусственного интеллекта.
Независимое рассмотрение не означает создание отдельной комиссии для каждого короткого упражнения. Интенсивность гарантий должна возрастать в зависимости от воздействия решения на ученика, обратимости, роли искусственного интеллекта и вероятности распространения ошибки.
Решения с низким воздействием — такие использования, как формирующая обратная связь, тренировочный вопрос или рекомендация; достаточно предварительной информации об использовании искусственного интеллекта, лёгкого исправления учителем, канала сообщения об ошибках и выборочного контроля качества. Решения, влияющие на оценку, вносят вклад в домашнее задание, проект, внутриклассный экзамен или итоговую оценку; требуются рассмотрение человеком по каждому ученику, рубрика и краткое обоснование, запись первого решения, своевременное обжалование и по возможности другой оценщик. Решения с высоким воздействием охватывают переход в класс, выпуск, зачисление в программу, стипендию, дисциплину или значительное уровневое размещение; требуются более сильная независимость, при необходимости комиссия или старший оценщик, подробный след решения, быстрая временная мера, обоснованное решение и исправление всех производных итогов.
Независимость второго оценщика не следует измерять только организационной схемой. Лицо, чья эффективность оценивается по защите первого решения, подчинённое тем же целям массового утверждения или видящее только выход, повторно запущенный поставщиком, может не быть функционально независимым. В небольшом учреждении рассмотрение определённых дел другим учителем, заведующим кафедрой или комиссией на основе риска может быть достаточным. Критерий — подлинный второй взгляд, уполномоченный на повторную оценку, а не на подтверждение первого итога.
При решениях с высоким воздействием и приближающимися сроками само ожидание итога обжалования может причинить трудноустранимый вред. Если на кону срок подачи на стипендию, продление регистрации, выпуск или дисциплинарная мера, учреждение должно определить в процедуре меры вроде временной приостановки действия решения, условного отношения к ученику или ускоренного рассмотрения. Эффективное обращение — не то, что существует только теоретически, а то, что работает, пока итог ещё можно исправить.
Нельзя всегда ожидать, что ученик диагностирует источник технической ошибки. Форма обращения должна позволять заявить одно или несколько из следующих:
применение неверной или иной версии ключа ответов или рубрики;
непризнание правильного ответа из-за языка, формы изложения или альтернативного метода решения;
учёт моделью данных, не относящихся к ответу, или создание элемента, отсутствующего в ответе;
неотражение инвалидности, потребности в специальном образовании, языкового различия или адаптации в оценке;
неверные, устаревшие или нерелевантные персональные данные;
использование неуполномоченного инструмента или неутверждённой версии;
отсутствие человеческого рассмотрения или рассмотрение, ограниченное только массовым утверждением;
необъяснимо разные баллы за ответы схожего качества;
непредварительное уведомление об использовании искусственного интеллекта или недостаточное обоснование;
другой недостаток, связанный с конфликтом интересов, беспристрастностью или процедурными правилами.
Этот список также может стать классификацией инцидентов учреждения. Закрытие обжалований только как «обосновано/необосновано» уничтожает ценную для соответствия информацию. Если видно, в какой версии модели, типе вопроса и группах учеников концентрируются какие типы ошибок, использование может быть сужено, рубрика изменена, обучение учителей обновлено или инструмент полностью остановлен.
В споре об оценке с поддержкой искусственного интеллекта нельзя смешивать академическое обжалование, этическое уведомление YAZEK, обращение по KVKK и административные или договорные пути. Их цель, адресат и итог различны.
Обжалование оценки или экзамена направлено на повторное рассмотрение академической оценки и процедуры; возможные итоги — пересчёт, сохранение или изменение оценки или новая оценка. Процесс этического уведомления YAZEK рассматривает соответствие использования искусственного интеллекта этической рамке MEB; могут последовать этическое рассмотрение, корректирующая мера и передача в высший орган, но нельзя предполагать, что этот путь сам по себе изменит оценку. Обращение субъекта данных по KVKK предназначено для информации об обработке персональных данных, доступа, исправления и при наличии условий — возражения против автоматизированного итога; вступают в силу ответ оператора данных, исправление/удаление данных или повторная оценка и пути обращения и жалобы по закону. Административный, судебный или договорный путь проверяет соответствие решения закону, институциональным положениям и отношениям сторон; в зависимости от конкретного режима возможны отмена, исправление, компенсация или другие итоги.
Цепочка этического уведомления и оценки в YAZEK важна для рассмотрения этической уместности использования искусственного интеллекта внутри учреждения.[11] Но эта цепочка не приостанавливает автоматически срок обжалования оценки и не заменяет академическую повторную оценку. Аналогично обращение по KVKK не во всех случаях является органом, решающим академическую правильность оценки. Учреждение может предложить ученику «единую дверь»; но оно должно направлять обращение внутри в правильные процессы и не создавать впечатления, что один путь исключает обращение по другому.
Даже если условия KVKK ст. 11/1-g не выполнены, могут оставаться в силе другие права: узнать, обрабатываются ли данные, запросить информацию, узнать, соответствует ли использование цели, потребовать исправления неверных данных.[12] Экзаменационное законодательство, внутренние положения, договоры с учениками и публично-правовые гарантии также должны оцениваться отдельно в зависимости от конкретного учреждения. Проектирование обращения поэтому не должно привязываться только к порогу «есть ли автоматизированное решение».
Хорошо спроектированный механизм обжалования не только разрешает индивидуальные споры; он показывает реальную производительность использования искусственного интеллекта учреждением. Лабораторные тесты показывают, что модель делает на ожидаемых примерах; обжалования рассказывают, что пережил ученик в неожиданных ситуациях.
Не дублируя без необходимости персональные данные и не создавая новых рисков для групп, учреждение может отслеживать:
число обжалований и долю по типу решения;
долю отменённых или исправленных решений;
величину исправления балла;
расхождение между первым и вторым оценщиком;
число решений без обоснования или с неполной записью;
кластеры ошибок по модели, версии, типу вопроса и курсу;
распределение заявлений о доступности, языковом различии или дискриминации;
срок завершения рассмотрения обращения;
достигло ли исправление производных систем.
Эти показатели не должны превращаться в новую систему оценки, автоматически ранжирующую учителей или учеников. Такое вторичное использование дополнительно требует оценки цели, правового основания, пропорциональности и справедливости. Цель здесь не ранжировать лиц, а улавливать повторяющиеся риски в процессе.
Если доля отмен растёт в определённой версии модели, использование может быть приостановлено. Если оценщики постоянно расходятся по определённым типам вопросов, рубрика может быть пересмотрена. Если люди почти никогда не отклоняются от рекомендации модели, причиной может быть дизайн интерфейса или нагрузка, а не исключительная точность. Данные обжалования поэтому связывают мониторинг соответствия, управление изменениями модели и актуальность декларации YAZEK учреждения.
Если человеческий надзор, обоснование и обжалование разбросаны по разным политикам, в практике возникают пробелы. Отдельная Процедура образовательного решения с поддержкой искусственного интеллекта и обжалования, связывающая политики информационной безопасности, персональных данных, измерения-оценки и искусственного интеллекта образовательного учреждения, может закрыть этот пробел.
Эта процедура должна охватывать как минимум следующие восемь разделов:
Охват и реестр решений: в каком курсе, экзамене, задании, дисциплинарном, зачислительном или консультационном решении используется какая функция искусственного интеллекта.
Классификация воздействия: значимость решения, обратимость, возраст ученика, возможность специальных категорий данных и де-факто определяющая роль модели.
Матрица полномочий: кто может использовать систему, кто принимает окончательное решение, кто рассматривает обжалование и кто может остановить систему.
Стандарт человеческого рассмотрения: доступ к фактическому ответу, использование рубрики, обучение, время, полномочие изменить и запись вмешательства.
Стандарт объяснения: отдельное содержание предварительного информирования, индивидуального обоснования для ученика и ограниченного надзорного файла.
След решения и хранение: какие записи, на какой срок, с какими мерами безопасности и правами доступа.
Обжалование и исправление: канал обращения, срок, независимость, временная мера, формат решения и распространение исправления на все связанные системы.
Мониторинг и управление изменениями: показатели обжалования, изменения модели/версии, повторное тестирование, управление инцидентами, сужение или прекращение использования.
Договор с поставщиком также должен поддерживать эту процедуру. Продукт, к которому у учреждения нет доступа к информации о модели и версии, записям фактических выходов, уведомлению об изменениях и технической поддержке, необходимой для рассмотрения, может сделать эффективное обжалование невозможным, даже если на экране предлагается «человеческое утверждение». Одного договора тем не менее недостаточно: пользовательский экран, нагрузка учителя, правила экзаменов и внутреннее делегирование полномочий должны быть приведены к тому же стандарту.
Этическое руководство MEB предлагает рамку для процессов образования, обучения и управления в центральном, провинциальном и зарубежном аппарате министерства и в официальных и частных дошкольных, начальных и средних учреждениях.[13] Университеты не следует оценивать в рамках этого институционального охвата YAZEK. В высшем образовании полномочия принятия решений, положения об экзаменах и обжаловании, характер государственного или вузовского университета и процессы персональных данных должны рассматриваться отдельно через собственные правовые документы.
Тем не менее базовая архитектура, построенная в этой статье, имеет более широкую ценность. Если искусственный интеллект производит выход, влияющий на оценку, дисциплину, стипендию, доступ к программе или академический прогресс ученика, учреждение должно иметь возможность ответить на четыре вопроса:
Насколько система была эффективна в решении по существу?
Какую оригинальную оценку сделал уполномоченный человек?
Смог ли ученик понять причину своего итога?
Могла ли ошибка быть исправлена эффективно и независимо от системы, произведшей итог?
Эти вопросы могут принимать разные формы в частной школе через договорные и потребительские отношения, в государственной школе через законодательство об образовании и административную деятельность, в университете через внутренние академические положения. Но ни один не должен оставаться лишь «этическим принципом»; каждый должен быть превращён в процедуру, работающую через обязанность, запись, срок и полномочие.
В оценивании с поддержкой искусственного интеллекта надёжность возникает не только из среднего показателя точности модели. Для ученика надёжная система — та, которая может показать, по какому критерию оценён его собственный ответ, не скрывает роль модели, доказывает, что уполномоченный человек действительно решил, и предлагает эффективный второй взгляд при ошибке.
Поэтому ответ на вопрос «Кто поставил оценку?» не может состоять из имени пользователя. Правильный ответ должен быть: уполномоченный человек, который видел фактическую работу, мог независимо оценить рекомендацию искусственного интеллекта, имел полномочие изменить итог, построил индивидуальное обоснование для ученика и может ответить за это решение. Учреждение не должно прятаться за этим человеком; оно должно обеспечить необходимое время, обучение, интерфейс, систему учёта и орган обжалования.
Оценка — не число, произведённое системой. Оценка — институциональный итог, способный объяснить, какой результат обучения оценён на каком основании в каком ответе ученика. Второй ответ той же модели — тоже не второе рассмотрение. Подлинная гарантия — человеческий взгляд, способный мыслить вне технологии и изменить первый итог.
Для соответствия YAZEK следующий шаг учреждений — проверить свои общие этические декларации анализом пробелов в решениях и обжаловании: в каждой точке, где искусственный интеллект затрагивает оценку, должны проверяться де-факто определяющая роль, человеческое принятие на себя, индивидуальное обоснование для ученика, след решения и распространение исправления. Процедура образовательного решения с поддержкой искусственного интеллекта и обжалования, подготовленная по результатам этого анализа, может объединить политику искусственного интеллекта учреждения, порядок измерения-оценки, процессы KVKK и контроль поставщиков на одной применимой карте.
Редакторское примечание: Эта работа подготовлена в целях общего информирования. Она не заменяет правовое заключение для конкретного учреждения или спора. Применимое законодательство и путь обращения должны оцениваться отдельно в зависимости от характера учреждения, типа решения, функции используемой системы и конкретной деятельности по обработке данных.
