Департамент образования Нью-Йорка ввёл запрет на использование генеративных нейросетей учениками государственных школ с первого по восьмой класс. Решение касается всех школ, подведомственных городскому департаменту — крупнейшей школьной системы США, в которой учатся около миллиона детей.
Под генеративными ИИ-инструментами в документе понимаются программы, которые создают текст, изображения, звук или видео по запросу пользователя. Самый известный пример — ChatGPT от компании OpenAI, однако запрет распространяется на любые подобные сервисы: чат-боты, генераторы изображений и кода, сервисы синтеза речи.
Школьникам запретили не только запускать такие программы на школьных компьютерах и в школьных сетях, но и пользоваться ими со своих личных устройств во время уроков и при выполнении домашних заданий. Исключение сделано для случаев, когда преподаватель сам включает нейросеть в план занятия и контролирует работу с ней — например, для разбора принципов работы ИИ или проверки фактов.
Формально речь идёт не о постоянном запрете, а о моратории на учебный год. Департамент мотивировал это решение тремя причинами. Во-первых, нейросети часто ошибаются в фактах и уверенно выдают вымысел за правду, а у младших школьников ещё нет навыков это замечать. Во-вторых, инструменты вроде ChatGPT собирают вводимые данные и могут использовать их для дальнейшего обучения моделей, что создаёт риски утечки детской информации. В-третьих, у разработчиков большинства генеративных сервисов в пользовательских соглашениях стоит возрастное ограничение от 13 лет и старше, а часть платформ требует не менее 16 или 18 лет.
Для учеников старших классов — с девятого по двенадцатый — прямого запрета нет. Школы получили рекомендацию самостоятельно решать, как и где допускать ИИ в учебном процессе, и обязаны уведомлять родителей, если такие инструменты используются на уроках. Департамент также пообещал до конца года пересмотреть политику с учётом развития технологий.
Решение Нью-Йорка совпало по времени с похожими шагами в других школьных системах США. Лос-Анджелес, Сиэтл и ряд округов Калифорнии ранее либо полностью заблокировали доступ к ChatGPT в школьных сетях, либо ввели временные ограничения. Федеральных правил использования генеративного ИИ в школах в Соединённых Штатах пока нет — каждый штат и каждый крупный округ вырабатывают собственные подходы.
Российские школы формально от подобого запрета далеки: прямых нормативных актов, запрещающих школьникам работать с генеративными нейросетями, Минпросвещения не публиковало. На практике же учителя и администрации школ и так относятся к ChatGPT и его аналогам с настороженностью — во многом из тех же соображений, которые назвал нью-йоркский департамент.
