Ссылаться на эту работу следует следующим образом:
М.В.Замыслов, И.И.Лавреш. Принципы и алгоритм взаимодействия преподавателя с системами искусственного интеллекта: проблема защиты персональных данных // Письма в Эмиссия.Оффлайн (The Emissia.Offline Letters): электронный научный журнал. 2026. №6 (июнь). ART 3725. URL: http://emissia.org/offline/2026/3725.htm

Специальность ВАК 5.8.7.
УДК 372.862

Замыслов Михаил Владимирович
аспирант, кафедра технологического и профессионального образования, Сыктывкарский государственный университет им. Питирима Сорокина, г. Сыктывкар
m1ha5a@yandex.ru

Лавреш Иван Иванович
кандидат технических наук, доцент, кафедра информационной безопасности, Сыктывкарский государственный университет им. Питирима Сорокина, г. Сыктывкар
Ilavresh@mail.ru

Аннотация
Рассматриваются риски, связанные с использованием систем искусственного интеллекта преподавателями образовательных организаций и приводящие к компрометации персональных данных обучающихся. Предлагаются принципы взаимодействия преподавателя с системами искусственного интеллекта и универсальный алгоритм поведения, обеспечивающий минимизацию рисков утечки персональных данных.

Ключевые слова: искусственный интеллект, преподавание, персональные данные.

----------------

Mikhail V. Zamyslov
Postgraduate Student, Department of Technological and Vocational Education, Pitirim Sorokin Syktyvkar State University, Syktyvkar
m1ha5a@yandex.ru

Ivan I. Lavresh
Candidate of Technical Sciences, Associate Professor, Department of Information Security, Pitirim Sorokin Syktyvkar State University, Syktyvkar
Ilavresh@mail.ru

Abstract
This article examines the risks associated with the use of artificial intelligence systems by teachers in educational institutions, which can lead to the compromise of students' personal data. It proposes principles of teacher interaction with artificial intelligence systems and a universal behavioral algorithm to minimize the risk of personal data leakage.

Key words: artificial intelligence, teaching, personal data.

----------------

Системы искусственного интеллекта (далее ИИ) становятся распространенным инструментом работы преподавателя, автоматизируют многие процессы, связанные с его деятельностью, начиная от составления учебного плана и заканчивая автоматической проверкой результатов выполнения работ студентами. Между тем, следует иметь в виду, что в любой информационной системе, предназначенной для работы с пользователями, существует риск утечки персональных данных.

Разработчики информационных систем, как правило, соблюдают правила обработки и хранения персональных данных, защищающие от утечек, однако частой причиной утечек становится человеческий фактор, исходящий от самих пользователей. Многие педагоги, в силу неосведомленности, отправляют системам ИИ корпоративные документы, персональные сведения, результаты, защищенные авторским правом. Возникает задача создания методологических основ использования систем ИИ преподавателями образовательных организаций.

Прежде всего, необходимо определиться с тем, что является нормативной базой, на которую следует опираться преподавателю при использованим систем ИИ в образовательных целях. В настоящее время - это закон «О персональных данных» [1], а также методические рекомендации Роскомнадзора к этому закону [2]. Данные документы являются основополагающими в вопросе обработки персональных данных. Для работы в образовательных организациях хорошей опорой также может служить ГОСТ Р 70949-2023, который регламентирует использование технологий ИИ в научно-исследовательской деятельности [3].

Риск утечки персональных данных пользователей является главным риском, связанным с применением систем ИИ в образовании. По состоянию на 2025 год, суммарный объем утечек персональных данных в России составил около 13 миллиардов строк [4]. Второй риск связан с корпоративной культурой и заключается в пересылке множества корпоративных документов, которые, в большинстве своем, имеют ограниченный доступ. Обычно отправка таких документов не содержит злого умысла, а является следствием неоправданного доверия процесса обработки документов системе ИИ [5]. Риском данную ситуацию делает потенциальная компрометация организации - ведь в утечке может оказаться множество внутренней документации: приказов, распоряжений, служебных записок. И третьим, наиболее распространенным риском является неверный подход к обработке персональных данных обучающихся, который заключается, к примеру, в передаче функции проверки студенческих работ системе ИИ [6].

Исходя из вышесказанного, можно обозначить основные методологические принципы работы с системами ИИ:

1. Принцип минимизации данных. Принцип заключается в использовании только такого массива данных, который необходим для корректной работы той или иной системы. Не следует предоставлять ей весь пласт доступных данных студента, только самое необходимое, например пол или возраст студента. Главными вопросами, которые должен задать себе преподаватель являются: «Какая у меня цель?»; «Какие данные для ее достижения необходимо предоставить?»; «Что из имеющихся данных является избыточным?» [7];
   
   
2. Принцип прозрачности и информированности субъекта персональных данных [8]. Преподаватель должен четко разъяснить студентам:

 
1. Какие данные будут обрабатываться.
   
   
2. Каким образом они буду обрабатываться.
   
   
3. Где локализированы данные - в России или за рубежом?
   
   
4. На протяжении какого срока будут обрабатываться данные и можно ли отказаться от их обработки.
   
   
5. Существуют ли альтернативные решения в случае отказа студента от обработки своих персональных данных.
   
   
3. Принцип безопасности по умолчанию. Со стороны преподавателя должны быть предприняты все необходимые средства защиты данных обучающихся, которые он обрабатывает при помощи систем ИИ [9]. В числе таких средств: сложные пароли, использование корпоративных учетных записей, двойная аутентификация и т.п. Задания, которые дает преподаватель, не должны требовать внесения персональных данных, быть по своей сути обезличенными.
   
   
4. Принцип разделения полномочий и контроля доступа. Любая потенциальная обработка персональных данных преподавателем должна иметь определенные ограничения, начиная от возможностей преподавателя, заканчивания полным распределением ролей, например: ВУЗ, институт, кафедра, преподаватель, где за каждой ролью закреплен тот или иной набор возможностей в аспекте обработки персональных данных.

Исходя из принципов, приведенных выше, можно вывести алгоритм безопасной обработки преподавателем персональных данных студентов:

1. Оценка необходимости использования системы ИИ в конкретной ситуации. Этот первый шаг опирается на первый из перечисленных выше принципов: преподавателю следует определить необходимость использования системы ИИ, нередко ее применение не требуется, ибо работа в ручном режиме выполняется проще и быстрее.
   
   
2. Выбор необходимой системы ИИ с учетом требований и локализации данных. После оценки необходимости использования системы ИИ следует конкретизировать нужную систему - она должна соответствовать основным требованиям обработки персональных данных. Предпочтение следует отдавать такие системам, данные локализованным в России.
   
   
3. Получение согласия обучающихся на обработку персональных данных в соответствии со вторым принципом – согласия и информированности субъекта.
   
   
4. Анонимизация и псевдонимизация данных перед выгрузкой в систему ИИ. Этот шаг подразумевает максимальное «обезличивание» данных. Замена ФИО, номеров студенческих и других данных на более нейтральные, например: «мужчина, 26 лет».
   
   
5. Настройка технических средств защиты. Приведение преподавателем своего технического устройства, при помощи которого планируется использование систем ИИ, к максимальной безопасности. Этот шаг опирается на третий принцип, который требует использования корпоративной учетной записи, сложных паролей и т.п.
   
   
6. Мониторинг использования систем ИИ. Необходимо мониторить работу системы с целью своевременного выявления необычного поведения, которое может привести к утечке и последующей компроментации данных.
   
   
7. Реакция на внештатные ситуации. При возникновении нештатной ситуации преподавателю следует немедленно информировать о ней технический отдел, принять участие в ликвидации последствий, если таковые имеются, а также проинформировать студентов о произошедшем инциденте.

При соблюдении вышеописанных принципов и следовании алгоритму по работе с системами ИИ, преподаватели могут существенно снизить риск утечки персональных данных и тем самым обезопасить себя, обучающихся и учебное заведение. Вероятно, приведенные принципы могут в перспективе быть дополнены, а алгоритм - пополниться новыми шагами или напротив, избавиться от некоторых в соответствии с прогрессом в области разработки систем ИИ.

Авторы заявляют об отсутствии потенциального или явного конфликта интересов.
Вклад авторов:
И.И. Лавреш – идея, источники, редактирование текста.
М.В. Замыслов – исследование, подготовка рукописи.

Литература

1. «Федеральный закон от 27.07.2006 № 152-ФЗ «О персональных данных». [Электронный ресурс]. Доступ из справ.-правовой системы «КонсультантПлюс»

2. «Памятка по обработке персональных данных образовательными учреждениями». [Электронный ресурс]. URL: https://42.rkn.gov.ru/p32466/p32470/ [Дата обращения 01.06.2026]

3. «ГОСТ Р 70949 – 2023. Технологии искусственного интеллекта в образовании. Применение искусственного интеллекта в научно-исследовательской деятельности. Варианты использования». [Электронный ресурс]. URL: https://meganorm.ru/Data/814/81496.pdf [Дата обращения 01.06.2026]

4. «Объем слитых данных россиян вырос вчетверо, до 13 млрд строк». [Электронный ресурс]. URL: https://www.rbc.ru/society/23/09/2025/68d24e309a7947c037bff93e [Дата обращения 01.06.2026]

5. «Безопасность данных при внедрении искусственного интеллекта в компании». [Электронный ресурс]. URL: https://www.cloudav.ru/mediacenter/business/bjezopasnost-dannykh-pri-vnjedrjenii-iskusstvjennogo-intjelljekta-v-kompanii/ [Дата обращения 01.06.2026]

6. «Как утекают обучающие программы онлайн-школ, и что с этим делать». [Электронный ресурс]. URL: https://edtechs.ru/analitika-i-intervyu/kak-utekayut-obuchayushie-programmy-onlajn-shkol-i-chto-s-etim-delat/ [Дата обращения 01.06.2026]

7. Богатырева, Ю. И. Методическая система подготовки будущих педагогов к обеспечению информационной безопасности школьников / Ю. И. Богатырева // Современные проблемы науки и образования. 2014. № 1. С. 37. EDN SBKSSJ.

8. Организация работы по защите персональных данных при их обработке в образовательной организации: нормативно-правовое регулирование: методические рекомендации / авт.-сост. М.Ю. Соловьев. Владимир: ГАОУ ДПО ВО ВИРО, 2023. 68 с.

9. Ерофеева Елена Александровна, Ерофеева Елена Александровна ПРИМЕНЕНИЕ ИСКУССТВЕННОГО ИНТЕЛЛЕКТА ДЛЯ РЕШЕНИЯ ПРОБЛЕМ БЕЗОПАСНОСТИ И АНАЛИЗА ДАННЫХ В ОБРАЗОВАТЕЛЬНЫХ УЧРЕЖДЕНИЯХ // Вестник магистратуры. 2025. №4-2 (163).

Рекомендовано к публикации:
А.А.Ахаян, доктор педагогических наук, член Редакционной Коллегии

Literature

1. «Federal'nyy zakon ot 27.07.2006 № 152-FZ «O personal'nykh dannykh». [Elektronnyy resurs]. Dostup iz sprav.-pravovoy sistemy «Konsul'tantPlyus»

2. «Pamyatka po obrabotke personal'nykh dannykh obrazovatel'nymi uchrezhdeniyami». [Elektronnyy resurs]. URL: https://42.rkn.gov.ru/p32466/p32470/ [Data obrashcheniya 01.06.2026]

3. «GOST R 70949 – 2023. Tekhnologii iskusstvennogo intellekta v obrazovanii. Primeneniye iskusstvennogo intellekta v nauchno-issledovatel'skoy deyatel'nosti. Varianty ispol'zovaniya». [Elektronnyy resurs]. URL: https://meganorm.ru/Data/814/81496.pdf [Data obrashcheniya 01.06.2026]

4. «Ob"yem slitykh dannykh rossiyan vyros vchetvero, do 13 mlrd strok». [Elektronnyy resurs]. URL: https://www.rbc.ru/society/23/09/2025/68d24e309a7947c037bff93e [Data obrashcheniya 01.06.2026]

5. «Bezopasnost' dannykh pri vnedrenii iskusstvennogo intellekta v kompanii». [Elektronnyy resurs]. URL: https://www.cloudav.ru/mediacenter/business/bjezopasnost-dannykh-pri-vnjedrjenii-iskusstvjennogo-intjelljekta-v-kompanii/ [Data obrashcheniya 01.06.2026]

6. «Kak utekayut obuchayushchiye programmy onlayn-shkol, i chto s etim delat'». [Elektronnyy resurs]. URL: https://edtechs.ru/analitika-i-intervyu/kak-utekayut-obuchayushie-programmy-onlajn-shkol-i-chto-s-etim-delat/ [Data obrashcheniya 01.06.2026]

7. Bogatyreva, YU. I. Metodicheskaya sistema podgotovki budushchikh pedagogov k obespecheniyu informatsionnoy bezopasnosti shkol'nikov / YU. I. Bogatyreva // Sovremennyye problemy nauki i obrazovaniya. 2014. № 1. S. 37. EDN SBKSSJ.

8. Organizatsiya raboty po zashchite personal'nykh dannykh pri ikh obrabotke v obrazovatel'noy organizatsii: normativno-pravovoye regulirovaniye: metodicheskiye rekomendatsii / avt.-sost. M.YU. Solov'yev. Vladimir: GAOU DPO VO VIRO, 2023. 68 s.

9. Yerofeyeva Yelena Aleksandrovna, Yerofeyeva Yelena Aleksandrovna PRIMENENIYe ISKUSSTVENNOGO INTELLEKTA DLYA RESHENIYA PROBLEM BEZOPASNOSTI I ANALIZA DANNYKH V OBRAZOVATEL'NYKH UCHREZHDENIYAKH // Vestnik magistratury. 2025. №4-2 (163).

Замыслов Михаил Владимирович
Сыктывкарский государственный университет им. Питирима Сорокина, г. Сыктывкар
РИНЦ AuthorID: 1257758
SPIN-код: 1127-1993

Лавреш Иван Иванович
Сыктывкарский государственный университет им. Питирима Сорокина, г. Сыктывкар
РИНЦ AuthorID: 363852
SPIN-код: 5434-5850