高校AI 教学管理中的隐私保护问题研究

前言

人工智能（AI）技术的发展和应用对高校教学管理的变革提出了新要求，将AI 技术与高校教学管理深度融合，提升高校教学管理水平和效率，是当前教育信息化建设的重要内容。但由于AI 技术在教学管理中的应用还处于探索阶段，其应用还存在不少问题，人工智能技术在教学管理中的应用也给个人隐私保护带来了新的挑战 。因此，加强对AI 技术在教学管理中应用的隐私保护研究，对于提升教育服务质量和效率具有重要意义。

一、高校AI 教学管理中隐私保护问题探究

（一）数据收集环节的隐私风险

在AI 技术应用于高校教学管理中，涉及教师和学生两个主体。而高校作为教书育人的场所，是培养人才的基地，对学生的思想和行为进行全方位、多层次的监控是必不可少的。然而，当前高校教学管理过程中存在着教师数据收集不规范、不全面，学生数据收集不完整，以及学校数据收集不规范、不全面等问题。因此，如果AI 教学管理过程中缺乏对教师、学生和学校数据的有效保护，则会给高校师生带来隐私泄露风险 [2]。

（二）数据存储环节的隐私风险

AI 教学管理中的数据存储环节的隐私风险主要表现如下：第一，教学数据的存储可能导致个人信息泄露。当前，由于技术手段的不足，AI 教学管理系统只能在收集数据之后对其进行存储和备份，并不能对收集的数据进行有效管理。特别是在涉及学生隐私数据时，若存在技术缺陷或人为疏忽等因素，可能导致学生的个人信息泄露。第二，教学数据的存储可能会被非法利用。当前，AI 教学管理系统大多采用开源软件或自研软件。若存在不当的代码修改、开源软件或自研软件漏洞等问题，都有可能导致学生信息被非法利用。例如，若存在黑客攻击等人为因素，都有可能导致高校教学数据泄露。

（三）数据使用环节的隐私风险

数据在AI 教学管理中发挥着重要作用，其不仅能为教师、学生、学校等提供个性化服务，也是保障AI 教学管理的基础和前提。然而，数据在使用过程中也会产生隐私风险，AI 技术的应用也会产生数据，但在使用过程中也存在着数据安全问题，尤其是教师的个人信息和学生的个人信息[3]。在对高校AI 教学管理中的隐私风险进行探究时，需要从高校AI 教学管理中涉及到的各个环节进行分析。尤其原因主要是由于在高校AI 教学管理中，教育主管部门是监管的主体之一，但由于其对AI 技术在教学管理中应用缺乏系统全面的了解，致使其监管不力。此外，在教育主管部门进行AI 教学管理时，如果使用了不当或未经授权的技术手段，则可能会侵犯学生、教师、学校等的隐私权益。

（四）技术漏洞带来的隐私风险

人工智能技术在高校教学管理中的应用，涉及教师、学生、学校及政府等多方主体，在这种情况下，这些主体都将面临人工智能技术带来的隐私保护问题。比如，教师的教学信息、学生的学习数据、学校的教学信息以及政府的教育数据等都可能会被AI 技术所采集；另外，AI技术采集到这些信息后，也可能会被其他外部机构和组织所利用。所以，高校在AI 技术教学管理中需要将这些主体的隐私保护问题纳入到其相关制度和法律法规当中。

二、高校AI 教学管理中隐私保护的策略与建议

（一）加强数据收集管理

随着高校AI 教学管理中隐私保护问题的凸显，加强对隐私数据的管理与保护已成为当前高校教学管理工作中不可或缺的一部分。具体来说，一是要建立数据收集、使用及存储规范，制定合理、明确的数据采集、使用、存储规范；二是要完善数据采集流程，确保采集数据来源可靠，采集数据用途合法；三是要加强数据管理与保密，对收集的数据进行有效保密和授权；四是要增强对学生隐私信息的保护，加强对学生隐私的保护。

（二）强化数据存储安全

高校AI 教学管理涉及到学生、教师、学校及政府等多个方面，而每个方面都涉及到个人数据，这些数据是人工智能应用的基础。因此，如何加强对AI 教学管理中相关数据的存储安全，对于AI 教学管理的应用具有至关重要的作用。高校应采取一系列措施来加强对相关数据存储安全，保障教学管理过程中相关数据不被泄露或窃取，保障AI 教学管理中相关数据的完整性、可用性以及保密性，防止对隐私造成侵犯。

（三）规范数据使用流程

数据是AI 技术的核心，数据是AI 系统的重要组成部分，因此对数据的保护也就成为了高校AI 教学管理中最为关注的问题。在此背景下，高校应规范数据使用流程，建立完善的数据安全管理体系，采用先进的信息安全技术和管理制度，加强对AI 系统中产生的各种类型数据进行管理和保护，对个人隐私信息实行有效保护，确保数据安全、规范和有效地使用。另外，高校还应不断优化AI 教学管理平台建设，重视教师、学生及学校管理者等相关人员信息隐私保护意识的培养。此外，应积极寻求高校AI 教学管理平台的创新和优化发展模式，提高高校教育服务质量和效率。

（四）提升技术安全水平

随着人工智能技术的快速发展，高校AI 教学管理系统越来越多地应用于高校课堂教学和实验教学等场景。同时，随着高校AI 教学管理系统的不断发展，其技术安全水平也面临着更高要求，特别是在教师和学生的个人隐私保护方面。因此，在当前背景下，我国高校应该切实提升技术安全水平，采取有效措施，加强对师生个人隐私的保护。高校应该利用AI 技术建立AI 教学管理系统的安全评估体系。对已经使用的AI 教学管理系统进行升级和优化。在硬件方面，可以选择具有高安全性的硬件设备。在软件方面，可以从建立风险评估体系、规范数据使用流程、建立个人隐私保护制度等方面进行努力。

三、结束语

随着人工智能技术的发展和应用，AI 技术在教育领域的应用必将越来越广泛，但同时也会带来一系列问题。AI 教学管理的核心在于对教师、学生和学校以及政府等利益相关者的隐私保护，因此如何处理好个人信息的收集、使用和传播等问题，是高校AI 教学管理中亟待解决的重要问题。学校应该建立完善的隐私保护制度体系，将隐私保护和人工智能技术相结合，建立起高校AI 教学管理中隐私保护体系。因此只有高校应建立完善的隐私保护制度体系，加强对AI 教学管理中数据安全的保护。

参考文献

[1] 陈慧 , 王帅 .AI 在高校教学管理中的实践与隐私隐患 [J]. 教育创新论坛 ,2024,22(3):34- 47.

[2] 刘畅 , 赵阳 . 教育数据隐私保护：挑战与破局之策 [J]. 教育信息化研究 ,2023,15(5)：65- 78.

[3] 张悦 , 李华 . 高校智能教学平台隐私风险剖析与防范路径 [J]. 现代教育技术探索 ,2024,18(4):89- 102.

作者简介：

刘金星（1984- ），女（汉族），河北邢台人，硕士，任职于 助理研究员，研究方向：教学评估与教学管理。