生成式人工智能的风险和对策

摘要：以ChatGPT为代表的生成式人工智能技术不仅颠覆了传统的知识内容生产模式，更是在人类智能、意识、思维等传统技术难以触及的领域取得了重要突破。本文论述了人工智能应用的风险并提出相应管控措施。

关键词：生成式人工智能；应用风险；对策研究

2022年底，以ChatGPT为代表的生成式人工智能一经问世，就在短期内聚焦了全世界的目光，此后国内外互联网巨头纷纷跟进，推出了各自的生成式人工智能模型，如百度“文心一言”、阿里“通义千问”、360“智脑”、中国电科“小可”等。以大模型、大数据、强算力为基础而建构的生成式人工智能在语言翻译、程序编辑、产品设计、深度写稿、方案设定等原本需要发挥人类创造力的行业展现出了惊人潜力，被认为是和计算机以及互联网诞生一样重要的革命性技术进步。生成式人工智能通过模拟人类思考和处理问题的方式，从而改变了社会知识生产流程、组织运行模式、发展演变趋势、行业生态前景以及人机关系定位，是从专用人工智能到通用人工智能发展的转折点。然而生成式人工智能的加速发展也引发了侵犯个人隐私、危害国家数据安全、加剧市场垄断、固化社会歧视等一系列社会风险。本文旨在分析生成式人工智能在现代社会的风险，并提出相应的解决办法。研究目的主要包括以下三个方面：首先，梳理生成式人工智能的风险因素，为政府、企业和社会公众提供风险防范的参考。其次，提出有效的风险解决办法，促进生成式人工智能的健康发展。最后，探讨生成式人工智能在未来的发展趋势，为我国相关领域的发展提供政策建议。通过本文的研究，有助于提高人们对生成式人工智能风险的认识，为我国生成式人工智能产业的发展提供理论支持和实践指导。

一、生成式人工智能应用风险的分析

1、数据泄露

生成式人工智能通常需要大量的语言数据作为基础， 这必定会对网络上公开和非公开的数据进行收集和处理这些数据可能包含敏感信息。基于大规模数据训练的模式可能会导致个人身份、偏好和行为模式等敏感信息也会成ChatGPT 学习和收集的数据内容，从而影响个人信息安全，不法分子ChatGPT 进行有效的对话， 在信息主体没有防备的情况下对个人信息进行盗取，进一步侵犯公民个人信息。 除了上述数据存储面临的被动数据泄漏问题 ，ChatGPT还面临着主 动泄漏的问题。由于人们是通过与 ChatGPT 进行对话的方式，可以快速得出答案，随着与其对话交流的深入，ChatGPT 给出的回答会越发深刻。在输入问题一端的信息可能会变成另一端输出的数据，从而造成输入端人员的数据泄漏，此种情况的发生更加使得数据泄漏面临着风险不特定性。

2、恶意内容生成

生成式人工智能可以创建高度逼真的文本、图像、音频和视频内容。恶意使用者可能利用这一技术生成虚假信息、网络诈骗内容，甚至散布违法信息，对社会秩序造成严重影响。例如利用 AIGC技术，可以提取音频样本的声纹特征进行语音复制，轻松模仿一个人的声音，从而实施诈骗。同时，可以生成各类话术剧本，还能创建一个拥有图片、语音和视频信息的“虚拟角色”实施电信诈骗。根据《华尔街日报》报道，2019年3月，犯罪分子通过商业化的人工智能语音生成软件，成功模仿并冒充一家德国公司的CEO，欺骗其多位同事和合作伙伴，一天内多次诈骗并转移资金，使得该公司损失220000欧元（约折合173万元）。还有制造虚假证据用于勒索，勒索者通过 AI换脸软件将受害人人脸移植到裸模身上或正在从事不法活动的人身上，用于向受害人本人或家属进行敲诈勒索。制造虚假新闻操控舆论走向。甚至可以短时间内制造大批谣言，特别是生成关于政治人物的虚假图片、视频、音频，生成带偏见的评论等信息进行舆论走向的操控。

3、利用虚假信息混淆攻击

通过生成式人工智能，攻击者可以制作看似合法的数据，用于迷惑或误导安全防护系统，从而实现混淆攻击，损害网络安全。虚假信息因存在领域不同会在个人权益、社会秩序以及国家安全等不同层面产生风险隐患，而生成式人工智能技术会让虚假信息的破坏性得以放大而难以控制。在个人权益层面，编造谣言对 个体进行诽谤进而侵犯个体名誉权，这类虚假信息的风险在生成式人工智能广泛应用前就已经存在，而生成式人工技术场景下造谣成本的降低和造谣水平的增强使得谣言破除难度更高且风险隐患也更高，这放大了已有虚假信息的风险隐患。在社会秩序层面，生成式人工智能技术使得虚假社会新闻制作成本更低、速度更快和欺骗性更强，进而使社会秩序维护面临更高的挑战。

二、国内外生成式人工智能解决方法

1、完善数据安全的法律规制

近年来，我国政府对生成式人工智能的发展给予了高度重视，并出台了一系列政策法规以规范其发展。例如，我国在 2023年7月10日国家互联网信息办公室联合多个部门发布了《生成式人工智能管理暂行办法》（简称《暂行办法》），明确了人工智能的发展目标和战略布局，提出了加强人工智能伦理、法律和标准体系建设的要求。此外，《关于促进新一代人工智能健康发展的指导意见》等政策文件，也对生成式人工智能的治理提出了具体要求和措施。其次，建立专业的机构针对 ChatGPT储存数据空间的安全性进行评估，定期对存储的环境进行监测，发现漏洞及时修补。再者，要求企业设置有关用户同意条款，根据用户的个人选择是否同意 ChatGPT 存储个人数据访问数据和删除机制，保障个人数据隐私权利不受侵犯。

2、完善个体使用风险的规制和引导

我国积极推动生成式人工智能相关标准的制定工作。例如，全国信息技术标准化技术委员会设立了人工智能标准工作组，负责制定人工智能领域的国家标准。此外，我国还参与了国际标准化组织的活动，推动生成式人工智能国际标准的制定。合理设置服务提供者的责任和用户使用敏感信息的警告通知。ChatGPT 是根据用户的指令完成一系列有关信息的输出，其违法信息已经完成了传播，如果再要求服务提供者对此种情况负责，将会超出其控制和管辖的范围。

三、生成式人工智能在未来的发展趋势

ChatGPT及生成式人工智能的研究正处于快速发展阶段。随着深度学习技术的不断发展和进步，越来越多的生成式模型被提出，并能够生成具有创造性和多样性的各种内容。同时，生成式人工智能也在推动多个领域的前沿研究，包括自然语言处理、计算机视觉、机器人等领域。总之，生成式人工智能的研究可以增强人类创造力、推动跨学科研究、解决现实问题、推进社会进步，在未来有着广阔的发展前景和巨大的潜力。它也正逐渐走进我们的日常生活和各个产业，有着广阔的应用前景。

四、结语

ChatGPT 是人工智能发展的转折点，生成式人工智能在今后的发展中将会深度运用到生活各个方面，这将会给人类的生活带来翻天覆地的变化。因此，未来的研究应关注如何在保障技术创新的同时，解决这些潜在问题，以实现生成式人工智能的可持续发展。此外，各国政府、企业、研究机构等应加强合作，共同推动生成式人工智能的研究与应用，以实现人类社会的共同繁荣与进步。

作者简介：张浩东 男 大连东软信息学院 信息与商务管理学院