生成式AI 参与社会治理的风险挑战与实现路径研究

一、应用现状：社会治理范式迎来转变

罗萨从“技术的加速、社会变化的加速和生活节奏的加速”[]等方面围绕当前技术发展与社会变化展开讨论。技术的飞速发展不仅驱动了传媒业变革、促进人机耦合形态、增强媒体在社会治理中的主体性，同时也使社会治理范式面临新的转变。我们已步入鲍曼的液态社会，传统的技术垄断、技术使用、垄断在少数人手中的局面一去不返，技术使用的权利正液态化地流向每一位用户。[]以技术为核心的支撑下，高速流动的信息带来网络语境被撕裂、圈层巴尔干化、[]技术滥用导致的大数据侵权、数字鸿沟等难题，同时技术的创新与人之间的伦理悖论、人主体性的丧失等矛盾再度升级。如何应对此类技术发展带来的机遇与挑战对政府实施精准社会治理措施来说是不可避免的考验。

党的二十大报告强调，“畅通和规范群众诉求表达、利益协调、权益保障通道，完善网格化管理、精细化服务、信息化支撑的基层治理平台，健全城乡社区治理体系，及时把矛盾纠纷化解在基层、化解在萌芽状态。”[]在面对社会治理问题时，ChatGPT基于海量数据与训练的自动化生成内容为解决社会治理难题提供全新思路，高效互动为百姓使用生成式AI解决生活难题提供全新体验，加之模型的高效运转与内容重组、排列、人工训练、人类反馈强化学习等步骤，政府迎来智能传播赋能社会治理的新范式。

二、筚路蓝缕：生成式AI赋能社会治理的风险样态

（一）意识形态干预形成算法“黑箱”

雅斯贝尔斯曾说：“技术在本质上既非善也非恶，而是既可以为善也可以为恶，技术本身不包含观念，既无完善的观念也无恶魔似的毁灭观念，完善观念和恶魔观念有其它的起源，这就是人，只有人才赋予技术以意义”。[]随着技术的演进，技术中性论遭到众多声音的质疑并且越来越被人所否定。不可否认的是，人类是有思想的高级动物，只要是思想就会到有人的主观性，技术的背后包含人的意识形态、价值观、思想等因素，就像Open AI公司曾多次表示在ChatGPT模型的训练过程中极力避免训练师的人工价值观干预，使模型输出的内容尽量保持客观中立，但事实证明ChatGPT还会根据已有立场与价值观设定输出“双标”性答案。

在 AI 技术造就的政治与技术互嵌、真假杂糅的媒介景观下，意识形态风险呈现出“隐蔽化、全域化、复杂化和动态化”的特点。同时，模型训练师的意识形态就像抓奖时的“黑匣子”，处于前台用户所看不到的盲区地带，用户无权也没有途经知晓应用的代码程序、编码程序、决策流程与机制等，毕竟数据与程序代码归于有价值的知识产权。久之，算法黑箱的不透明性逐渐孕育而出算法偏见等现象，使生成内容的准确性有失偏颇，进而对社会治理造成隐忧与威胁。

（二）数据生成与应用中的隐忧

首先，ChatGPT运行的底层逻辑就是基于模型去寻找、搜集海量数据“纳入囊中”，通过爬虫等方式，使诸多用户的信息面临被盗窃的窘境。众所周知，2022 年社交软件Facebook泄漏 5 亿用户数据事件中可见海量数据需求与用户信息安全之间的权衡问题。

其次，基于人类反馈强化学习与人工驯化师意识形态植入流程中的漏洞助长模型窃取用户隐私并挑战社会治理。极端社会语言流动、虚假不实信息的传播不仅加剧社会动荡不安，背后的利益也诱导使用者找到技术漏洞从而钻法律的空子。英国技术哲学家大卫·科林格里奇在《技术的社会控制》（1980）中指出，一项技术如果因为担心不良后果而过早实施控制，那么技术很可能就难以爆发。反之，如果控制过晚，已经成为整个经济和社会结构的一部分，就可能走向失控，再来解决不良问题就会变得昂贵、困难和耗时间，甚至难以或不能改变。科林格里奇困境是如今伴随技术发展亟待打破的。

（三）社会治理体系亟待完善

面对ChatGPT强大的模型与学习能力，人们久而久之会习惯于利用ChatGPT此类生成式AI来解决生活、工作等方方面面的问题，这也就带来思维固化、对技术的持续性依赖从而丧失独立思考能力、沉溺于碎片化信息丧失深度思考的能力、城乡数字鸿沟加剧、数字难民越来越难、学术不端、失业率下降等风险，社会治理体系还需针对各式各样的风险实施精准把控。

据统计， 2023 年 1 月，在线课程平台“Study.com ”对 18 岁以上的美国学生进行的一项调查显示，在 1000 名接受调查的学生中， 89% 以上的学生使用过ChatGPT 完成家庭作业，超过 50% 的学生使用过 ChatGPT写论文， 22% 的学生曾要求ChatGPT 提供论文大纲。未来使用生成式AI所获取的成品能否称为学术创作，目前引起很多学者的探讨，学术创作的真实性同样面临很大挑战。

结语

“美国新闻可信度评估与研究机构NewsGuard发现，如果对ChatGPT提出充斥阴谋论和误导性叙述的问题，它能在几秒钟内改编信息，产生大量具有逻辑、令人信服却无明确信源的内容，可谓在一本正经的胡说八道。”ChatGPT作为一种新的数字生态体系，应用于智能客服、智能问答、智能推荐等场景，实现人与机器的智能交互，提供更加便捷、高效的社会服务；同时ChatGPT还可以用于舆情分析、社区治理等领域，提高社会治理的智能化水平。

尽管我们享受着ChatGPT的应用对社会治理的红利，然而我们也需要注意到，它们带来的全新挑战：如数据安全、隐私保护等问题。因此，在使用ChatGPT等人工智能技术时，需要权衡利弊，制定科学合理的发展策略，这样生成式AI才能推动新型数字政府赋能社会治理行稳致远。

参考文献

[1] [德]哈特穆特·罗萨《新异化的诞生——社会加速批判理论大纲》，郑作彧译，上海人民出版社2018 年版，第147 页。

[2] 齐格蒙特·鲍曼 . 流动的现代性 [M]. 欧阳景根，译 . 北京 ：中国人民大学出版社，2017.

[3] Hebenstreit J. Cyberbalkanization[C]// Skoric M M， Parycek P， Sachs M （Eds.）. Proceedings of the International Conference for E-Democracy and Open Government. Austria： DonauUniversität Krems， 2014： 15-28.

[4] 习近平 . 高举中国特色社会主义伟大旗帜 为全面建设社会主义现代化国家而团结奋斗——在中国共产党第二十次全国代表大会上的报告［R］. 北京：人民出版社，2022.

[5] Jaspers， K.， Origin and Goal of History[M]. New Haven， Conn： Yale University Press， 1953.

作者简介：刘畅，女，汉族，研究生，研究方向：智能媒介与区域形象传播。