生成式人工智能的认知战风险与应对研究

在数字信息化时代背景下，科技的改革创新使得生成式人工制造逐渐映入大众的视野，生成式人工智能有着强大的自主创作能力，深度渗透在信息生产的各个环节，能高效产出多模态内容。但是生成式人工智能的发展在认知层面掀起了一场没有硝烟的战争，在生成式人工智能加持下的认知战争发生了颠覆性的变革，其以网络空间为主战场、以信息传播为主要手段，从精神上的破坏着手，以达到政治手段战争的胜利。因此，维护国家安全需认真解读生成式人工智能认知战的诸多风险，对其生成机理展开分析后制定有效的应对措施，力破认知迷局筑牢安全防线。

一、生成式人工智能的认知战的风险研究

（一）个体认知战

在当代智能认知战中，个体认知战首当其冲，其涉及认知解构与身份重塑。深度伪造的技术能精准模拟亲友的语音语调，导致个体逐渐丧失独立的主动权，消解了个体的认知主体地位，导致原本稳固的自我认知体系受到生成式人工智能的影响而不断动摇瓦解。另外，基于用户画像构建的虚拟社群加剧了个体的圈层化、极端化，大数据将具有相似偏好的人群归为一类、将持有不同见解的人群彻底隔离，导致对话空间被严重压缩。而随着个体认知主体地位的被消解，以及个体圈层化、极端化的发展，个人会沦为智能认知战中的“数字人”。其中大模型生成的具有迷惑性的信息会导致个体丧失自主探索欲，沉迷认知战散布的信息，逐渐沦为认知战的工具。

（二）社会认知战

在当前社会背景下，生成式人工智能引发的智能认知战在社会领域也掀起了不小的风波，社会场域是认知战从个体蔓延至国家的中介，随时会对社会稳定根基产生影响。而社会认知战主要表现为秩序的崩坏和权威的重塑，以扰乱社会伦理秩序为例，生成式人工智能能模拟真实的人物形象和声音生成多种虚假信息、散布违背公序良俗的言论，在网络空间中掀起轩然大波，导致是非对错的判断标准受到严重冲击，而传统的家庭观念、职业道德、社会公德会在无序的信息冲击下摇摇欲坠，使得人与人之间的信任逐渐瓦解，原本和谐有序的伦理框架面临崩塌，对社会的稳定以及长远发展产生阻碍作用。

二、生成式人工智能的认知战风险的应对策略

（一）整体性思维：加强系统研

1. 分析核心技术、运作机制

在新时期下，AIGC 核心组成技术的概念与运行机制的分析解读受到重视。AIGC 作为前沿科学的代表，其深度融合了机器学习、自然语言处理等多项核心技术，依托人工神经网络模型架构能精准捕捉并解析海量数据，从中提炼出关键信息 [1]。而通过不断地学习与自我优化 AIGC 模型突出了传统创作的局限，能高效生成涵盖文字、图像、音频等多种模态的数据资源，在形式上丰富多样、在质量和创意上也无可挑剔。而在 AIGC影响力扩大的同时，有关部门需深入研究其内在的复杂运行机制，梳理 AIGC 分析数据、整合数据、生成数据信息的全流程，挖掘其中的技术细节和潜在风险点，从而科学制定监管措施、制定技术标准，以牢牢把握认知战场的主动权。

2. 探索认知结构、认同规律

在探究应对智能认知战策略的进程中，需着重探究人类认知结构及认同规律，开展深入、细致地探索。智能认知战的核心在于重新塑造政府与公众的认知领域，而认知领域的角逐并非简单地表面交锋，而是基于人类认知结构、认同规律，以及信息传播机制的精准把控。人类的认知是由多种因素交织构成、相互影响的复杂系统，不同的个体受到多重因素的影响，形成了独特的认知模式，价值取向也并不一致，而对公众认知差异的把握是决胜智能认知战的关键所在。因此，有关部门需深入主体的认知领域，借助前沿学科的研究成果开展全面、深入的解析，采取多种研究方法揭示规律，并结合实际情况构建科学、高效的应对策略，以积极的姿态应对智能认知战，保障社会的稳定与发展。

（二）动态性思维：构建应对体系

1. 构建动态识别、敏捷应对机制

目前，AIGC 智能认知战以隐蔽且迅猛的方式悄然渗透公众的日常生活。在社交网络中、媒体传播中散布虚假信息，捏造各种内容，其如同病毒般在公众间肆意地传播、扩散，令人防不胜防。这些恶意制造的内容具有较强的迷惑性，干扰公众认知的同时还会对社会舆论环境和信息安全产生负面、消极的影响。针对这一问题，国家需联合多部门构建智能化攻防体系，整合多方资源形成强大的合力，建立平战一体的高效运行机制，将平时的监测预警与战时的应急处置有机结合。并应用大数据分析技术进行动态精准识别，在发现异常情况下迅速启动响应流程，剔除其中的虚假成分和有害元素，遏制 AIGC智能认知战带来的负面影响，维护社会的稳定与和谐。

2. 构建敏捷国际认知域共识体系

在当前数字化时代背景下，生成式人工智能所引发的认知战风险已经成为焦点议题，面对这一复杂且严峻的挑战，构建敏捷高效的国际认知域共识体系势在必行 [2]。智能认知战的影响范围逐渐从个体层面向国家层面延伸，进一步上升到国际战略博弈的战略高度，其波及广、影响深使得各国无法独善其身。基于此，国际社会着力构建动态灵活的协商机制，聚集不同国家和地区代表围绕人工智能在认知领域的应用与发展开展深入探讨，期间“施密特框架”被作为重要的准则，各国依据这一框架为人工智能的认知活动划定清晰的边界，明确战略底线，能有效缓解因无序竞争而引发的风险，并从根本上防止人工智能技术的滥用，避免其对人类整体认知造成不可逆转的危害，有效维护国际战略稳定。

（三）结构性思维：重塑公众认知

1. 提高智能时代公众认知水平

在当前智能技术飞速发展的时代，着力提升智能时代公众的认知水平是应对认知战的首要举措。公众认知水平的高低直接关系能否在复杂多变的认知战中取得胜利。期间培养重塑公众意识为重中之重，可以通过多种宣传渠道，让公众认识到生成式人工智能可能引发的各种认知挑战，呈现典型的案例以增强公众的判断力，使其明辨信息的真伪、优劣避免被虚假信息所误导。接着面向公众开展系列科普活动，传播关于生成式人工智能的知识，循序渐进提升公众的智能认知能力。在此基础上完善 AIGC 备案，对其相关应用以及服务进行系统的登记管理，出台安全指南告知公众的使用事项，使其安全合理地使用生成式人工智能，避免陷入潜在的风险。

2. 缓解智能时代公众认知焦虑

在人工智能迅猛发展的时代背景下，各类媒体内容层出不穷，繁杂的信息如同迷雾笼罩着公众的视野，易引发公众的认知焦虑。大量低质量、虚假的内容会破坏信息供需平衡，且随着人们对技术的依赖度加深，其无法从海量的信息中提取出关键信息，身处于认知争夺环境而无所适从 [3]。基于此，有关部门应肩负起缓解智能时代公众认知焦虑的重担，通过有效的行动维护绿色健康的信息环境，制定科学完善的审核机制，保障流入公众视野的信息真实可靠。与此同时加强对生成式人工智能生成内容的真伪的检测，应用先进的技术识别并处理虚假信息，以免其对公众产生误导。通过多种有效措施降低认知争夺的强度，引导公众树立正确的认知观念。

3. 强化智能时代公众认同程度

当代所开展的智能认知战手段非常隐蔽，核心在于解构国家共同体意识，会悄然间渗透到社会的各个层面、各个角落，对公众的意识形态产生影响，通过多重因素的共同交织动摇公众坚定的信念。基于此，有关部门需肩负起 h 强化智能时代公众认同程度的重担，借助生成式人工智能优化处理蕴含主流价值观、传递向善良意的内容，以此为基础训练专门的模型，精准产出契合不同群体需求与特点的信息，在潜移默化中对公众开展宣传教育，从而提高公众对国家、对主流思想的深度认同，在全领域范围内构建起充满正能量、积极向上的认知场，以此来抵御外部认知的渗透，筑牢根基夯实防御基础，维护国家的意识形态安全。

（四）开放性思维：内外有机耦合

1. 处理好认知战与实体战系统的关系

在当前视域下，生成式人工智能认知战备受瞩目，正确处理生成式人工智能认知战系统与实体战系统的关系势在必行 [4]。信息网络空间具有强大的影响，而生成式人工智能具备数据分析、内容生成等强大的功能，能够在舆论引导和心理作战方面发挥良好的成效，如剖析敌方的心理弱点有针对性地制造并传播特定信息，以信息为利刃动摇敌方的战斗意志。而实体站则是检验认知战效果的重要依托，主要通过军事部署、武器装备的运用以及军事行动展现威慑力量，直接挑战敌方军事能力并冲击敌方的心理防线，同时让认知战的宣传更具说服力和可信度。因此将加强生成式人工智能认知战与实体战的融合，协同发展构建有机统一整体，以发挥两者的最大效能。

2. 处理好国家硬实力与软实力的关系

在数智化浪潮下，推动国家软实力与硬实力的协同发展，是应对应用生成式人工智能认知战风险的有效举措 [5]。其中国家软实力深植于意识形态与文化价值，如同无形却坚韧的纽带，构建起了抵御外部干扰的认知屏障。从意识形态来看，政府需采取有效的措施坚定不移地巩固主流价值体系，以坚定不移地巩固主流价值体系，以科学理论武装头脑、指导实践。而国家硬实力是智能认知战的基石，其中经济领域需以稳中求进为总基调，大力培育新质生产力、塑造经济发展新动能；科学领域坚持自主创新与开放合作。期间将软实力与硬实力置于同等重要的战略地位，统筹规划、一体推进，全方位提升国家的综合国力。

结束语：

综上所述，在信息化时代背景下，生成式人工智能加持下的认知战受到重视，国家以及社会各界愈发认识到其复杂性与紧迫性。生成式人工智能在推动社会发展进步的同时，也对社会公众认知、价值观念产生了一定的冲击，使得个体思维模式、群体共识在悄然间发生改变，对国家安全与社会稳定产生了一定的冲击。针对智能认知战对个体、社会、国家产生的负面影响，应用整体性思维开展智能认知战系统的研究，应用动态性思维构建敏捷的应对体系，应用结构性思维重塑公众认知、应用开放性思维实现内外耦合，构建构成多维度、全方位的防御体系，能够实现维护国家安全的战略任务。

参考文献：

[1] 陈万球, 罗一人. 生成式人工智能的认知战: 技术生成、风险具象与系统性策略 [J]. 哲学分析 ,2025,16(2):117-130.

[2] 李梦浩, 李勇男. 生成式人工智能引发的认知安全风险与对策[J]. 广西警察学院学报 ,2024,37(5):99-108.

[3] 张文祥. 生成式人工智能虚假信息的舆论生态挑战与治理进路[J]. 山东大学学报（哲学社会科学版）,2025(1):155-164.

[4] 杨峰, 侯勇光. 人工智能时代认知战的安全风险[J]. 成都大学学报（社会科学版）,2025(4):18-22.

[5] 李春南, 王山. 生成式人工智能时代的语言安全: 系统性风险与治理路径[J].国际安全研究 ,2024,42(5):135-156.