AI诈骗犯罪及其侦查策略研究

基金项目： 2024年中央司法警官学院国家级大学生创新创业训练计划项目“AI诈骗犯罪实证分析、防范策略及其反诈机制建设研究”资助（编号：202411903004）；

摘要：AI技术作为前沿高新技术在方便人们生活的同时，也被诈骗分子用于诈骗犯罪之中，给群众造成巨大经济损失。AI诈骗犯罪隐蔽性更强、智能化程度更高、社会危害更大。本文详细分析了AI诈骗犯罪案件的侦查难点和策略。通过完善相关法律体系、更新侦查技术、培养专门人才、强化跨部门和跨区域合作来应对AI诈骗犯罪难题。

关键词：AI诈骗犯罪；智能化；侦查策略

近年来，我国诈骗犯罪活动多发，日趋猖獗，是我国刑事犯罪的主要犯罪类型，严重损害了人民群众的财产安全，给群众造成巨大的经济损失。随着AI（人工智能）技术的快速发展，不少犯罪分子已经将AI技术用于诈骗中，丰富诈骗手段，提高诈骗成功率。AI诈骗由于其手段更智能，作案方法更隐蔽，技术迭代更快，给公安机关对AI诈骗犯罪案件的侦查，布控，抓捕工作带来巨大挑战。

一、AI诈骗犯罪概述

人工智能（Artificial Intelligence），简称AI，主要研究开发理论、技术、科技和应用系统，以达到模仿、扩展和发展人类智能的目的。从1956年提出的最初概念到如今，仅用了不到60年的时间，人工智能就创造了大量的应用场景。不过任何事物的发展都有其两面性，AI技术开始被不法分子广泛用于违法犯罪之中，其中最突出的问题是被不法分子用于诈骗。2022年，陈先生到浙江温州市公安局瓯海分局仙岩派出所报案称，自己被“好友”诈骗了近5万元。经警方核实，诈骗分子利用陈先生好友发布的视频，截取其面部视频画面后再利用“AI换脸”技术合成，骗取其信任，从而实施诈骗[1]。

（一）AI诈骗犯罪

AI诈骗犯罪实质上是以非法占有为目的，借助AI智能化技术，AI深度伪造技术，通过AI智能软件挑选被害人，冒充他人身份，通过视频或语音让被害人放下防备，骗取信任，进而实施诈骗的新式诈骗犯罪类型。利用AI进行诈骗，其手段大多还是冒充熟人借钱，或是急需用钱治病等传统方式，但是由于犯罪分子利用AI技术变声，变脸，多数被害人眼见为实，放松警惕而导致更易被骗。

（二）AI诈骗犯罪相关罪名

1.诈骗罪

根据《刑法》第二百六十六条刑法解释：诈骗罪是指主要是指以非法占有为目的，用虚构事实或者隐瞒真相的方法，骗取公私财物的行为。AI诈骗依托于电信网络平台，利用AI技术伪造他人面部信息，声音信息，定制诈骗脚本手段使受害人放松警惕，使受害人上当受骗。其本质上是一种电信网络诈骗，是处于AI时代的一种新的诈骗形式。

2.帮助信息网络犯罪活动罪

帮助信息网络犯罪活动罪是指明知他人利用信息网络实施犯罪，为其犯罪提供互联网接入、服务器托管、网络存储、通讯传输等技术支持，或者提供广告推广、支付结算等帮助，情节严重的行为。为诈骗分子提供AI软件，提供深度伪造技术服务，搭建钓鱼网站和服务器等出售给诈骗分子，为诈骗分子“定制”犯罪工具，给诈骗分子提供银行账户等用于资金结算和转移是该罪名在AI诈骗犯罪上的主要表现行为[2]。

3.侵犯公民个人信息罪

违反我国法律规定，将人们的个人信息提供或出售给其他人，造成严重后果的，触犯侵犯公民个人信息罪。犯罪人员用AI实施犯罪，离不开收集与受害者有关的信息数据。无论AI是用于生成语音还是人脸，都必须收集受害者的面部和声音信息，其他隐私信息如姓名、身份证号、联系方式、财产状况等也容易被非法用于AI犯罪中。犯罪分子可以通过分析和挖掘大量的个人数据来了解一个人的生活方式，借此来掌握大量的个人信息，并利用这些个人信息以达到更好的诈骗效果[3]。

（三）AI诈骗犯罪的危害

AI诈骗由于其出现时间尚短，是一种新型诈骗方式，其深度伪造的换脸和换声视频极具迷惑性，打破了人们眼见为实的常规证实制度；AI大模型根据被害人量身定做的诈骗话术，诈骗陷阱让人防不胜防，难以逃脱。从公众层面而言，AI诈骗的危害主要体现在犯罪成功率高、成本低，治理难度大，严重威胁公共安全，破坏社会和谐稳定。AI诈骗的大量出现还将会对整个AI产业造成巨大的打击。在个人层面，AI诈骗不仅仅直接侵害受害人的财产安全，甚至还会牵连家庭，危及生命，部分人因此背负巨额债务后被迫选择自杀[4]。另外在AI技术的加持下，AI换脸，换声诈骗犯罪变得越来越智能，越来越难以侦破。当眼见不一定为实，耳听不一定为真之后，社会的信任体系，诚信制度将会受到前所未有的挑战。

二、AI诈骗犯罪案件类型及特征

（一）AI诈骗犯罪案件类型

1.AI合成音频类诈骗案件

诈骗分子在人工智能合成音频诈骗中先是通过各种途径收集受害者及其亲友的语音信息。这些途径包括给受害者拨打骚扰电话、在交友网站上与受害者对话、利用木马程序盗取语音记录等。收集到语音数据后，通过AI人工智能语音交换软件进行检测，生成高度逼真的伪造语音数据，然后利用这些伪造的语音欺骗受害者及其家人。大多数此类犯罪案件都是通过拨打虚假电话或语音邮件来实施诈骗。为了提高诈骗成功率，骗子通常会使用改号软件将号码改为受害人亲友的号码。当诈骗受害者接到一个好友电话并发现来电者的号码和声音相符时，他们往往会降低警惕性，不再做额外的检查确认，就认为电话是本人拨打。这可能会让骗子更容易实施他们的阴谋，从而诈骗成功。

2.AI换脸视频图像类诈骗案件

利用AI技术在图像视频中替换人脸，骗取受害人信任，或制作色情视频以骗取受害人钱财的行为被称为AI换脸视频图像诈骗。由于技术进步，一些复杂的AI换脸软件已经可以完成实时和动态的换脸。某些AI换脸软件伪造的虚构人脸，甚至能够欺骗计算机和软件，通过面部识别。就比如包头公布的一起利用AI技术实施电信诈骗的典型案例。郭某是一家公司的法人，他的好友通过视频联系他，想找郭某借400万元。基于对好友的信任，加上已经视频聊天“核实”了身份，郭某就把430万元转到了对方的银行账户上[6]。

3.利用AI大模型工具进行诈骗

骗子利用ChatGPT等AI人工智能大模型工具自动筛选目标，利用AI大模型分析受害者发布的各类信息，制作定向诈骗脚本、杀猪盘，编写恶意代码制作钓鱼网站。这类AI诈骗案件通常会向筛选出的受害人发送木马链接，点击链接后，受害者往往会落入骗子的圈套。由于这种AI诈骗手段是高度自动化和复杂的，受害者往往难以识别，更容易上当受骗。

（二）AI诈骗犯罪案件特征

1.诈骗行为隐蔽性

在多数AI诈骗犯罪案件中，诈骗分子与受害人的沟通大多是通过互联网、手机、短信等通讯工具间接进行的，诈骗分子未与受害人有过直接接触。诈骗人员不仅不与受害者直接接触，并且诈骗头目和诈骗集团的下属成员也不直接接触。通常情况下，他们会远程向下层诈骗人员下达指示，让他们实施特定的诈骗行为。这使得AI诈骗犯罪难以从人员线索上去侦破，大大提高了AI诈骗犯罪的隐蔽性，难以从案件中直接搜集线索。

2.诈骗手段智能性

随着科学技术的进步，用于实施诈骗的方法也在不断演变。从养老诈骗到电话网络诈骗，再到如今利用AI技术进行诈骗。骗子们会制定策略，收集受害者日常发布的各类信息，利用AI处理这些数据，自动评估搜索潜在受害者，并创建针对受害者的诈骗脚本，让人难以辨别真假，给预防侦破工作带来了挑战。

3.诈骗对象精确性

AI诈骗风险小、获利大，但是要想完成AI诈骗离不开大量的个人信息。因此在利益的驱使下，不法分子铤而走险，非法窃取公民隐私信息，以牟取暴利。在AI诈骗犯罪中，骗子需要大量的个人信息，通过AI技术分析并创建定制化的诈骗方案，实施精准诈骗。受害者一旦掉入陷阱，骗局中大量真实的个人信息极具迷惑性，让人信以为真，更难识别和避免他们的骗局。

4.诈骗行为跨域性

在这个全球化的时代，各个国家和地区间的经济、文化、科技等方面的交流更频繁，AI诈骗犯罪已从单一地区犯罪方式向跨地区、跨国界犯罪转变[7]。由于近年国内对于电信诈骗的清扫行动的持续推进，国内的电信诈骗情况有所改善，但是部分诈骗分子出逃海外，在周边国家仍然进行着电信诈骗犯罪活动，其中涉及的管辖，法规适用等问题影响了AI诈骗犯罪案件的侦破，也就导致跨区域的AI诈骗犯罪更加猖狂。

三、AI诈骗犯罪案件侦查难点

（一）相关法律不完善、界定难

2022年12月发布的《互联网信息服务深度合成管理规定》明确禁止创建、替换、更改人脸以及合成声音和模仿等行为 [8]。当今现有的一些法律法规规定了AI技术健康发展的大体框架，但是其约束能力有限，其根本原因在于AI是一种新兴技术，其发展尚未达到一个瓶颈阶段，在现有基础上制定的法律法规难以约束快速发展的AI。目前，我国对于AI诈骗的打击初见成效，但是对于AI诈骗犯罪的侦查，还缺乏制度的保障。电子数据的提取、保存和AI视频图片的辨伪、还原以及相应的预防还都缺乏一定的规范指导和法规约束，难以应对复杂多变的AI诈骗发展。

（二）侦查技术滞后、识别发现难

诈骗分子会经常升级自己的诈骗工具和手段，根据当前的社会现状调整自己的诈骗手段和说辞，紧跟当前社会发展。在当前数据技术和AI技术飞速发展的时代，AI智能模型将通过持续学习和训练，迭代得更快、更智能、更便捷。如果降低使用门槛和成本，就会有骗子试图利用这种技术和AI学习模型进行诈骗。由于AI诈骗犯罪的智能化程度较高，一些传统的侦查手段已无法打击AI诈骗犯罪，二者的智能化水平还存在一定的差距，要实现事前技术防范具有挑战性 [9]。同时，侦查人员的相关素质也有待提高，AI诈骗是一种新型的诈骗犯罪手段，其中涉及到众多网络和人工智能技术的专业知识，而在当前的公安系统中掌握此类知识的侦查人员数量较少，整体水平不高，急需加强相关专业的人才培养。

（三）跨境、跨区域作案，协作难

AI诈骗犯罪行为发生地和犯罪结果发生地往往不在同一地区，涉及不同公安机关的管辖，有的甚至涉及其他主权国家。而诈骗人员经常跨越地区边界，对受害者实施诈骗。目前我国众多省市的公安机关之间存在着沟通上的隔阂。虽然各省公安机关大多建立了各省的公安内网，但内网的数据并不共享。此外，跨区域调查、证据收集和逮捕行动需要协调，统一领导。如果合作不力，可能就错失调查和逮捕的机会。另一方面，同时与多方合作可能会导致调查时间过长、调查成本过高，以及在侦查时面临更多挑战。

四、优化AI诈骗犯罪案件侦查策略

（一）推进法制建设，完善法律制度体系

1.完善相关行业法规，打击AI诈骗产业链

2023年7月公布的《生成式人工智能服务管理暂行办法》中明确规定，AI提供者应当对生成式人工智能产品的训练数据和优化训练数据源的合法性负责[10]。同时还要加强对AI平台管理者和所有者责任的立法规范，用立法规范他们的AI商用行为，防止其为违法犯罪行为提供AI技术支持。此外，还要重视对公民隐私信息的立法保护，禁止利用AI技术非法窃取他人隐私信息并用于违法犯罪活动。取得他人隐私信息前务必告知用途且经过他人同意授权，对于已取得的隐私信息，要加强监管，合理保存禁止泄露，防止这些隐私被不法分子用于犯罪。

（二）逐步提升侦查技术、培养专门人才

1.利用AI技术对抗AI诈骗

AI是用于打击AI诈骗犯罪最有效的技术。公安机关应该与大学、研究中心和AI技术公司合作，推进AI技术，大数据技术等方面的研究[11]。开发AI辨伪软件，自动识别AI深度伪造的换脸视频图像素材。建设AI防火墙，实时动态的监测网络空间中的风险网站，风险链接，及时屏蔽并提醒潜在受害人，起到防范AI诈骗的作用。同时，还可以将这些数据用于对AI诈骗犯罪团伙的分析和对AI诈骗犯罪发展的趋势预测。利用AI分析诈骗方式和手段来识别相似AI诈骗犯罪案件，认定犯罪团伙，进而进行并案侦查，提高侦查效率;分析近年的AI诈骗犯罪案件，找到其发展规律，并据此制定相应的侦查措施，同时防范AI诈骗犯罪的发生。

2.提高侦查人员素质，建立人才培养机制

AI诈骗犯罪案件侦查的核心是侦查人员。AI诈骗犯罪案件要想快速侦破必须依靠人才，尤其是掌握相关法律知识、办案经验、AI技术知识的复合型人才[12]。侦查人员必须不断提高自身的技能水平，提高辨别能力，掌握最新的侦查技术，打造AI取证工具，实现数据取证技术的智能化。此外，要建立长效的人才培养机制，依托警察院校和尖端大学培养专业侦查人才。要定期开展培训和技术考核，促进其熟练掌握可靠的鉴定方法，确保AI专业技术侦查人才的长期供给。

（三）加强区域合作，提高侦查效能

AI诈骗犯罪案件经常涉及多个区域，多个地区和国家经常参与案件的调查和侦破。联合执法，加强区域合作是未来AI诈骗侦查的发展趋势。协作侦查机制是在侦查资源受限的情况下最大化利用侦查资源的一种尝试，即由属地管理模式，向协作侦查转变。各地公安机关共享情报线索，协助共同侦查抓捕犯罪嫌疑人[13]。另外，由于侦查机关本身AI技术知识层面的局限性，应当允许一些AI企业参与到AI诈骗案件侦查中，辅助侦查机关进行办案。他们能够在社会角度的商用AI层面给侦查机关带来技术支持和不一样的侦查视角，有助于侦查机关更加全面的去识别，去侦破AI诈骗犯罪。

AI诈骗以其智能化、低风险、高收益等特点，逐渐成为一种新的诈骗趋势。面对其不断更新的诈骗手段，公众的自我保护面临挑战，而隐蔽的犯罪活动也给公安机关的线索追踪和取证工作带来了诸多挑战。应建立完善的AI诈骗预防和侦查体系，提升侦查技术，建立长期部门合作机制，加强相关法律法规建设，规范人工智能行业的健康发展。

参考文献

[1]AI诈骗如何破解[N].长春晚报，2023-05-26（004）.

[2]徐瑞预.帮助信息网络犯罪活动罪研究[D].华东政法大学，2023.

[3]董云云.侵犯公民个人信息罪行为方式的问题研究[D].南昌大学，2023.

[4]范围.我国网络诈骗犯罪治理研究[D].苏州大学，2020.

[5]岁正阳.先声音再视频所谓“熟人”来敲门？——“AI换脸”诈骗乱象风险预警[J].中国信用，2023，（10）：109-115.

[6]AI换脸还是AI“偷脸”[N].衡阳晚报，2023-05-26（008）.

[7]程慧文.电信诈骗共同犯罪问题研究[D].南昌大学，2019.

[8]郭佳.AI诈骗成功率近100%！潘多拉魔盒已开启？[N].人民邮电，2023-05-30（007）.

[9]王江昕，谢萌.网络电信诈骗犯罪生态圈侦查对策研究[J].呼伦贝尔学院学报，2023，31（05）：92-96.

[10]陈敏.人工智能时代电信诈骗及其应对策略——基于Chatgpt带来的新思考[J].网络安全技术与应用，2023，（10）：141-143.

[11]蒋巍.人工智能时代的电信诈骗防治探析[J].理论观察，2019，（11）：124-126.

[12]韩晓俊.大数据侦查研究[D].中南财经政法大学，2021.

[13]方康澜.电信网络诈骗犯罪侦查方法论[D].中南财经政法大学，2022.