摘要 人工智能技术快速发展为推进电信网络诈骗治理智能化、精准化提供了新机遇，同时也被诈骗分子恶意利用给治理工作带来新挑战。系统梳理人工智能技术在电信网络诈骗治理工作中的
人工智能技术快速发展为推进电信网络诈骗治理智能化、精准化提供了新机遇，同时也被诈骗分子恶意利用给治理工作带来新挑战。系统梳理人工智能技术在电信网络诈骗治理工作中的应用实践，剖析其不当使用为治理工作带来的风险挑战，在总结国内外治理措施基础上，研究提出思路建议。
1引言
在电信网络诈骗治理领域，人工智能技术“双刃剑”效应明显，治理与诈骗技术对抗日趋激烈。一方面，人工智能技术不断促进治理能力提升。一些机构和企业积极利用大数据分析、机器学习等人工智能技术开展诈骗治理和风险防控工作，技术识别准确度更高、监测拦截实时性更强、防护覆盖面更大，有效降低了诈骗风险与危害。另一方面，人工智能技术被恶意利用带来风险隐患。诈骗分子积极利用人工智能技术精准筛选受骗者、精心设计诈骗脚本、伪造高仿真诈骗信息，使得诈骗呈现成本低、花样新、波及广等特点，隐蔽性、复杂性、迷惑性增加，引起社会的关注和担忧。
人工智能给电信网络诈骗治理带来的机遇与挑战相关推荐
2.1机遇大数据分析、机器学习、知识图谱等人工智能技术已被广泛应用于电信网络诈骗电话检测、恶意网址拦截等场景中，有效降低人力支出，快速发现疑似诈骗行为，极大地提高了诈骗治理工作的效率和质量[1-3]。
2.1.1诈骗电话检测利用大数据分析、模式识别等技术进行全天候诈骗电话检测，对海量通信数据进行预处理、多维融合、分析研判、交叉比对和模式识别。例如，中国电信“天翼蓝盾”反诈平台，针对“手机黑卡”大规模大范围提前预警的难题，对网络前后端融合数据智能分析，实现预付费卡在诈骗重点区域漫游动态监测、数据分析并快速处置高危涉诈号码。
2.1.2恶意网址拦截基于数据样本库，利用机器学习算法和大数据平台对海量网址进行特征比对检测、页面相似度分析，发现拦截疑似涉诈网址。例如，腾讯安全云库建立实时更新的网址黑白样本库，根据不同的应用场景不断调整和适配算法，最终选取准确率高的机器学习模型，在保证及时性的同时，也能达到较好的识别准确率。
2.1.3诈骗信息审核通过对已知诈骗信息的不断学习，结合自然语言处理、计算机视觉和语音识别等技术，可以实时分析并判断信息的可靠性，及早识别出涉诈或伪造内容。例如，360应龙综合反诈平台对疑似诈骗的文本、图片、账号等信息进行识别分类，在单省份一天能有效识别拦截虚假涉诈信息近70万条。
2.1.4受害者发现预警基于涉诈号码黑灰名单库等信息，人工智能模型算法能够对用户的异动情况进行快速分析处理，进而以自动外呼、发送预警短信、闪信等方式向疑似受害用户进行及时提示提醒。例如，阿里钱盾反诈公益平台不断更新迭代预警模型，形成自动化的诈骗行为和受害用户的及时发现预警能力。
2.1.5诈骗团伙研判分析基于知识图谱和分类聚类算法，诈骗团伙识别模型能够将离散的单点举报聚类成可疑诈骗团伙。例如，中国移动基于随机森林算法开发涉诈人群精准识别系统，对高危用户、贩卡用户、异常终端、异常区域进行识别，形成涉诈人群、手法、终端、区域、事件和拓展特征的精准画像识别，有效提高了诈骗重点地区的技术防范能力。
2.2挑战
电信网络诈骗活动包含精准信息获取、诈骗脚本设计、通信联络诱导、资金支付转移4个关键环节。人工智能技术在4个环节均被诈骗分子恶意利用，加剧了电信网络诈骗向精准化、拟人化、自动化方向蔓延发展[3，4]。
2.2.1在“精准信息获取”环节，人工智能加剧隐私泄露风险诈骗分子利用智能恶意软件等隐蔽窃取聊天记录、家庭关系等敏感信息。基于人工智能技术的热门应用增加了用户生物特征信息泄露风险，越来越多的语音交互产品让声纹更容易被收集。例如，换脸、换声应用软件需要用户在使用时提供面部特征等核心信息，一旦泄露或滥用将不可逆且带来极大风险。
2.2.2在“诈骗脚本设计”环节，人工智能被用于设计定制化脚本、精准选取受害人通过对特定人群的行为特征的训练学习，人工智能系统可生产出千万个定制化的诈骗脚本。以俗称“杀猪盘”的交友赌博类诈骗为例，诈骗分子通过智能分析公众发布信息，根据骗术对人群进行筛选，精准选取金融、社交等目标人群，提高诈骗成功率。
2.2.3在“通讯联络诱导”环节，人工智能使联络更加隐蔽，信息传播更快智能化的电信网络诈骗技术设备不断出现，智能群呼设备可远程操控、机卡分离实现诈骗呼叫异地落地。智能聊天机器人可同时操控几十个通信端口，在微信、婚恋网站中仿冒成美女聊天交友，批量谈恋爱，进而实施诈骗;换脸、换声产品可信度高、迷惑性强，2019年英国曝出骗子利用人工智能语音模仿软件冒充某能源公司高层，骗取子公司CEO22万欧元。
2.2.4在“资金支付转移”环节，人工智能带来盗刷盗用等风险智能语音支付、智能理财机器人、人脸支付、无感支付、刷脸取款等在实现金融服务的智能化同时也带来冒刷等风险。例如，不法分子通过获取的用户面部特征、虹膜、声纹、指纹等生物特征信息，冒充用户身份盗刷、盗用他人账户资金。
3人工智能背景下的国内外诈骗治理主要举措
包含中国在内的世界主要国家和地区从深化个人信息保护、提升技术防范能力、强化企业履责自律、加强警示宣传教育等方面着手，遏制人工智能诈骗活动的泛滥蔓延[5，6]。
3.1注重立法先行，强化法律制度保障
3.1.1制定专门法律法规或政策文件加强个人信息保护是人工智能诈骗源头治理的关键，全球已有上百个国家制定了个人信息保护法律。欧盟《通用数据保护条例》明确未取得数据主体同意，不得使用用户画像。美国国会提出《深度伪造责任法案》和《2019年深度伪造报告法案》等法律草案防范深度伪造技术滥用风险。我国高度重视个人信息保护、电话实名制在诈骗治理中的作用，《网络安全法》等法律法规以及工业和信息化部、公安部、人民银行等部门在政策文件明确了个人信息保护和实名登记等相关要求。
3.1.2加大违法行为惩处力度欧盟、美国、澳大利亚、英国等国家和地区均在立法中规定了“数据泄露通知”，明确民事处罚等级和金额。美国联邦议员提出《2018年恶意伪造禁令法案》，规定制作深度伪造内容引发犯罪和侵权行为的个人，以及明知内容为深度伪造还继续分发的平台，可处以罚款和/或长达两年的监禁。我国工业和信息化部部、公安部等政府部门坚持综合施策，工业和信息化部对重点地区和问题企业通报查处，针对移动软件数据安全问题进行问询约谈，公安机关重拳打击电信网络诈骗犯罪。
3.2强化技术手段，提升识别拦截能力
3.2.1政府主动出击，研制开发诈骗音视频拦截工具美国国防部研发出全球首款“反换脸”人工智能刑侦工具，能够高效、准确地自动检测出被修改过的图片和利用深度伪造技术生成的视频。工业和信息化部、公安部等积极构建诈骗治理技术体系，联合企业推进基于人工智能技术的诈骗电话、短信识别拦截以及涉诈网站识别拦截等技术的实际应用落地。
3.2.2各方积极响应，开发音视频造假检测技术联合国区域间犯罪与司法研究所、美国赛门铁克等公司研究检测虚假音视频技术。脸书与微软及麻省理工等大学合作，发起了“假视频检测挑战”活动，旨在利用人工智能技术更好地甄别深度伪造和合成内容，开发对抗深度伪造技术滥用的方法和工具。我国互联网企业和研究机构等也积极开展对换脸换声、合成语音诈骗等技术的研究和检测。
3.3强化企业履责，加大对关键环节管控
3.3.1聚力诈骗资金转账管理2019年，英国政府联合银行业界等发布《授权推送付款(APP)诈骗自律守则》，规定金融机构未能达到要求导致客户遭受APP诈骗，则需对客户损失赔偿，巴克莱银行、汇丰银行等8家机构加入。我国银监会多次下发银行业打击治理电信网络新型违法犯罪文件，要求各银行强化银行卡业务规范管理，坚决遏制违规代开卡、乱开卡、批量开卡等行为;建立对于涉案账户紧急止付和快速冻结等能力，最大限度挽回社会公众的财产损失。
3.3.2携手自动呼叫检测拦截2019年，美国AT&T和Comcast联合开展安全验证，实现机器人电话的自动检测与警示。我国基础企业、安全厂商等在精准服务上着力，通过汇总分析诈骗样本模板、关键特征等信息，不断加大对涉及人工智能的电信网络诈骗信息的识别、预警和拦截。互联网企业积极应用语音识别、语言理解等人工智能技术打击诈骗。
3.4加强警示教育，提升民众防范意识
2018年，以色列国家网络管理局提醒公众诈骗分子可能利用人工智能技术模仿管理层，命令员工进行资金转移等。澳大利亚税务局提醒公众有不法分子冒充政府机构并要求被害人使用比特币或其他加密货币支付子虚乌有的税费。我国工业和信息化部、公安部、人民银行等部门紧跟诈骗新形势新特点，聚焦人工智能诈骗重点地区、易受害人群，在电信营业厅、银行等重要场所组织连续播放诈骗提醒宣传材料，在银行转款、办理电信业务等关键环节强化身份验证和诈骗提醒，有效提升了防范意识。
4应对思路
当前我国在电信网络诈骗治理工作上取得了明显成效，但是面对人工智能时代电信网络诈骗的高隐蔽性、高危害性等特点，当前治理工作仍然存在着一定的问题与短板:法律法规尚需完善、管理范围仍需延伸、技术反制能力亟待提高、社会宣传引导仍需加强、协同精准治理力度有待强化等。需坚持发展与治理并重的思路，发挥法律、监管、技术、宣传、协同多方面综合治理能力，有效应对人工智能时代下的电信网络诈骗的治理问题，切实维护人民群众财产安全和利益。
4.1明晰治理思路，坚持发展与安全并举
4.1.1坚持促进发展和依法管理相统一既要大力培养人工智能等新技术在治理电信网络诈骗方面的应用，又要积极利用法律、监管等方式引导人工智能技术应用规范发展，降低技术滥用风险，在发展中探索解决部分问题。
4.1.2坚持安全可控和开放创新并重深化人工智能背景下电信网络诈骗治理研究，及时掌握相关风险，提升技术防范能力，搭建诈骗协同治理创新平台，推进社会共治。
4.2完善法律法规，加强制度保障
在立法层面，着力推进人工智能及数据安全专项立法，对数据非法采集、个人敏感信息交易、深度伪造等行为进行规制，明确不同主体责任，为电信网络诈骗治理提供基本法律依据。在执法层面，加强调查取证、快速联动和执法惩戒，特别是对实施网络诈骗的个人和平台以及数据过度采集、技术资源滥用、伪造仿冒他人等行为加大执法惩戒力度。
4.3压实主体责任，强化风险防控
在落实责任方面，通过监督检查、技术监测、社会监督、企业信用管理等多种方式引导相关单位切实落实诈骗治理主体责任，对责任落实不到位的加大整治处罚力度。在风险防控方面，针对人工智能相关技术业务定期开展涉诈风险安全评估，建立完善人工智能产品、应用和服务涉诈风险的检测方法和评估指标体系，对涉诈高风险技术或业务实施重点管理，防止技术滥用。
4.4开展创新研究，提升技术能力
在创新研究方面，以基金引导和政策鼓励等方式，推动产学研积极探索利用人工智能等新技术解决电信网络诈骗治理的重点难点问题，加快突破深度伪造仿冒研判、智能群呼设备识别等技术瓶颈。在技术应用方面，汇聚资源形成反诈大数据中心，推动大数据分析、智能监测预警等人工智能技术在现有反诈系统中的应用，提升技术反制的自动化、精准化和及时性。
4.5加强宣传引导，推进社会共治
在宣传引导方面，充分利用线上线下各类渠道进行诈骗风险提示，开展诈骗防范技术大赛，推广应用优秀创新示范案例，尤其加强对学生、老人等重点人群的针对性宣传教育。在社会共治方面，构建各部门深度协同的诈骗综合治理体系，完善跨行业、跨部门、跨地区的信息共享、综合研判和联防联控机制，健全国际诈骗预警、防范及联合惩处机制。共同提升基于人工智能的电信网络诈骗发现识别、打击治理的能力。
5结束语
随着电信网络诈骗治理工作的不断推进，攻防对抗逐步升级，诈骗手法不断向智能化、精准化发展，新问题、新情况不断出现，治理工作艰巨性、复杂性日益突出。人工智能技术为电信网络诈骗治理开辟了以“智”提“治”的新格局，为促进治理体系和治理能力现代化提供新动能，但也逐渐成为被诈骗分子恶意利用实施精准诈骗的新利器，为诈骗治理工作带来新挑战和新风险。应主动把握机遇，积极应对挑战，坚持促进发展和依法治理相统一，综合施策，智慧赋能，开创面向人工智能时代的电信网络诈骗治理工作新局面。
参考文献
[1]中国信息通信研究院.电信网络诈骗治理与人工智能应用白皮书[R]，2019.
[2]李佳，张娜.电信网络诈骗治理研究[J].中国信息安全，2019(9):74-77.
[3]中国信息通信研究院.防范治理电信网络诈骗创新实践实发项目应用汇编[R]，2019.
人工智能对电信网络诈骗治理的影响相关推荐计算机网络信息安全与防护
转载请注明来自：http://www.lunwenhr.com/hrlwfw/hrkjlw/14074.html